Окружность S проходит через вершину C прямого угла и пресекает его стороны в точках, удаленных от вершины C на расстояния 6 и 8. Найдите радиус окружности, вписанной в данный угол и касающийся окружности S.
Пусть окружность S с центром O и радиусом R пересекает стороны данного прямого угла в точках A и B, AC = 8, BC = 6, искомая окружность с центром Q касается сторон и BC угла ACB в точках N и K соответственно, а окружности S — в точке M.
Точка O — центр окружности, описанной около прямоугольного треугольника ABC, поэтому O — середина его гипотенузы AB.
Линия центров двух касающихся окружностей проходит через точку их касания, поэтому точки M, O и Q лежат на одной прямой. Опустим перпендикуляр OH из центра окружности S на прямую BC. Тогда OH — средняя линия треугольника ABC поэтому 
и 
а так как центр окружности, вписанной в угол, лежит на его биссектрисе, то ∠QCK = 45°, поэтому CK = QK = r.
Опустим перпендикуляр QF из центра искомой окружности на прямую OH. Тогда
Предположим, что искомая окружность и окружность касаются внутренним образом. Тогда
Рассмотрим прямоугольный треугольник OFQ. По теореме Пифагора OQ2 = OF2 + QF2 или
откуда находим, что 
Если же искомая окружность касается данной внешним образом, то
Тогда из соответствующего уравнения (5 + r)2 = (4 − r)2 + (r − 3)2 находим, что r = 24.
Ответ: 4 или 24.