Пер­вый слу­чай.

Цен­тры O₁ и O окруж­но­стей, впи­сан­ных в тре­уголь­ни­ки BMC и AMD со­от­вет­ствен­но, лежат на бис­сек­три­се MO угла AMD. Окруж­ность, впи­сан­ная в че­ты­рех­уголь­ник ABCD, яв­ля­ет­ся также окруж­но­стью, впи­сан­ной в тре­уголь­ник AMD и внев­пи­сан­ной окруж­но­стью тре­уголь­ни­ка BMC. Будем ис­кать пло­щадь че­ты­рех­уголь­ни­ка ABCD, как раз­ность пло­ща­дей тре­уголь­ни­ков AMD и BMC.

Че­ты­рех­уголь­ник ABCD впи­сан в окруж­ность, сле­до­ва­тель­но, ∠BAD + ∠BCD  =  180°, но ∠BCM + ∠BCD  =  180°, от­ку­да ∠BCM = ∠BAD. Так как тре­уголь­ни­ки BCM и AMD имеют еще общий угол AMD, они по­доб­ны, при­чем ко­эф­фи­ци­ент по­до­бия равен от­но­ше­нию ра­ди­у­сов окруж­но­стей, впи­сан­ных в эти тре­уголь­ни­ки.

Далее имеем:

1)  

2)   где p  — по­лу­пе­ри­метр тре­уголь­ни­ка BCM, рав­ный по свой­ству внев­пи­сан­ной окруж­но­сти длине от­рез­ка KM.

3)  Из пря­мо­уголь­но­го тре­уголь­ни­ка OKM, на­хо­дим от­ку­да

Под­став­ляя най­ден­ное зна­че­ние S_ΔBCM в фор­му­лу S_ABCD, окон­ча­тель­но по­лу­ча­ем

Вто­рой слу­чай.

От­ли­ча­ет­ся от пер­во­го по­ло­же­ни­ем точки M левее точек D и A. В этом слу­чае R < r и в рас­суж­де­нии они и тре­уголь­ни­ки BCM и ADM долж­ны быть по­ме­ня­ны ме­ста­ми. Таким об­ра­зом, в этом слу­чае

Ответ: или

Пер­вый слу­чай.

Цен­тры O₁ и O окруж­но­стей, впи­сан­ных в тре­уголь­ни­ки KPN и LMP со­от­вет­ствен­но, лежат на бис­сек­три­се PO угла KPN. Окруж­ность, впи­сан­ная в че­ты­рех­уголь­ник KLMN, яв­ля­ет­ся также окруж­но­стью, впи­сан­ной в тре­уголь­ник KPN и внев­пи­сан­ной окруж­но­стью тре­уголь­ни­ка LMP.

Че­ты­рех­уголь­ник KLMN впи­сан в окруж­ность, сле­до­ва­тель­но, ∠LKN + ∠LMN  =  180°. Но ∠LMP + ∠LMN  =  180°, от­ку­да ∠LKN = ∠LMP. Так как тре­уголь­ни­ки KPN и LMP имеют еще общий угол KPN, они по­доб­ны, при­чем ко­эф­фи­ци­ент по­до­бия равен от­но­ше­нию ра­ди­у­сов окруж­но­стей, впи­сан­ных в эти тре­уголь­ни­ки.

Далее имеем:

1)  

2)  S_ΔLPM  =  pR, где p  — по­лу­пе­ри­метр тре­уголь­ни­ка LPM рав­ный длине от­рез­ка AP, как сумма от­рез­ков ка­са­тель­ных про­ве­ден­ных из одной точки.

3)  из пря­мо­уголь­но­го тре­уголь­ни­ка OAP на­хо­дим от­ку­да

Под­став­ляя най­ден­ное S_ΔLPM в фор­му­лу пло­ща­ди тре­уголь­ни­ка KPN, окон­ча­тель­но по­лу­ча­ем

Вто­рой слу­чай.

От­ли­ча­ет­ся от пер­во­го рас­по­ло­же­ни­ем точки P левее точек N и K. В этом слу­чае R > r и в рас­суж­де­нии они и тре­уголь­ни­ки LMP и KPN долж­ны быть по­ме­ня­ны ме­ста­ми. Таким об­ра­зом, в этом слу­чае KPN  — мень­ший из двух тре­уголь­ни­ков, а ра­ди­ус впи­сан­ной в него окруж­но­сти r. Зна­чит

S_KPN  =  rp, где p  — по­лу­пе­ри­метр тре­уголь­ни­ка KPN рав­ный от­рез­ку PB. При этом, как и в пер­вом слу­чае, Таким об­ра­зом,

Ответ: или