При каких значениях a найдутся такие положительные b, что система уравнений
имеет ровно три различных решения?
График второго уравнения системы — окружность ω с центром в точке (a; a), лежащим на прямой 
и радиусом b. Решим задачу графически: определим, при каких значениях параметра a данная окружность имеет с графиком первого уравнения системы ровно 3 общие точки.
Заметим, числитель дроби в левой части первого уравнения системы должен быть равен нулю, а знаменатель — отличен от нуля. Тем самым, при условиях 
исходная система равносильна следующей смешанной системе:
Уравнение x = 1 задает прямую, параллельную оси ординат и проходящую через точку (1; 0). Уравнение y = 1 задает прямую, параллельную оси абсцисс и проходящую через точку (0; 1). Уравнение 
задает прямую, угловой коэффициент которой равен −1, пересекающую ось ординат в точке 
Условия 
и 
задают прямой угол с вершиной в точке 
стороны которого лежат на прямых, задаваемых уравнениями y = 1 и х = 1 (см. рис., выделено красным). В силу условия 
которое означает, что х и у не равны нулю одновременно, вершина угла A графику уравнения не принадлежит.
Пусть, далее, 
— точка пересечения прямых 
и 
— точка пересечения прямых 
и 
Треугольник ABC прямоугольный равнобедренный с гипотенузой BC и катетами AB и AC. Длины катетов равны 
длина гипотенузы равна 
Заметим, что система не меняется при замене y на х, а х на y. Если пара (m; n) является ее решением, то и пара (n; m) будет решением системы. Следовательно, для того чтобы система имела нечетное количество решений, необходимо, чтобы одним из решений была пара равных чисел 
Геометрически это означает, что график системы симметричен относительно прямой а одно из ее решений должно лежать на прямой 
Точка А не подходит — она выколотая. Определим, в каких случаях окружность ω проходит через точку D — середину отрезка BC — и пересекает стороны угла ABC ровно один раз. Возможны три случая.
Первый случай. Окружность вписана в треугольник ABC (на рисунке это окружность с центром Q). Радиус окружности, вписанной в прямоугольный треугольник, равен полуразности суммы катетов и гипотенузы: 
поэтому искомый радиус b = 1 при а = 2.
Второй случай. Окружность касается гипотенузы и продолжений катетов (на рисунке это окружность с центром P, выделена фисташковым). Радиус данной окружности b и соответствующее значение a найдем из подобия прямоугольных треугольников OQM и OPN: 
где 
Тогда искомый радиус 
при 
Третий случай. Окружность пересекает катеты AB и AC каждый в одной точке. Это происходит, когда окружность второй раз пересекает прямую 
в точке А(1; 1) или ниже. Пусть центром окружности (выделана на рисунке бирюзовым) является точка 
— середина отрезка АD. Тогда 
Если 
то окружность, касающаяся BC, пересекает катеты AB и AC каждый в одной точке, т. е. удовлетворяет условию задачи. В этом случае 
поэтому 
Если 
то центр окружности лежит между точками R и 
а тогда касающаяся гипотенузы окружность пересекает каждый катет дважды, и система имеет 5 решений.
Ответ: 
Благодарность.
Редакция благодарит Анну Георгиевну Малкову, придумавшую и приславшую нам эту замечательную задачу.