Решение.
а) Пусть плоскость AB1M и прямая A1N пересекаются в точке K. Рассмотрим сечение призмы плоскостью AA1N: точка N1 — середина стороны B1C1, поэтому отрезок NN1 параллелен ребру AA1, точка N1 лежит в плоскости AA1N.
Обозначим P точку пересечения медиан AN1 и B1M. По свойству медиан
Тогда треугольники A1PK и NAK подобны с коэффициентом
Следовательно, 
б) Удвоим отрезок В1N, продлив его за точку N до пересечения с прямой СС1 в точке С2. Ясно, что C1С2 = 2C1C. Пирамиды NAMB1 и С2AMB1 имеют общее основание AMB1, а их высоты, проведенные к этому основанию из точек N и С2 соответственно, относятся как 1 : 2. Следовательно,


где h — высота, проведенная к плоскости С2AM из точки B1.
Ясно, что эта высота — отрезок B1M, поскольку прямая B1M перпендикулярна пересекающимся прямым A1C1 и AC, лежащим в плоскости С2AM, а значит, перпендикулярна и самой этой плоскости. Таким образом, 
Чтобы найти площадь треугольника С2AM, вычтем из площади прямоугольника
площади треугольников
и
получим:

Следовательно, 
Ответ: б) 
Приведем другое решение пункта б).
б) Заметим, что:

Из формулы объема
где h — высота треугольника B1MC1, проведенная из точки M, выразим высоту:
Найдем площадь четырехугольника B1NCC1:

откуда
Следовательно,

Таким образом, объем пирамиды AMNB1 равен

Приведем решение методом координат (Александр Турбанов, Липецк).

а) Введём прямоугольную систему координат с началом в точке A, направим координатные оси, как показано на рисунке. Пусть
и
определим координаты точек:
Плоскость AMB1 проходит через начало координат, поэтому ее уравнение имеет вид
Подставляя в уравнение координаты точек M и B1, получаем:

Таким образом,

Пусть точка Q делит отрезок A1N в отношении 2 : 3, и определим ее координаты:
то есть
Проверим, что точка Q принадлежит плоскости AMB1. Подставляя координаты точки в уравнение плоскости, получим верное равенство:

Следовательно, плоскость AMB1 делит отрезок A1N в отношении 2 : 3.
б) Для вычисления объема пирамиды применим формулу

Из условия следует, что
и
Уравнение плоскости AMB1 принимает вид
то есть
Расстояние от точки
до плоскости, найдем по формуле:

В прямоугольном треугольнике AA1M по теореме Пифагора находим:
В треугольнике A1B1M найдем

Прямая B1M перпендикулярна плоскости ACC1, поэтому перпендикулярна и прямой AM. Следовательно, треугольник AB1M прямоугольный. Найдём его площадь:

Таким образом,
