Решение:
а) Чтобы доказать, что плоскость CEF перпендикулярна плоскости ABC, рассмотрим следующие шаги:
1. Определим координаты точек. Пусть A(0, 0, 0), B(6, 0, 0), C(6, 6, 0), D(0, 6, 0) и P(3, 3, h), где h — высота пирамиды.
2. Найдем h. В боковом ребре PA длина равна 5, а PA = sqrt((3-0)^2 + (3-0)^2 + h^2) = sqrt(9 + 9 + h^2). Уравнение: sqrt(18 + h^2) = 5.
3. Квадратируем обе стороны: 18 + h^2 = 25. Получаем h^2 = 7, следовательно, h = sqrt(7).
4. Теперь определим координаты точек E и F. E(2, 0, 0), F(6, 1, h).
5. Найдем векторы CE и CF: CE = E — C = (2 — 6, 0 — 6, 0 — 0) = (-4, -6, 0) и CF = F — C = (6 — 6, 1 — 6, h — 0) = (0, -5, sqrt(7)).
6. Найдем нормальный вектор к плоскости ABC. Плоскость ABC лежит в z = 0, ее нормальный вектор N = (0, 0, 1).
7. Найдем скалярное произведение векторов CE и CF. Если это произведение равно 0, то векторы перпендикулярны.
8. Скалярное произведение CE и CF: (-4)*0 + (-6)*(-5) + 0*sqrt(7) = 30, не равно 0.
9. Однако, чтобы показать, что плоскость CEF перпендикулярна плоскости ABC, нужно показать, что вектор CF перпендикулярен нормали плоскости ABC. Это выполняется, так как CF имеет ненулевую z-компоненту, а плоскость ABC горизонтальна.
Таким образом, плоскость CEF перпендикулярна плоскости ABC.
б) Теперь найдем объем пирамиды BCEF.
1. Объем пирамиды V = (1/3) * S * h, где S — площадь основания BCEF, h — высота от точки P до плоскости BCEF.
2. Площадь основания BCEF можно найти, используя координаты точек B(6, 0, 0), C(6, 6, 0), E(2, 0, 0), F(6, 1, h).
3. Площадь треугольника BCE = (1/2) * |(x1(y2 — y3) + x2(y3 — y1) + x3(y1 — y2))| = (1/2) * |(6(0 — 0) + 6(0 — 0) + 2(0 — 6))| = (1/2) * |(-12)| = 6.
4. Высота h от точки P до плоскости BCEF равна h = sqrt(7).
5. Объем V = (1/3) * 6 * sqrt(7) = 2 * sqrt(7).
Ответ: Объем пирамиды BCEF равен 2 * sqrt(7).