3. Доказательство теоремы 2
Пусть G=SU(p,q),
Пусть
1) Если
Заметим, что функция F принимает значение ноль в какой-то точке единичного круга
Заметим также, что внутренним автоморфизмом можно непрерывно перевести Ak1l1(z) в Ak2l2(z), а, значит, и A(z) в B(z). Далее, поскольку интеграл
есть целое число (равное числу нулей функции Fkl, ввиду ее аналитичности), и подынтегральная функция меняется непрерывно при переходе от матрицы Ak1l1(z) к Ak2l2(z), получаем, что этот интеграл имеет одно и то же значение для любых k и l. Точно так же будут совпадать интегралы
Поскольку функция F имеет ноль внутри единичного круга,
2) Если p>q, то оценим степень
и повторив вышеприведенные рассуждения с учетом того, что
Предложение. Пусть
Доказательство.Пусть Z - квадратная матрица размером
Осталось доказать ограниченность модуля функции
где Z=P(K+L)(M+N)-1Q-1. Заметим, что отображение (CZ+D)(AZ+B)-1 преобразует область E-Z*Z<0 в область E-Z*Z>0 и наоборот. Поэтому, чтобы доказать ограниченность Ф(X), достаточно показать, что E-Z*Z<0, т.е. что все собственные числа матрицы Z*Z больше или равны единице. А это действительно так ввиду того, что диагональные матрицы P и Q-1 состоят из чисел, больших или равных единице, а матрица (K+L)(M+N)-1 унитарная.
Для матриц из SU(p,q) при p>q требуемый пример получается ограничением указанной функции
Списоклитературы
Ol'shanski
Lawson J.D. Semigroups of Ol'shanski
Рудин У. Теоpия функций в поликруге. М.: Миp, 1974.
Koranyi A., Vagi S. Rational inner functions on bounded symmetric domains // Trans. Amer. Math. Soc., 254 (1979), 179-193.
Попов В.Л. Группы Пикара однородных пространств // Известия АН СССР. Сер. математическая. Т. 38. ò2. Март-апрель (1974). С. 296.
Владимиров В.С., Сергеев А.Г. Комплексный анализ в трубе будущего // Соврем. проблемы математики. Фунд. направления. Т. 8 (Итоги науки и техн. ВИНИТИ АН СССР). М.: 1985, С.191-266.
Пятецкий-Шапиро И.И. Геометрия классических областей и теория автоморфных функций. М.: Гос. изд-во физ.-мат. лит-ры, 1961.