Вообще представление какой-либо группы G есть отображение (соответствие), сопоставляющее каждому элементу g из G линейный оператор Tg, действующий в некотором векторном пространстве V, и притом такое, что сохраняется таблица умножения для группы, а единица e группы G отображается тождественным преобразованием I в V.
Подпространство V1 пространства V называют инвариантным подпространством относительно представления Tg, если все векторы

в V
1 преобразуются по T
g в векторы

, снова принадлежащие V
1, и это справедливо при всех преобразованиях T
g.
Каждое вращение является вращением вокруг некоторой оси, так что она может быть характеризовано заданием оси вращения, т.е. оси, вокруг которой осуществляется поворот и величины угла поворота. Таким образом, вращение может быть задано вектором

, направленным вдоль оси вращения и равным по величине углу поворота. Так, вращение вокруг оси 1 задается вектором

, вокруг оси 2 – вектором

и т.д. Элемент группы может рассматриваться как функция

, т.е.

, и тоже относится к представлению:

. Вектор

соответствует тождественному преобразованию

(3.5)
Рассмотрим бесконечно малые вращения вокруг той или иной оси. Их важность связана с тем, что они порождают однопараметрические подгруппы и что любое конечное вращение может быть построено как последовательность бесконечно малых. Бесконечно малые вращения коммутируют друг с другом, тогда как конечные вращения в общем случае не коммутируют.
Пусть

будет матрицей поворота на угол

вокруг оси 3, и пусть определена матрица

(3.6)
Оператор

называют генератором вращения вокруг оси 3. При бесконечно малом

можно записать

(3.7)
Теперь вращения

на угол

вокруг оси 3 может рассматриваться как результат n поворотов на угол

. Поэтому мы можем записать

(3.8)
Аналогичным образом можно определить генераторы вращений вокруг осей 1 и 2. Так как

(3.9)
то явным видом для

будет

(3.10а)
и аналогично

(3.10б)
Можно проверить, что генераторы

удовлетворяют следующим перестановочным соотношениям:

(3.11)
где

– полностью антисимметричный тензор 3-го ранга с компонентами, равными +1, если ljk есть четная перестановка 1 2 3, равными –1, если перестановка нечетная, и равными нулю в остальных случаях. Отметим, что оператор отражения

коммутирует со всеми вращениями

(3.12)
Бесконечно малый поворот вокруг

на угол

может быть записан в виде

(3.13)
Соответствующий оператор представления запишем

(3.14)
где

образуют представление генераторов и удовлетворяют перестановочным соотношениям

(3.15)
Пусть операторы

. Эти операторы будут эрмитовыми и удовлетворяют перестановочным соотношениям для операторов момента количества движения

(3.16)
В случае группы вращений со всеми генераторами коммутирует оператор

, и поэтому он является инвариантом группы. Его собственные значения, как известно из теории оператора момента количества движения, равны

, где

.Таким образом, каждое неприводимое представление характеризуется положительным целым или полуцелым j, включая 0. Размерность неприводимого представления равна

при любом весе j, целым или полуцелым. Переходя к классификации неприводимых представлений ортогональной группы, заметим, что линейный оператор

, соответствующий операции отражения

, коммутирует со всеми вращениями.
В теории представления групп, осуществляемых комплексными матрицами, фундаментальное значение имеет лемма Шура, в которой доказывается, что необходимое и достаточное условие для неприводимости представления состоит в том, чтобы единственными матрицами, коммутирующими со всеми матрицами представления, были матрицы, кратные единичной.
По лемме Шура в каждом неприводимом представлении он должен быть кратен единичному оператору. Таким образом, неприводимые представления ортогональной группы классифицируются парой индексов

, где второй индекс является собственным значением

, соответствующий данному представлению. При целых j имеем

(ибо

), так что существуют два различных неприводимых представления ортогональной группы. В одном из них

, в другом

.
При

представление одномерно, каждый элемент группы отображается единичным элементом, а генераторы тождественно равны нулю. Представление, в котором

, назовем скалярным, а то, в котором

, – псевдоскалярным.
При

представление группы вращений двумерно, и генераторы

могут быть реализованы эрмитовыми матрицами Паули

, умноженными на

:

(3.17)
Они удовлетворяют соотношению

(3.18)
Таким образом, в представлении веса

оператор поворота на угол

вокруг оси 3 записывается в виде