матрица порядка n матрица
,
произведение которой на транспонированную матрицу А' даёт единичную матрицу, то есть АА' Е (а следовательно, и A'A Е ). Элементы О. м. удовлетворяют соотношениям:
или эквивалентным соотношениям:
Определитель | A | О. м. равен +1 или -1. При перемножении двух О. м. снова получается О. м. Все О. м. порядка n относительно операции умножения образуют группу , называемую ортогональной. При переходе от одной прямоугольной системы координат к другой коэффициенты aij в формулах преобразования координат
образуют О. м. См. также Унитарная матрица .