회전, 반사, 이동의 수학적 표현