행렬의 기초 - 행렬과 행렬의 곱셈

이번 글에서는 벡터(vector)들의 연산을 효율적으로 표현하기 위해서 행렬(matrix)를 정의하고 그 성질을 살펴볼 예정이다.

 

먼저 행렬의 정의는 숫자나 함수(function), 연산자(operator)들의 2차원 배열(array)을 의미한다. 사각 격자에 원하는 대상을 집어넣으면 된다.

 

행렬을 맨처음 만들게 된 계기는 사실 연립 방정식(simultaneous equation)을 풀기위해서 였다. 다음과 같은 두 개의 연립 방정식을 생각해보자.

$$\begin{array}{}\text{(1)}& ax+by=m\end{array}$$

$$\begin{array}{}\text{(2)}& cx+dy=n\end{array}$$

 

평범하게 연립 방정식을 푸는 방법은 두 식 중 원하는 식을 한 변수에 대한 식으로 고친 다음 나머지 식에 대입하는 방식을 이용한다. 하지만 변수의 개수가 많아지면 이 방법은 상당히 풀이가 복잡해진다.

 

 

하지만 이 식들을 다음과 같이 표현해보자.

$$\begin{array}{}\text{(3)}& \left(\begin{array}{cc}a& b\\ c& d\end{array}\right)\left(\begin{array}{c}x\\ y\end{array}\right)=\left(\begin{array}{c}m\\ n\end{array}\right)\end{array}$$

 

식 (3)과 같이 연립 방정식을 표현하는 방식이 행렬과 벡터를 이용한 표현 방법인데 이 방법을 이용하면 연립 방정식에 대한 관점을 바꿀 수 있다.

 

식 (3) 형태는 $x$와 $y$를 성분으로 가지는 벡터가 어떤 행렬에 의해 $m$과 $n$을 성분으로 가지는 벡터로 변환(transform)된 것이다. 이제 우리는 변환 행렬(transformation matirx)의 성질을 이용해서 원래 벡터를 찾아낼 수 있다.

 

 

잠시 우리가 다루려는 행렬의 성분이 전부 실수(real number)인 경우를 생각해보자. 식 (3)에서와 같이 사각형 격자를 만들 수 있으며 크기는 얼마든지 더 크게 만들 수 있다.

 

따라서 세로로 $m$개 성분을 가로로 $n$개 성분을 가지는 행렬을 생각해보자. 이 행렬의 성분의 개수는 전부 $m\times n$개이며 우리는 $m\times n$ 행렬이라고 부른다.

$$\begin{array}{}\text{(4)}& \left(\begin{array}{ccccc}{A}_{11}& A_{12}& A_{13}& \cdots & A_{1n}\\ A_{21}& A_{22}& A_{23}& \cdots & A_{2n}\\ ⋮& ⋮& ⋮& \ddots & ⋮\\ A_{m1}& A_{m2}& A_{m3}& \cdots & A_{mn}\end{array}\right)\end{array}$$

 

여기서 행렬의 특정 성분만 보고 싶을 수 있다. 몇 번째 가로줄과 몇 번째 세로줄에 있는지 알면 정확한 성분을 지칭할 수 있고 우리는 여기서 몇 번째 가로줄인가를 얘기할 때 행(row)이라고 하며 몇 번째 세로줄인가는 열(column)이라고 한다.

 

가령 식 (4)에서 $A_{23}$은 2행 3열에 있는 성분을 의미한다. 많은 경우 $A$라는 어떤 행렬의 $\alpha$행 $\beta$열 성분은 $A_{\alpha \beta }$로 표현한다.

 

또한 한 줄로만 이루어진 행렬을 생각해 볼 수 있는데 사실 이는 벡터와 전혀 다르지 않음을 알 수 있다. 이러한 종류에 대해선 나중에 텐서(Tensor)로 더 일반화 해서 생각할 수 있다.

 

근데 한 줄을 행으로 뽑는가 열로 뽑는가에 따라서 벡터의 모양은 좀 다를 수 있다. 그래서 행으로 뽑는 벡터를 행 벡터(row vector), 열로 뽑는 벡터를 열 벡터(column vector)라고 부르기도 한다.

 

 

여기서 잠시 식 (3)과 식 (1), (2)의 관계를 통해 행렬이 어떻게 벡터를 변환시키는지 그 연산 법칙을 유추해 볼 수 있다. 먼저 $3\times 3$ 행렬의 경우 어떤 변환을 만드는지 생각해보자.

$$\begin{array}{}\text{(5)}& \left(\begin{array}{ccc}{A}_{11}& A_{12}& A_{13}\\ A_{21}& A_{22}& A_{23}\\ A_{31}& A_{32}& A_{33}\end{array}\right)\left(\begin{array}{c}x\\ y\\ z\end{array}\right)=\left(\begin{array}{c}{A}_{11}x+A_{12}y+A_{13}z\\ A_{21}x+A_{22}y+A_{23}z\\ A_{31}x+A_{32}y+A_{33}z\end{array}\right)\end{array}$$

 

여기서 주의해야 할 점은 변환 행렬의 열의 개수와 변환되는 백터의 행의 개수는 일치해야 한다. $m\times n$ 행렬은 $n$차원 벡터만 변환이 가능하다. 다음과 같은 연산은 정의되지 않는다.

$$\begin{array}{}\text{(6)}& \left(\begin{array}{ccc}{A}_{11}& A_{12}& A_{13}\\ A_{21}& A_{22}& A_{23}\\ A_{31}& A_{32}& A_{33}\end{array}\right)\left(\begin{array}{c}x\\ y\end{array}\right)\end{array}$$

 

그렇다면 $1\times n$ 행렬과 $n\times 1$ 열 벡터의 연산도 생각해 볼 수 있으며 이는 사실 내적(inner product)과 동일함을 알 수 있다.

$$\begin{array}{}\text{(7)}& \left(\begin{array}{ccccc}{a}_1& a_2& a_3& \cdots & a_n\end{array}\right)\left(\begin{array}{c}{b}_1\\ b_2\\ b_3\\ ⋮\\ b_n\end{array}\right)=a_1{b}_1+a_2{b}_2+a_3{b}_3+\cdots +a_n{b}_n\end{array}$$

 

 

알버트 아인슈타인

이번엔 $m\times n$ 행렬이 $n$차원 벡터를 변환시키는 경우로 일반화 시켜보자.

$$\begin{array}{}\text{(8)}& \left(\begin{array}{ccccc}{A}_{11}& A_{12}& A_{13}& \cdots & A_{1n}\\ A_{21}& A_{22}& A_{23}& \cdots & A_{2n}\\ A_{31}& A_{32}& A_{33}& \cdots & A_{3n}\\ ⋮& ⋮& ⋮& \ddots & ⋮\\ A_{m1}& A_{m2}& A_{m3}& \cdots & A_{mn}\end{array}\right)\left(\begin{array}{c}{x}_1\\ x_2\\ x_3\\ ⋮\\ x_n\end{array}\right)=\left(\begin{array}{c}{A}_{11}{x}_1+A_{12}{x}_2+A_{13}{x}_3+\cdots +A_{1n}{x}_n\\ A_{21}{x}_1+A_{22}{x}_2+A_{23}{x}_3+\cdots +A_{2n}{x}_n\\ A_{31}{x}_1+A_{32}{x}_2+A_{33}{x}_3+\cdots +A_{3n}{x}_n\\ ⋮\\ A_{m1}{x}_1+A_{m2}{x}_2+A_{m3}{x}_3+\cdots +A_{mn}{x}_n\end{array}\right)\end{array}$$

 

그런데 매번 식 (8)과 같이 쓰기는 힘들 것이다. 특히 다루고자 하는 차원이 높아지면 높아질 수록 손으로 쓰기조차 버거워진다. 따라서 식 (8)의 우변의 결과 벡터를 다음과 같이 합 기호(summation)을 이용해서 간략화 해보자.

$$\begin{array}{}\text{(9)}& \left(\begin{array}{c}{A}_{11}{x}_1+A_{12}{x}_2+A_{13}{x}_3+\cdots +A_{1n}{x}_n\\ A_{21}{x}_1+A_{22}{x}_2+A_{23}{x}_3+\cdots +A_{2n}{x}_n\\ A_{31}{x}_1+A_{32}{x}_2+A_{33}{x}_3+\cdots +A_{3n}{x}_n\\ ⋮\\ A_{m1}{x}_1+A_{m2}{x}_2+A_{m3}{x}_3+\cdots +A_{mn}{x}_n\end{array}\right)=\left(\begin{array}{c}\sum _{i=1}^n{A}_{1i}{x}_i\\ \sum _{i=1}^n{A}_{2i}{x}_i\\ \sum _{i=1}^n{A}_{3i}{x}_i\\ ⋮\\ \sum _{i=1}^n{A}_{mi}{x}_i\end{array}\right)\end{array}$$

 

식 (8)에서 행렬을 $A$, 변환되는 벡터를 $x$, 변환된 행렬을 $y$라고 표현하면 다음과 같다.

$$\begin{array}{}\text{(10)}& Ax=y\end{array}$$

 

이제 $y$의 $j$번째 성분을 식 (9)를 이용해서 표현하면 다음과 같다.

$$\begin{array}{}\text{(11)}& y_j=\sum _{i=1}^n{A}_{ji}{x}_i\end{array}$$

 

아인슈타인(Einstein)이 사용한 표현법에 의해 합 기호를 빼고 간단하게 $y_j=A_{ji}{x}_i$로 표현하기도 한다. 상대성 이론(relativistic theory)에서 많이 사용되는 표현법이며 한쪽 항에 문자가 2개 있다면 합 기호가 생략된 것으로 간주한다.

 

 

지금까지 행렬이 벡터를 변환하는 과정으로 봤다. 근데 벡터를 지금 행이나 열이 1개인 행렬로 봤었다. 따라서 이 과정은 행렬과 행렬의 곱셈으로 생각할 수 있다.

 

따라서 이번엔 이 과정을 일반화시켜서 행렬간의 곱셈을 만들어 볼 수 있다. 벡터의 연산에서와 마찬가지로 $m\times n$ 행렬은 $n\times l$ 형태의 행렬하고만 곱할 수있다. 따라서 앞에 있는 행렬의 열과 뒤에 있는 행렬의 행이 일치해야 한다.

 

행렬과 벡터의 연산을 응용해서 다음과 같이 행렬 $A$와 $B$의 곱을 만들자.

$$\begin{array}{}\text{(12)}& \begin{array}{c}\left(\begin{array}{cccc}{A}_{11}& A_{12}& \cdots & A_{1n}\\ A_{21}& A_{22}& \cdots & A_{2n}\\ ⋮& ⋮& \ddots & ⋮\\ A_{m1}& A_{m2}& \cdots & A_{mn}\end{array}\right)\left(\begin{array}{cccc}{B}_{11}& B_{12}& \cdots & B_{1l}\\ B_{21}& B_{22}& \cdots & B_{2l}\\ ⋮& ⋮& \ddots & ⋮\\ B_{n1}& B_{n2}& \cdots & B_{nl}\end{array}\right)\\ =\left(\begin{array}{cccc}{A}_{11}{B}_{11}+\cdots +A_{1n}{B}_{n1}& A_{11}{B}_{12}+\cdots +A_{1n}{B}_{n2}& \cdots & A_{11}{B}_{1l}+\cdots +A_{1n}{B}_{nl}\\ A_{21}{B}_{11}+\cdots +A_{2n}{B}_{n1}& A_{21}{B}_{12}+\cdots +A_{2n}{B}_{n2}& \cdots & A_{21}{B}_{1l}+\cdots +A_{2n}{B}_{nl}\\ ⋮& ⋮& \ddots & ⋮\\ A_{m1}{B}_{11}+\cdots +A_{mn}{B}_{n1}& A_{m1}{B}_{12}+\cdots +A_{mn}{B}_{n2}& \cdots & A_{m1}{B}_{l1}+\cdots +A_{mn}{B}_{nl}\end{array}\right)\\ =\left(\begin{array}{cccc}\sum _{j=1}^n{A}_{1j}{B}_{j1}& \sum _{j=1}^n{A}_{1j}{B}_{j2}& \cdots & \sum _{j=1}^n{A}_{1j}{B}_{jl}\\ \sum _{j=1}^n{A}_{2j}{B}_{j1}& \sum _{j=1}^n{A}_{2j}{B}_{j2}& \cdots & \sum _{j=1}^n{A}_{2j}{B}_{jl}\\ ⋮& ⋮& \ddots & ⋮\\ \sum _{j=1}^n{A}_{mj}{B}_{j1}& \sum _{j=1}^n{A}_{mj}{B}_{j2}& \cdots & \sum _{j=1}^n{A}_{mj}{B}_{jl}\end{array}\right)\end{array}\end{array}$$ 

 

식 (12)에서 사용한 행렬 $A$와 $B$의 곱을 $C$라 하면 $C$는 $m\times l$ 행렬이 되며 성분은 다음과 같이 일반화해서 표현할 수 있다.

$$\begin{array}{}\text{(13)}& C_{ij}=(AB{)}_{ij}=\sum _k{A}_{ik}{B}_{kj}=A_{ik}{B}_{kj}\end{array}$$

마지막 식은 아인슈타인 표기법을 따른 것이다.