Matrix Multiplication Rules | Advanced Learning Algorithm

Coursera Machine Learning Specialization > Supervised Machine Learning: Advanced Learning Algorithms > Neural Network Intuition

 

이번에는 Matrix를 곱할때 규칙들을 살펴보자. 아래와 같은 Matrix를 살펴보자.

 

A를 Transpose 하게 되면 3x2 matrix가 된다. 이것을 2 x 4 matrix인 W와 곱하게 되면?

 

 

 

A의 각 row들을 w을 컬럼들과 한번씩 곱하야하기 때문에 3 by 4 matrix가 생성된다. 그렇다면 계산은 어떻게 될까?

 

 

 

 

 

해당 column과 row를 sum product해서 돌바른 자리에 넣어주면 된다. 위의 계산 예시를 참고.

 

여기서, Multiplication을 하기위한 요구사항이 있다. A를 transpose 하면 3 x 2 matrix가 되고, W는 2 x 4 matrix이다. 즉, A transpose Matrix의 row 갯수와 (또는 A의 column 갯수와) W의 column 갯수가 동일해야한다는 것이다. 예시에서는 2로 동일했다. Dot product를 할 때, 아래와 같이 작은 벡터를 갖고 dot product를 하는데, 이 길이가 맞지 않으면 계산이 불가능하다.

 

또 한가지 살펴봐야할것은 Z의 크기이다. Z의 크기를 살펴보면, 3 by 4 matrix인데, 3은 위에서 언급한것처럼 A Transpose의 row 갯수 (또는 A의 Column 갯수)와 동일하고, 4는 W의 Column갯수와 동일하다.

 

 

내가 만들어본 문제...

피카츄는 1, 파이리는 2, 꼬부기는 3, 이상해씨는 4라고 할때, 아래 A라는 matrix와 그 W라는 matrix의 multiplication을 한다면 결과 Matrix의 사이즈는?

 

 

A Transpose matrix는 2 x 4 이고, W는 4 x 6 matrix이기 때문에, 정답은!

2 by 4 matrix가 된다.

 

 

너무 귀엽기 때문에 헤이즈의 킬링 벌스로 이번글을 마무리한다.

https://www.youtube.com/watch?v=n9A1W52uJIA

 

 

 

Reference

Coursera Machine Learning Specialization > Supervised Machine Learning: Advanced Learning Algorithms > Neural Network Intuition

Advanced Learning Algorithms