Lab-01-1 Tensor Manipulation 1

pytorch로 시작하는 딥러닝 기초 - 추후 수정 예정

1D : Vector

2D : Matrix

3D : Tensor

 

4D : 3D + Y축 확장

5D : 4D + X축 확장

6D : 5D + Z축 확장

 

일반적인 경우, batch size = 64, dimension = 256

 

시계열 데이터를 다루는 NLP의 경우에도 3차원 텐서로 입출력

• 텐서 = (batch size, length, dim)
• length X dim = 문장
• x축: Time step
• batch size 만큼 문장이 존재한다.

자동으로 size를 바꿔주는 것을 볼 수 있음.

 

 

일반적인 곱셈 , 더하기 : 두 Matrix의 size가 같아야 함.

a.mul(b) -> a, b의 size가 다르면 BroadCasting을 통해 일반 곱셈을 수행

a.matmul(b) -> 행렬 곱 수행.