트랜스포머 (Attention is all you need)

1. 개요

• 인코더-디코더 구조를 발전시킨 딥러닝 모델 소개
• RNN을 사용하지 않음
• 독일어, 프랑스어로 번역하는 항목에서 학습속도, 성능 뛰어남
• 왜 더 빠르게 학습?
  • RNN을 사용하지 않아서
  • 병렬화(Parallelization) → 일을 최대한 한 방에 처리
  • RNN이 순차적으로 첫번째 입력된 단어부터, 마지막 단어까지 계산하여서 입력된 단어들을 인코딩하는 반면, transformer는 한방에 이과정을 처리
• 어텐션 메커니즘
  • 고정된 크기의 context vector 를 사용하지 않도록 기존의 인코더-디코더 구조를 발전시킴
  • 하지만 여전히 rnn cell을 순차적으로 계산해서 느림

2. Transformer

• RNN을 대신할 빠르고 성능좋은 방법을 고민
• Attention 만으로도 입력데이터에서의 중요한 정보들을 찾아내서 단어를 인코딩할 수 있지 않을까 생각하게 됨 ⇒ 성공 ⇒ Attention is all you need!
• RNN의 순차적인 계산을 transformer에서는 단순히 한 번의 행렬곱으로 계산
• 한 번의 연산으로 모든 중요정보를 각 단어에 인코딩하게 됨
• 디코더의 번역과정은 기존의 인코더 디코더와 동일하게 부터 까지 번역을 하게 됨
• transformer는 확실히 기존의 인코더-디코더의 format을 가지고 있다.
  • <start> 로 시작해서 <end>로 끝남
• 기존 인코더-디코더의 주요 format을 간직하되, RNN을 없애서 학습시간을 단축했고, attention 뿐만아니라 다른 기능도 제공하여서 성능을 올렸다.

1) Positional encoding

• 그동안 RNN을 사용했던 이유: 자연어처리에서 단어의 위치와 순서정보를 활용하는 것이 중요한데, RNN이 그 역할을 잘 해주었기 때문
• RNN이 없는 transformer는 어떻게 단어의 위치 및 순서정보를 활용할 수 있을까?
  • positional encoding
• positional encoding ? 인코더 및 디코더의 입력값마다 상대적인 위치정보를 더해주는 기술
  • sin, cos 함수를 이용함
    • 장점1 : 항상 -1 ~1 사이의 값이 나옴
    • 장점2: 학습 데이터 중 가장 긴 문장보다도 더 긴 문장이 실제 운행 중에 들어와도 에러없이 상대적인 인코딩값을 줄 수 있음

2) Self Attention

• Self Attention ? 인코더에서 이루어진 어텐션 연산
• 각 단어의 워드 임베딩에 positional encoding을 더해 준 후에 Self Attention 연산 수행
• 워드 임베딩은 벡터, 한 문장은 행렬
• query, key, value 만 있으면 self attention 수행 가능
  • query: 한문장에 대한 행렬 * Wq weight matrix
  • key: 한문장에 대한 행렬 * Wk weight matrix
  • value: 한문장에 대한 행렬 * Wv weight matrix

• query, key, value : 벡터의 형태
  • query: 현재의 단어
  • 어떤 단어와의 상관관계를 구할 때, 현재단어의 query를 어떤 단어의 key 값에 곱해줌
  • query* key = attention score
    • query, key는 벡터임으로 둘을 dot product하면 결과는 숫자로 나옴
    • 이 숫자가 높을 수록 단어와 연관성이 높다
• Softmax
  • Attention score 값을 0~1 사이의 확률값으로 나타냄
  • 논문에서는 softmax를 적용하기 전에 score를 key vector의 차원 수의 루트 값으로 나눠줌
    • key 벡터의 차원이 늘어날수록 dot product 시 값이 증대되는 문제를 보완
  • softmax의 결과값은 key 값에 해당하는 단어가 현재 단어와 어느정도 연관성이 있는지를 나타냄
    • 단어 I 는 자기자신과 92%, study는 5%, at과는 2%, school과는 1% 연관성이 있음
• Softmax * value
  • 결과 값을 보면, 연관성이 많은 결과는 뚜렷해지고, 아닌 결과는 희미해짐
• $\Sigma$ Softmax * Value
  • 최종적으로 어텐션이 적용되어 희미해진 value들을 모두 더해줌
  • 최종벡터는 단순히 단어 I 가 아닌, 문장 속에서의 단어 I가 지닌, 전체적인 의미를 가진 벡터라고 간주할 수 있음
  • 이걸 각 단어에 대해 반복
    

    

3) Multi Head Attention

• transformer는 병렬처리를 활용
• attention layer 를 병렬로 동시에 수행
• 병렬 처리 된 attention layer를 multi head attention 이라고 부름
• 기계번역에 큰 도움을 줌
• 두 개의 다른 병렬화 된 어텐션은 서로 다르지만 it하고 연관성이 높은 단어에 포커스를 하고 있음을 볼 수 있음
  • 첫번째 attention은 animal에 포커스를 맞췄고
  • 두번째 attention은 street에 포커스를 맞췄음
• 사람의 문장은 모호할 때가 상당히 많고 한개의 어텐션 정보로 이 모호한 정보를 충분히 인코딩하기에 어렵기 때문에 multi head attention 을 사용해서 되도록 연관된 정보를 다른 관점에서 수집해서 이 점을 보완 할 수 있음

4) 인코더 layer 구조

• 단어를 워드 임베딩
• 포지셔널 인코딩
• 멀티헤드 어텐션에 입력
• 멀티헤드 어텐션에 의해 출력된 여러개의 결과값들은 모두 이어붙여서 또다른 행렬과 곱해서 결국 최초 워드 임베딩과 동일한 차원을 가진 벡터로 출력이 됨
• 각각의 벡터는 따로따로 FC layer로 들어가서 입력과 동일한 사이즈의 벡터로부터 다시 출력이 됨
• 중요한 점: 출력 벡터의 차원의 크기가 입력벡터와 동일하다
• 딥러닝을 하다보면 역전파에 의해서 포지셔널 인코딩이 많이 손실 될 수 있음, 이를 보완하기 위해 residual connection을 통해서 입력된 값을 다시 한 번 더해주는 과정도 존재( retain the position realated information)
• reidual connection 뒤에는 layer normalization을 사용해서 학습의 효율을 증진시킴
• 인코더의 입력벡터와 출력 벡터의 사이즈가 동일
  • 인코더 layer 를 여러개 붙여 사용 가능
  • transformer는 인코더 layer를 6개 붙인 구조
• 각각의 encoder layer는 서로의 가중치를 공유하지 않고, 따로 학습시킴

5) 디코더 layer 구조

• 인코더와 유사
• 6개의 동일한 layer
• 인코더와 마찬가지로 최초단어부터 끝단어까지 순차적으로 단어를 출력
• attention 병렬처리를 활용
• 디코더에서 현재까지 출력된 값들에 attention을 적용하고 인코더 최종 출력 값에도 attention이 적용이 됨

6) 인코더, 디코더 layer 비교

• 인코더 layer : multihead attention → feed forward layer → residual connection
• 디코더 layer : masked multihead attention → multihead attention → feed forward layer → Linear layer → Softmax layer → label smoothing

1) masked mutihead attention

• 첫번째 multi head attention layer는 masked mutihead라고 불림
• 디코더 layer에서 지금까지 출력된 값들에만 attention을 적용하기 위해서 붙여진 이름
• 아직 출력되지 않은 미래의 단어에 어텐션을 적용하면 안되기 때문

2) Muti head attention

• 인코더처럼 키, 쿼리, 벨류로 연산
• 인코더와 차이점은 디코더의 멀티헤드어텐션은 현재 디코더의 입력값을 쿼리로 사용하고 인코더의 최종 출력값을 key,value로 사용
• 디코더의 현재 상태를 쿼리로 인코더에 질문하는 것이고, 인코드의 출력 값에서 중요한 정보를 key와 value로 획득해서 디코더의 다음 단어에 가장 적합한 단어를 출력하는 과정

3) 인코더와 마찬가지로 feed forward layer를 통해 최종값은 벡터로 출력하게 되어있음

4) Linear layer, Softmax layer

• 실제 단어로 출력하기 위해서 존재
• linear layer: softmax 의 입력값으로 들어갈 로직을 생성
• softmax: 모델이 알고있는 모든 단어들에 대한 확률 값을 출력, 가장 높은 확률 값이 다음 단어가 됨

5) Label Smoothing

• 트랜스포머는 최종 단계에서 label smoothing 이라는 기술을 사용해서 모델의 퍼포먼스를 다시 한 번 한 단계 업그레이드 시킴
• 보통 딥러닝 모델을 소프트맥스로 학습할 경우에는 레이블을 원핫인코딩으로 전환함
  • 트랜스포머는 원핫인코딩이 아닌 1에는 가깝지만 1이 아닌 값, 0에는 가깝지만 0이 아닌 값으로 변환 ⇒ label smoothing
• 0 또는 1 이 아닌, 정답은 0에 가까운 값, 오답은 0에 가까운 값으로 이렇게 살짝살짝 변화를 주는 기술
• 모델학습시에 모델이 너무 학습 데이터에 치중하여 학습하지 못한하도록 보완하는 기술
• 어떻게 학습에 도움?
  • label이 noisy한 경우, 즉, 같은 입력 값인데 다른 출력 값들이 학습 데이터에 많을 경우, 레이블 스무딩은 큰 도움이 됨
  • 학습이란 소프트맥스의 출력 값과 벡터로 전환된 레이블의 차이를 줄이는 것인데, 같은 데이터의 서로 상이한 정답들이 원핫인코딩으로 존재한다면, 모델 파라미터가 크게 커졌다가, 작아졌다가 반복하고, 학습이 원활하지 않음
    • thank you - 고마워
    • thank you - 감사합니다.
    • 둘 다 잘못된게 아닌데, 원핫인코딩 적용시, 고마워, 감사합니다는 완전히 다른 두 벡터가 되고, thank you에 대한 학습이 원활이 진행되지 않을 수 있음
    • 레이블 스무딩을 쓰면 고마워와 감사합니다는 좀 더 가까워진 벡터가 되고, softmax출력값과 label의 차이도 줄어들어서 효율적인 학습을 기대할 수 있게됨

References

https://www.youtube.com/watch?v=mxGCEWOxfe8

https://proceedings.neurips.cc/paper/2017/file/3f5ee243547dee91fbd053c1c4a845aa-Paper.pdf

https://jalammar.github.io/illustrated-transformer/

https://medium.com/@adityathiruvengadam/transformer-architecture-attention-is-all-you-need-aeccd9f50d09