Transformer, RNN 차이

Q. Transformer,  RNN 차이

 

A. Self attention으로 RNN 의 long term dependency 문제를 해결했다.

RNN은 순차적으로 해야하는데 transformer는 훨씬 빠르게 처리 가능하다.