introduction _ transformer_요약

transformer 2024. 6. 28. 15:59

출처: transformer를 활용한 자연어 처리

트랜스포머를 활용한 자연어 처리 | 루이스 턴스톨 - 교보문고

트랜스포머를 활용한 자연어 처리 | 챗GPT처럼 자연어를 찰떡같이 알아듣는 트랜스포머 완벽 해부트랜스포머는 우리 주변에 가득하다! 트랜스포머 아키텍처는 순식간에 자연어 처리 분야를 지

product.kyobobook.co.kr

참고로 GPT도 Generated pretrained transformer임

2017년 전까지는 RNN, CNN등을 자연어 처리에서 사용했는데,

잘 안되서, Bidirection이나 attention등을 시도해봤음.

그러나 이렇게 하는것이 만족스럽지 않아서 attention만을 사용해서 모델을 만드는것이

transformer임.

Chapter_04_요약_multilingual-ner.ipynb (0)	2024.07.26
Chapter_03_요약_transformer 파해치기 https://nlpinkorean.github.io/illustrated-transformer/ (0)	2024.07.12
Precision, Recall, F1 Score (0)	2024.07.12
Chapter_02_요약 classification (0)	2024.07.06
Chapter04_요약_Ner_글내에서 어떤단어가 제품,사람, 장소인지 알려줌회사나 조직인지 분류 하는 태스크 : ner (0)	2024.07.05

자연어(NLP) 자연어(NLP)