자연어(NLP) 자연어(NLP)

데이터 불균형 (Data Imbalance): Oversampling, Undersampling이 뭔가요.  - 데이터가 class별로 상당히 불균형(갯수차이가 심한경우) 하게 있는것입니다.해결책- oversampling : 갯수가 적은 class를 복사하듯이 여러개 뽑은것이고 - undersampling: 갯수가 많은 class를 일부만 뽑아서 활용- 이두개가 완벽한 해결책은아님 Binary Classification 0이 90개, 1이 10개일때-oversampling : 1이 적으므로, 1이 10개를 9번 반복해서 90개를 만든다. 0이 90개라서 비율을 맞추려고-undersampling : 0이 많으므로 0이 90개중에 10개만 뽑아서 1이 10개와의 비율을 맞춤

transformer가 무엇인가요.- multi head self attention을 사용한 model- attention 만을 이용해서 RNN대체  (attention is all you need) 왜 나오게 되었는지요(장점)- long term dependency 해결- 병렬처리(동시처리)  - 처리시간 줄임 - 입력문장 전체를 넣어서 동시에 처리, cf RNN은 token 1-> 처리, token2 --> 처리 multi head attention 이 뭔고, 역할이 뭔가요- attention head를 여러개 사용- 여러 관점에서 문장해석이 가능하다.(x-> q1,q2...)  ================세부정리==================== transformer가 나온이유- long ter..