논문-한양대(최영석교수님)
-
[논문리뷰]Simple Data Transformations for Mitigating the Syntactic Similarity to Improve Sentence Embeddings at Supervised Contrastive Learning 24 Sep 2024논문-한양대(최영석교수님) 2024. 9. 26. 19:45
[논문리뷰]Simple Data Transformations for Mitigating the Syntactic Similarity to Improve Sentence Embeddings at Supervised Contrastive Learning 24 Sep 2024 •Contrastive Learning(가까운것은 가깝게 먼것은 멀게)은 다양한 NLP 작업들에서 매우 좋은 성능을 보여주었음•예를 들자면, Contrastive Learning을 통해 문장 임베딩을 학습하고 이것을 글 분류나 자료 검색 등에 사용하는 것 하지만, 이러한 학습 과정에서 모델은 실제 주어진 문장들을 이해하는 것이 아닌, 단순 패턴에 집중하는 듯한 모습을 보여줌예를 들자면, 문장 속 단어의 순서들이 바뀌어도 동일한 결과를..