Current Result Document :
| 한글제목(Korean Title) |
근접 이웃 검색을 결합한 GPT-2 기반 언어모델링 및 감성분류 |
| 영문제목(English Title) |
GPT-2 with nearest neighbor search for language modeling and sentiment classification task |
| 저자(Author) |
노지현
김민호
배경만
Jihyeon Roh
Minho Kim
Kyoungman Bae
|
| 원문수록처(Citation) |
VOL 49 NO. 02 PP. 0344 ~ 0346 (2022. 12) |
한글내용
(Korean Abstract) |
외부 메모리를 적용한 언어모델은 외부에 데이터를 저장함으로써 언어모델이 기억하고 감당해야할 데이터의 학습 양을 효과적으로 줄일 수 있도록 해주어 대형모델의 필요성을 낮춰준다. 본 논문에서는 외부 저장소 검색기반 시스템에 사전 학습된 GPT-2를 적용한 실험 방법을 제안하고 언어모델링뿐만 아니라 텍스트 감성 분류에도 실험하였다. 언어모델링 문제는 WikiText-103 데이터셋을 사용하고, 텍스트 감성 분류 문제는 SST-2 데이터셋을 사용하여 성능을 검증하였다. 제안 방법은 두 가지 문제에서 모두 기존 모델 대비 향상된 성능을 보였다. |
영문내용
(English Abstract) |
|
| 키워드(Keyword) |
|
| 파일첨부 |
PDF 다운로드
|
