정보과학회논문지 (Journal of KIISE)
Current Result Document : 6 / 14
이전건
다음건 
| 한글제목(Korean Title) |
BERT 임베딩과 선택적 OOV 복사 방법을 사용한 문서요약 |
| 영문제목(English Title) |
Automatic Text Summarization Based on Selective OOV Copy Mechanism with BERT Embedding |
| 저자(Author) |
이태석
강승식
Tae-Seok Lee
Seung-Shik Kang
|
| 원문수록처(Citation) |
VOL 47 NO. 01 PP. 0036 ~ 0044 (2020. 01) |
한글내용
(Korean Abstract) |
문서 자동 요약은 주어진 문서로부터 주요 내용을 추출하거나 생성하는 방식으로 짧게 줄이는 작업이다. 생성 요약은 미리 생성된 워드 임베딩 정보를 사용한다. 하지만, 전문 용어와 같이 저빈도 핵심 어휘는 임베딩 사전에서 누락되는 문제가 발생한다. 문서 자동 요약에서 미등록 어휘의 출현은 요약 성능을 저하시킨다. 본 논문은 Selectively Pointing OOV(Out of Vocabulary) 모델에 BERT(Bidirectional Encoder Representations from Transformers) 형태소 임베딩, Masked OOV, 형태소-to-문장 변환기를 적용하여 미등록 어휘에 대한 선택적 복사 및 요약 성능을 높였다. 기존 연구와 달리 정확한 포인팅 정보와 선택적 복사 지시 정보를 명시적으로 제공하는 선택적 OOV 포인팅 복사 방법과 함께 BERT 임베딩과 OOV 랜덤 마스킹, 형태소-문장 변환기를 추가하였다. 제안한 OOV 모델을 통해서 자동 생성 요약을 수행한 결과 단어 재현 기반의 ROUGE-1이 54.97 나타났으며, 또한 어순 기반의 ROUGE-L이 39.23으로 향상되었다.
|
영문내용
(English Abstract) |
Automatic text summarization is a process of shortening a text document via extraction or abstraction. Abstractive text summarization involves using pre-generated word embedding information. Low-frequency but salient words such as terminologies are seldom included in dictionaries, that are so called, out-of-vocabulary (OOV) problems. OOV deteriorates the performance of the encoder-decoder model in the neural network. To address OOV words in abstractive text summarization, we propose a copy mechanism to facilitate copying new words in the target document and generating summary sentences. Different from previous studies, the proposed approach combines accurately pointing information, selective copy mechanism, embedded by BERT, randomly masking OOV, and converting sentences from morpheme. Additionally, the neural network gate model to estimate the generation probability and the loss function to optimize the entire abstraction model was applied. Experimental results demonstrate that ROUGE-1 (based on word recall) and ROUGE-L (longest used common subsequence) of the proposed encoding-decoding model have been improved at 54.97 and 39.23, respectively.
|
| 키워드(Keyword) |
BERT
OOV 랜덤 마스킹
형태소-문장 변환기
문서요약
미등록 단어 인식
딥러닝
생성요약
random masked OOV
text summarization
morpheme-to-sentence converter
recognition of unknown word
deep-learning
generative summarization
|
| 파일첨부 |
PDF 다운로드
|
