지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학술저널
- 저자정보
- 저널정보
- Korean Institute of Information Scientists and Engineers Journal of KIISE Journal of KIISE Vol.46 No.6
- 발행연도
- 2019.6
- 수록면
- 535 - 543 (9page)
- DOI
- 10.5626/JOK.2019.46.6.535
이용수
초록· 키워드
오류제보하기
시퀀스-투-시퀀스 기반의 요약 모델에서 자주 발생하는 문제 중 하나는 요약문의 생성과정에서 단어나 구, 문장이 불필요하게 반복적으로 생성되는 것이다. 이를 해결하기 위해 기존 연구들은 대부분 모델에 여러 모듈을 추가하는 방법을 제안했지만, 위 방법은 생성하지 말아야 하는 단어에 대한 학습이 부족하여 반복 생성 문제를 해결함에 있어 한계가 있다. 본 논문에서는 단어 생성 이력을 직접적으로 이용하여 반복 생성을 제어하는 Repeat Loss를 이용한 새로운 학습 방법을 제안한다. Repeat Loss를 디코더가 단어 생성 확률을 계산 했을 때 이전에 생성한 단어가 다시 생성될 확률로 정의함으로써 실제 생성한 단어가 반복 생성될 확률을 직접적으로 제어할 수 있다. 제안한 방법으로 요약 모델을 학습한 결과, 단어 반복이 줄어들어 양질의 요약을 생성하는 것을 실험적으로 확인할 수 있었다.
목차
요약
Abstract
1. 서론
2. 관련 연구
3. 단어 생성 이력을 활용한 반복 생성 제어
4. 실험 및 평가
5. 결론
References
참고문헌 (11)
참고문헌 신청
A. Rush, S. Chopra, and J. Weston, "A Neural Attention Model for Sentence Summarization," Proc. of the 2015 Conference on Empirical Methods in Natural Language Processing, pp. 379-389, 2015.
R. Nallapati, B. Zhou, C. Santos, C. Gulcehre, and B. Xiang, "Abstractive Text Summarization using Sequence-to-Sequence RNNs and Beyond," Proc. of the 20th SIGNLL Conference on Computational Natural Language Learning, pp. 280-290, 2016.
I. Sutskever, O.Vinyals, and Q. Le, "Sequence to Sequence Learning with neural networks," Proc. of the 27th International Conference on Neural Information Processing System, Vol. 2, pp. 3104-3112, 2014.
D. Bahdanau, K. Cho, and Y. Bengio, "Neural Machine Translation by Jointly Learning to Align and Translate," arXiv preprint arXiv:1409.0473, 2014.
R. Paulus, C. Xiong, and R. Socher, "A Deep Reinforced Model for Abstractive Summarization," arXiv preprint arXiv:1705.04304, 2017.
R. Nallapati, B. Zhou, C. Santos, C. Gulcehre, and B. Xiang, "Abstractive Text Summarization using Sequence-to-Sequence RNNs and Beyond," Proc. of the 20th SIGNLL Conference on Computational Natural Language Learning, pp. 280-290, 2016.
I. Sutskever, O.Vinyals, and Q. Le, "Sequence to Sequence Learning with neural networks," Proc. of the 27th International Conference on Neural Information Processing System, Vol. 2, pp. 3104-3112, 2014.
D. Bahdanau, K. Cho, and Y. Bengio, "Neural Machine Translation by Jointly Learning to Align and Translate," arXiv preprint arXiv:1409.0473, 2014.
R. Paulus, C. Xiong, and R. Socher, "A Deep Reinforced Model for Abstractive Summarization," arXiv preprint arXiv:1705.04304, 2017.
함께 읽어보면 좋을 논문
논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!
-
Single Sentence Summarization with an Event Word Attention Mechanism
Journal of KIISE
2020 .02
-
자가 주의 메커니즘을 활용한 sequence-to-sequence 기반 문서 생성 요약
한국정보과학회 학술발표논문집
2018 .06
-
감정점수를 활용한 시퀀스-투-시퀀스 기반 텍스트 요약
한국정보과학회 학술발표논문집
2019 .06
-
한국어 텍스트 문서의 자동 요약에 관한 연구
Proceedings of KIIT Conference
2022 .06
-
Sequence-to-sequence 모델에 기반한 한국어 대화 요약
한국정보과학회 학술발표논문집
2022 .06
-
추출 요약과 생성 요약을 결합한 2단계 문서 요약
한국정보과학회 학술발표논문집
2019 .06
-
시퀀스 투 시퀀스(Sequence-to-sequence) 모델을 활용한 대화생성 결과 비교 분석
한국정보과학회 학술발표논문집
2018 .06
-
Query-based Abstractive Summarization Model Using Sentence Ranking Scores and Graph Techniques
Journal of KIISE
2020 .12
-
A Product Review Summarization Considering Additional Information
Journal of KIISE
2020 .02
-
Korean Text Summarization using MASS with Relative Position Representation
Journal of KIISE
2020 .09
-
측면 요약 기술의 최신 연구 동향
Proceedings of KIIT Conference
2022 .06
-
주의집중을 가진 Sequence-to-Sequence 순환신경망을 이용한 문서요약 구현
한국정보과학회 학술발표논문집
2019 .06
-
Sequence-to-sequence 모델을 이용한 한국어 질문 생성
한국정보과학회 학술발표논문집
2019 .06
-
Topic Centric Korean Text Summarization using Attribute Model
Journal of KIISE
2021 .06
-
Sequence-to-sequence 모델을 이용한 자연어생성
한국정보과학회 학술발표논문집
2017 .06
-
Resolution of Answer-Repetition Problems in a Generative Question-Answering Chat System
Journal of KIISE
2018 .09
-
Text Summarization on Large-scale Vietnamese Datasets
Journal of information and communication convergence engineering
2022 .12
-
커리큘럼 학습을 이용한 생성요약 성능 향상
한국정보과학회 학술발표논문집
2021 .06
-
Adversarially Regularized Autoencoder를 이용한 텍스트 요약 문장 생성
한국지능정보시스템학회 학술대회논문집
2018 .06
-
긴 문서 요약을 위한 문장 분할 기반의 단계적 요약
대한전자공학회 학술대회
2024 .06
이 논문의 저자 정보
이 논문과 함께 이용한 논문
최근 본 자료
댓글(0)
0
UCI(KEPA) : I410-ECN-0101-2019-569-000782040