지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학술저널
- 저자정보
- 저널정보
- Korean Institute of Information Scientists and Engineers Journal of KIISE Journal of KIISE Vol.52 No.1
- 발행연도
- 2025.1
- 수록면
- 52 - 61 (10page)
- DOI
- 10.5626/JOK.2025.52.1.52
이용수
초록· 키워드
오류제보하기
자연어 처리(NLP)에서는 유사한 입력이 의미적으로 유사한 결과를 내도록 적대적 학습이 연구되어왔다. 그러나 언어에는 의미적 유사성에 대한 객관적인 척도가 없기 때문에, 기존 연구에서는 이러한 유사성을 보장하기 위해 외부의 사전 학습된 NLP 모델을 사용하여 많은 메모리를 소비하는 추가 학습단계를 도입했다. 이 연구에서는 대조 학습을 이용해 언어 처리 모델을 적대적으로 훈련하는 적대적 학습(ATCL)을 제안한다. 핵심 아이디어는 빠른 경사 방법(FGM)을 통해 입력의 임베딩 공간에 선형의 변화를 만들고 대조 학습을 통해 원래 표현과 변화된 표현을 가깝게 유지하도록 훈련한다. 언어 모델링과 신경망 기계 번역 작업에 ATCL을 적용한 결과, 개선된 정량적(PPL 및 BLEU) 점수를 보여준다. 또한 시뮬레이션을 통해 ATCL은 사전 학습된 모델을 사용하지 않고도 두 작업 모두에서 의미 수준에서 우수한 정성적 결과를 달성한다.
목차
요약
Abstract
1. 서론
2. Preliminaries
3. Proposed Approach: Adversarial Training with Contrastive Learning
4. Related Work
5. Experiments
6. Conclusion
References
참고문헌 (0)
참고문헌 신청함께 읽어보면 좋을 논문
논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!
-
자연어처리를 위한 대조 학습 기반의 심층학습 모델에 대한 최근 연구 동향
Proceedings of KIIT Conference
2022 .12
-
자연어처리(NLP)를 이용한 펀드유형분류 성능향상
한국통신학회 학술대회논문집
2019 .01
-
적대적 학습과 주의집중 모델을 이용한 연속 출력 값 기반 언어 생성 기술
한국정보과학회 학술발표논문집
2020 .07
-
적대적 학습과 적대적 강건성 사이의 연관성
한국정보과학회 학술발표논문집
2020 .12
-
Adversarial Sparsity Mapping Network to Defense Against Adversarial Attacks
Proceedings of KIIT Conference
2021 .06
-
사전 학습된 언어 모델 기반 자연어 처리 응용의 실용성 개선 연구
한국통신학회 학술대회논문집
2023 .06
-
신경망 기반 자연어 처리 모델의 임베딩 학습 관련 최신 연구 분석
한국정보과학회 학술발표논문집
2020 .12
-
Study on the Evaluation of Embedding Models in the Natural Language Processing
Journal of KIISE
2025 .02
-
Advanced Generative Adversarial Defense Model using Instance Sparsity Mapping Network
한국정보기술학회논문지
2021 .08
-
자연어 처리 기술 현황 및 표준화 동향에 관한 연구
한국통신학회 학술대회논문집
2017 .06
-
대조 학습 기반 사전 학습과 생성 모델의 시너지 탐구
한국통신학회 학술대회논문집
2021 .02
-
선형 판별 분석 및 k-means 알고리즘을 이용한 적대적 공격 유형 분류 방안
정보보호학회논문지
2021 .12
-
이미지의 강인하지 않은 특징을 이용한 간단한 적대적 기계 학습 방법
한국통신학회 학술대회논문집
2020 .11
-
생성적 적대 신경망의 학습 방법에 따른 비교
대한전자공학회 학술대회
2020 .08
-
무인항공기 제어를 위한 자연어 처리 기술 연구
한국항공우주학회 학술발표회 초록집
2015 .11
-
건설 산업 내 비정형 텍스트 데이터를 활용한 자연어 처리 (Natural Language Processing, NLP) 기반의 글로벌 연구 동향
건설관리 : 한국건설관리학회 학회지
2019 .01
-
표정 인식 모델 훈련을 위한 대조 학습과 해체/재구성 학습 결합
한국정보과학회 학술발표논문집
2023 .06
-
Survey on Recent Continual Learning Studies in NLP
한국정보과학회 학술발표논문집
2022 .06
-
Calibration of Pre-trained Language Model for the Korean Language
Journal of KIISE
2021 .04
-
적대적 공격 및 방어 기술의 성능 향상을 위한 역방향 적대적 데이터 생성 연구
정보보호학회논문지
2024 .10
이 논문의 저자 정보
최근 본 자료
댓글(0)
0
UCI(KEPA) : I410-151-25-02-092292888