지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학술저널
- 저자정보
- 발행연도
- 2022.6
- 수록면
- 179 - 184 (6page)
- DOI
- 10.5391/JKIIS.2022.32.3.179
이용수
초록· 키워드
오류제보하기
자연어처리에서 해결하고자 하는 문제를 다룰 때 문장을 나타내는 표현값을 정확하게 얻는다면 좋은 결과를 얻을 수 있다. 표현값을 얻는 대표적인 방법으로 사전 훈련된 모델을 사용하는 것이 있는데 이를 이용하여 파인튜닝 과정을 거치는 것만으로는 한계가 있다. 우리는 사전 훈련된 모델에 언어의 구조에 대한 정보가 추가하였을 시 성능개선의 여지가 있는 것에 착안하여 사전 훈련된 모델이 가지고 있는 토큰 단위의 표현값을 얻는 과정에서 정보를 추가로 주고자 한다. 그러기 위하여 데이터에서 자주 사용되는 유용한 표현 정보들을 그래프 구조를 이용하여 추출하고자 하는 것을 목표로 텍스트를 그래프 구조로 변환 후 데이터 증강 기법을 적용한 그래프 데이터에서 정보를 추출하는 방법을 제안한다. 그 결과 적용하기 전과 비교하여 약 1% 정도의 성능을 향상되는 것을 확인 할 수 있다.
목차
요약
Abstract
1. 서론
2. 관련 연구
3. 제안 기법
4. 실험 및 결과
5. 결론 및 향후 연구
References
참고문헌 (15)
참고문헌 신청
Hong Sola, Yeounoh Chung, Jee-Hyong Lee, “Semi-supervised learning for sentiment analysisin mass social media,” Journal of Korean Instituteof Intelligent Systems, vol. 24, no. 5, pp. 482-488, 2014.
J.Zhou, Z.Zhang, H.Zhao, and S.Zhang, “LIMITBERT : Linguistic informed multi-task bert,” Findings of the Association for Computational Linguistics : EMNLP 2020, pages 4450–4461, 2020.
T.N.Kipf, M.Welling, “Variational Graph Auto–Encoders,” Bayesian Deep Learning (NIPS Workshops 2016) Available : https://github.com/tkipf/gae, 2016.
Grover, Aditya, and Jure Leskovec. “node2vec: Scalable feature learning for networks.” Proceedings of the 22nd ACM SIGKDD international conference on Knowledge discovery and data mining, pp. 855-864, 2016.
Kevin Clark, Minh-Thang Luong, Quoc V. Le and Christopher D. Manning, “ELECTRA: Pre-training Text Encoders as Discriminators Rather Than Generators,” International Conference on Learning Representations, 2020.
J.Zhou, Z.Zhang, H.Zhao, and S.Zhang, “LIMITBERT : Linguistic informed multi-task bert,” Findings of the Association for Computational Linguistics : EMNLP 2020, pages 4450–4461, 2020.
T.N.Kipf, M.Welling, “Variational Graph Auto–Encoders,” Bayesian Deep Learning (NIPS Workshops 2016) Available : https://github.com/tkipf/gae, 2016.
Grover, Aditya, and Jure Leskovec. “node2vec: Scalable feature learning for networks.” Proceedings of the 22nd ACM SIGKDD international conference on Knowledge discovery and data mining, pp. 855-864, 2016.
Kevin Clark, Minh-Thang Luong, Quoc V. Le and Christopher D. Manning, “ELECTRA: Pre-training Text Encoders as Discriminators Rather Than Generators,” International Conference on Learning Representations, 2020.
함께 읽어보면 좋을 논문
논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!
-
웹 그래프 상에서의 Node Embedding 알고리즘 성능 분석
한국정보과학회 학술발표논문집
2018 .06
-
문장형 데이터 구조를 사용한 토폴로지컬 데이터의 일반화와 처리 방법
한국지능시스템학회 논문지
2020 .04
-
An Embedding Technique for Weighted Graphs using LSTM Autoencoders
Journal of KIISE
2021 .01
-
그래프 합성곱 신경망을 위한 특징 노드를 활용한 그래프 확장 기법
한국정보과학회 학술발표논문집
2023 .06
-
Graph Representation Learning With Uncertainty
한국통신학회 학술대회논문집
2020 .02
-
랜덤 워크 점수를 사용한 그래프 뉴럴 네트워크 기반 노드 분류
정보과학회 컴퓨팅의 실제 논문지
2020 .09
-
그래프 구조 학습 적용을 통한 그래프 신경망의 분자 특성 예측 성능 향상
한국정보과학회 학술발표논문집
2024 .06
-
인접성 벡터를 이용한 트리플 지식 그래프의 임베딩 모델 개선
한국전자거래학회지
2021 .08
-
딥러닝기반 그래프 임배딩 및 비정형적 결정경계면 학습을 통한 그래프이상탐지
한국정보과학회 학술발표논문집
2019 .06
-
영상 검색에서 그래프 구조를 이용한 스켈레톤 데이터 그래프 모델링 기법
한국정보과학회 학술발표논문집
2020 .12
-
상호정보량과 그래프 뉴럴 네트워크 기반의 설명가능한 링크 예측
정보과학회 컴퓨팅의 실제 논문지
2021 .09
-
Knowledge Graph Embedding for Link Prediction using Node-Link Interaction-based Graph Attention Networks
Journal of KIISE
2022 .07
-
도시 네트워크의 교통 데이터 개선을 통한 그래프 딥러닝 모델 성능 분석
한국정보과학회 학술발표논문집
2022 .12
-
자기지도학습기반 그래프 임베딩을 위한 네거티브 샘플링 알고리즘
정보과학회 컴퓨팅의 실제 논문지
2024 .10
-
Knowledge Graph Embedding with Entity Type Constraints
Journal of KIISE
2022 .09
-
그래프 트랜스포머 기반 농가 사과 품질 이미지의 그래프 표현 학습 연구
스마트미디어저널
2023 .02
-
한국어 데이터를 활용한 data augmentation
한국정보통신학회논문지
2023 .04
-
문장 레벨 그래프 회선 신경망을 통한 텍스트 분류
정보과학회 컴퓨팅의 실제 논문지
2019 .08
-
HOPE 기반 그래프 임베딩과 K-Means 클러스터링을 이용한 CVE 데이터 분석
한국정보과학회 학술발표논문집
2021 .12
-
그래프 국소 정보 추출을 통한 분할 알고리즘 기반 그래프 분류 방법
한국정보과학회 학술발표논문집
2021 .12
이 논문의 저자 정보
이 논문과 함께 이용한 논문
마틴 루터와 필립 멜란히톤의 신학적 차이의 원인에 관한 고찰
정원래
신학지남
2022
.12
한국 장로교회의 신학적 전통에 대한 죽산 박형룡의 이해
이상웅
조직신학연구
2021
.08
Recommendation Technique for Bug Fixers by Fine-tuning Language Models
왕대성
,
성훈
,
이찬근
Journal of KIISE
2022
.11
산업공학 인식에 대한 온라인 커뮤니티 데이터 분석
한주희
,
유진이
,
이영훈
대한산업공학회지
2022
.06
붕괴사고 현장 조사를 위한 재난 로봇 플랫폼 개발
김성삼
,
신동윤
,
조시범
외 1명
대한토목학회 학술대회
2021
.10
최근 본 자료
댓글(0)
0