지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학술저널
- 저자정보
- 저널정보
- Korean Institute of Information Scientists and Engineers 정보과학회 컴퓨팅의 실제 논문지 정보과학회 컴퓨팅의 실제 논문지 제27권 제2호
- 발행연도
- 2021.2
- 수록면
- 90 - 97 (8page)
- DOI
- 10.5626/KTCP.2021.27.2.90
이용수
초록· 키워드
오류제보하기
문서 처리의 자동화에 대한 필요성이 대두됨에 따라 인공지능을 통한 자연어 처리(Natural Language Processing) 분야에서 연구가 활발하게 진행되고 있다. 본 연구에서는 자연어 처리 분야 중 특히 감정분석(Sentiment Analysis) 분야에서 그래프 기반의 순위화 메커니즘을 통해 추출한 형태소, 또는 요약 기반의 벡터인 GRAB vector(GRAph-Based vector)를 제안하고 이를 통해 기존의 BERT(Bidirectional Embedding Representations from Transformers)모델에 적용한다. 이를 통하여 더욱 강인하고 성능이 향상된 GRAB-BERT 모델을 제안한다. 또한, GRAB vector가 모델에 미치는 영향을 분석하기 위하여 재귀적 인공신경망(Recurrent Neural Network) 기반 모델들과 BERT 기반 모델에 시퀀스 입력 길이를 각각 다르게 학습한 경우 GRAB vector의 적용 여부에 따른 성능을 한국어와 영어에 대하여 분석한다. 결과적으로 형태소 단위로 추출된 벡터가 BERT와 같은 병렬적으로 문자를 처리하는 모델의 경우, 더욱 강인한 학습이 가능하며 성능이 향상됨을 보인다. 추가로, BERT 기반의 모델과 반대로 재귀적 인공신경망 기반모델들의 경우 형태소 기반이 아닌 그래프 기반 요약문 추출을 통한 벡터를 적용한 경우가 더 효과적임을 보인다.
목차
요약
Abstract
1. Introduction
2. Theoretical Background and Related Works
3. GRAB Model Architecture
4. Datasets
5. Experiments
6. Conclusions
References
참고문헌 (15)
참고문헌 신청
S. Hochreiter and J. Schmidhuber, "Long short-term Memory," Neural Computation, Vol. 9, No. 8, pp. 1735-1780, 1997.
J. Chung, C. Gulcehre, and Y. Bengio, "Empirical evaluation of gated recurrent neural networks on sequence modeling," arXiv preprint arXiv: 1412.3555, 2014.
J. Devlin, W. Chang, K. Lee, and K. Toutanava, "Bert: Pre-training of deep bidirectional tranformers for language undersatnding," arXiv preprint arXiv: 1810.04805, 2018.
A. Mass, E. Daly, T. Pham, D. Huang, Y. Ng, and C. Potts, "Learning word vectors for sentiment analysis," Proc. of the 49th Annual Meeting of the Association for Computational Linguisitics: Human Language Technologies, pp. 142-150, Jun. 2011.
L. Park, "Naver sentiment movie corpus v1.0,” GitHub repository.
J. Chung, C. Gulcehre, and Y. Bengio, "Empirical evaluation of gated recurrent neural networks on sequence modeling," arXiv preprint arXiv: 1412.3555, 2014.
J. Devlin, W. Chang, K. Lee, and K. Toutanava, "Bert: Pre-training of deep bidirectional tranformers for language undersatnding," arXiv preprint arXiv: 1810.04805, 2018.
A. Mass, E. Daly, T. Pham, D. Huang, Y. Ng, and C. Potts, "Learning word vectors for sentiment analysis," Proc. of the 49th Annual Meeting of the Association for Computational Linguisitics: Human Language Technologies, pp. 142-150, Jun. 2011.
L. Park, "Naver sentiment movie corpus v1.0,” GitHub repository.
함께 읽어보면 좋을 논문
논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!
-
감정 분석을 위한 그래프 순위화 기반 강인한 한국어 BERT 모델
한국정보과학회 학술발표논문집
2020 .07
-
선학습 BERT를 활용한 의미벡터 학습 방법
한국정보과학회 학술발표논문집
2019 .12
-
BERT 기반 한국어 개방형 정보 추출
한국정보과학회 학술발표논문집
2019 .06
-
BERT의 계층에 따른 임베딩 벡터의 의미 분석
한국정보과학회 학술발표논문집
2021 .12
-
좌충우돌 감성분석 BERT 미세조정 분석
한국컴퓨터정보학회 학술발표논문집
2021 .01
-
BERT 기반 모델에서의 부정적 감정 식별을 위한 감성 대화 분석 기법에 관한 연구
한국통신학회 학술대회논문집
2025 .02
-
Combining Sentiment-Combined Model with Pre-Trained BERT Models for Sentiment Analysis
Journal of KIISE
2021 .07
-
BERT 및 계층 그래프 컨볼루션 신경망 기반 감성분석 모델
한국정보통신학회 종합학술대회 논문집
2022 .10
-
BERT 파생 모델의 한국어에 대한 성능 비교
한국통신학회 학술대회논문집
2020 .02
-
사전 학습된 BERT와 미세 조정된 BERT간의 어텐션 헤드 유사도 분석
한국정보과학회 학술발표논문집
2022 .12
-
속성 기반 감성 분석을 활용한 BERT 감성 분류 모델의 성능 개선
한국정보과학회 학술발표논문집
2022 .12
-
불용어의 BERT 기반 문장 자동분류기에 대한 영향
한국정보과학회 학술발표논문집
2021 .12
-
BERT 언어 모델을 사용한 상담 매칭 시스템
한국정보과학회 학술발표논문집
2020 .07
-
BERT 기반의 인프라 피해산정
대한토목학회 학술대회
2020 .10
-
감정 분석을 위한 BERT 사전학습모델과 추가 자질 모델의 결합
한국정보과학회 학술발표논문집
2020 .12
-
BERT 기반 교통사고 비정형 데이터 분류 모델 개발
대한교통학회 학술대회지
2022 .04
-
BERT를 이용한 2단계 한국어 문서 요약
한국정보과학회 학술발표논문집
2019 .12
-
BERT 기반 Variational Inference와 RNN을 이용한 한국어 영화평 감성 분석
정보과학회 컴퓨팅의 실제 논문지
2019 .11
-
BERT 모델을 이용한 경제 기사의 감성 분석 및 키워드 추출
Proceedings of KIIT Conference
2022 .12
-
추출 요약문을 활용한 BERT 기반 감성분류 모델 성능 향상
대한산업공학회 춘계공동학술대회 논문집
2022 .06
이 논문의 저자 정보
이 논문과 함께 이용한 논문
사용자 리뷰 다차원 감성분석을 활용한 음식 배달 서비스 평점 예측
오채원
,
김동성
,
김종우
한국지능정보시스템학회 학술대회논문집
2021
.06
텍스트마이닝 기법과 ARIMA 모형을 활용한 배달의 민족 앱 리뷰 분석
정지훈
,
정혜인
,
이준기
디지털콘텐츠학회논문지
2021
.02
Word2vec 및 fastText 임베딩 모델의 성능 비교
강형석
,
양장훈
디지털콘텐츠학회논문지
2020
.07
Development of a Ranking System for Tourist Destination Using BERT-based Semantic Search
KangWoo Lee
,
MyeongSeon Kim
,
Soon Goo Hong
외 1명
한국산업정보학회논문지
2024
.08
BERT와 FastText를 활용한 온라인 진로상담 문서 분류
권순보
,
유진은
한국데이터정보과학회지
2022
.11
최근 본 자료
댓글(0)
0
UCI(KEPA) : I410-ECN-0101-2021-569-001489476