메뉴 건너뛰기
.. 내서재 .. 알림
소속 기관/학교 인증
인증하면 논문, 학술자료 등을  무료로 열람할 수 있어요.
한국대학교, 누리자동차, 시립도서관 등 나의 기관을 확인해보세요
(국내 대학 90% 이상 구독 중)
로그인 회원가입 고객센터 ENG
주제분류
인문학
인문학 일반 역사학 철학 종교학 어문학 기타 인문학
사회과학
사회과학 일반 경영학 관광학 교육학 군사학 문헌정보학 법학 사회학 신문방송학 심리과학 정치외교학 지리학 행정학 경제학 무역학 인류학 기타 사회과학
자연과학
자연과학 일반 물리학 생물학 생활과학 수학·통계학 천문학 지구과학 화학 기타 자연과학
공학
공학 일반 건축공학 기계공학 산업공학 재료·에너지공학 전기전자공학 조선해양공학 화학공학 컴퓨터학 기타공학
의약학
의학 일반 간호학 수의학 약학 한의학 기초의학 임상의학 기타 의약학
농수해양학
농수해양학 일반 농학 수산학 식품과학 임학 축산학 해상운송학 기타 농수해양학
예술체육학
예술 일반 디자인 미술 미용 사진 음악학 의상 체육 공연매체예술 기타 예술체육학
복합학
학제간연구 과학기술학 뇌인지과학 기술정책 기타 복합학

ENG

추천
검색
질문

논문 기본 정보

자료유형
학술대회자료
저자정보
윤정민 (중앙대학교) 이은주 (중앙대학교) 진교훈 (중앙대학교) 장수진 (중앙대학교) 최주원 (중앙대학교) 고벽란 (중앙대학교) 김영빈 (중앙대학교)
저널정보
대한전자공학회 대한전자공학회 학술대회 2022년도 대한전자공학회 하계종합학술대회 논문집
발행연도
2022.6
수록면
2,776 - 2,779 (4page)

이용수

표지
📌
연구주제
📖
연구배경
🔬
연구방법
🏆
연구결과
AI에게 요청하기
추천
검색
질문

초록· 키워드

오류제보하기
Transformer models achieve state-of-the-art results on various tasks. However, their attention mechanisms require complexity that grows quadratically with input sequence length. In this paper, we present core-token attention, which can improve efficiency with low computation on attention operations and loss of expressiveness. Core-token attention introduces a token pruning method to the self-attention matrix, reducing its dimension by removing unimportant tokens gradually through transformer layers. Our experimental evaluation of several classification tasks demonstrates the effectiveness of core-token attention, as it achieves better performance than vanilla self-attention with improvement in accuracy and F1 score while requiring low training memory.

목차

Abstract
Ⅰ. 서론
Ⅱ. 본론
Ⅲ. 실험
Ⅳ. 결론 및 향후 연구 방향
참고문헌

참고문헌 (0)

참고문헌 신청
참고문헌이 DBpia에서 서비스 중이라면, [참고문헌 신청]을 통해 등록해보세요

함께 읽어보면 좋을 논문

논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!

이 논문의 저자 정보

이 논문과 함께 이용한 논문

자율주행차량 서비스에서 할루시네이션 보안에 대한 소고 (인공환각의 오답과 편향적 판단을 예방하는 측면에서)
강장묵 ,  김경민 ,  조민제 외 2명 Proceedings of KIIT Conference 2023 .06
대형 사전훈련 모델의 파인튜닝을 통한 강건한 한국어 음성인식 모델 구축
오창한 ,  김청빈 ,  박기영 말소리와 음성과학 2023 .09
MobileViT와 전이학습을 활용한 사람 자세 추정 알고리즘의 경량화
김건우 ,  홍종현 ,  박종혁 한국컴퓨터정보학회논문지 2023 .09
Transformer 기반 한국어 영어 번역 경량화 모델
이태준 ,  채희석 ,  송종근 외 1명 한국정보통신학회논문지 2023 .08
인공지능 ChatGPT와의 대화에서 엿본 미래의 희망
공정식 대한토목학회지 2023 .03

최근 본 자료

전체보기

댓글(0)

0

UCI(KEPA) : I410-ECN-0101-2022-569-001544096