Design of a Large-scale Task Dispatching & Processing System based on Hadoop

김직수; 구엔 카오; 김서영; 황순욱

추천

검색

질문

자료유형: 학술저널

저자정보: 김직수 (한국과학기술정보연구원) 구엔 카오 (한국과학기술정보연구원) 김서영 (한국과학기술정보연구원) 황순욱 (한국과학기술정보연구원)

저널정보: Korean Institute of Information Scientists and Engineers Journal of KIISE Journal of KIISE Vol.43 No.6

발행연도: 2016.6

수록면: 613 - 620 (8page)

이용수

📌

연구주제

📖

연구배경

🔬

연구방법

🏆

연구결과

초록· 키워드

오류제보하기

본 논문에서는 대규모의 작업을 고성능으로 처리하기 위한 Many-Task Computing(MTC) 기술을 기존의 빅데이터 처리 플랫폼인 Hadoop에 적용하기 위한 MOHA(Many-Task Computing on Hadoop) 프레임워크에 대해 기술한다. 세부적으로는 MOHA의 기본 개념과 개발 동기, 분산 작업 큐에 기반한 PoC(Proof-of-Concept) 수행 결과를 제시하고 향후 연구 방향에 대해서 논의하고자 한다. MTC 응용은 각각의 태스크들이 요구하는 I/O 처리량은 상대적으로 많지 않지만, 동시에 대량의 태스크들을 고성능으로 처리해야하고 이들이 파일을 통해서 통신한다는 특징을 가지고 있다. 따라서 기존의 상대적으로 큰 데이터 블록 사이즈에 기반한 Hadoop 응용과는 또 다른 패턴의 데이터 집약형 워크로드라고 할 수 있다. 이러한 MTC 기술과 빅데이터 기술의 융합을 통해 멀티 응용 플랫폼으로 진화하고 있는 Hadoop 생태계에 신규 프레임워크로서 대규모 계산과학 응용을 실행할 수 있는 MOHA를 추가하여 기여할 수 있을 것이다.

#Many-Task Computing #하둡 #빅데이터 플랫폼 #멀티레벨 스케줄링 #MOHA #Hadoop #Big Data platform #multi-level scheduling

참고문헌 (16)

참고문헌 신청

[학술지(정기간행물)] - D. Thain / 2005 / Distributed computing in practice: the Condor experience / Concurrency and Computation: Practice and Experience 17 (2-4) : 323 ~ 356

[학술대회논문] - B. Bode / 2000 / The Portable Batch Scheduler and the Maui Scheduler on Linux Clusters / Proc. of the Usenix, Proceedings of the 4th Annual Linux Showcase & Conference

[인터넷자원] - / / IBM Tivoli Workload Scheduler LoadLeveler

[학술대회논문] - W. Gentzsch / 2001 / Sun Grid Engine: Towards Creating a Compute Power Grid / Proc. of the 1st IEEE International Symposium on Cluster Computing and the Grid (CCGrid 2001)

[학술지(정기간행물)] - J. J. Dongarra / 1996 / A message passing standard for MPP and workstations / Communications of the ACM 39 (7) : 84 ~ 90

함께 읽어보면 좋을 논문

논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!

이 논문의 저자 정보

김직수

소속기관 명지대학교

주요연구분야 공학 > 전기전자공학 > 정보통신공학 공학 > 컴퓨터학

논문수 30 이용수 2,755

구엔 카오

소속기관 한국과학기술정보연구원

주요연구분야 공학 > 컴퓨터학

논문수 1 이용수 235

김서영

소속기관 숙명여자대학교 대학원 컴퓨터과학부 컴퓨터과학과

주요연구분야 공학 > 컴퓨터학 의약학 > 기초의학 > 예방의학·직업환경의학

논문수 24 이용수 1,572

황순욱

소속기관 한국과학기술정보연구원

주요연구분야 공학 > 컴퓨터학 공학 > 전기전자공학

논문수 49 이용수 2,523

이 논문과 함께 이용한 논문

빅데이터 활용사례

김경태 한국지능정보시스템학회 학술대회논문집 2014 .11

Hadoop 프레임워크에서 효율적인 빅데이터 검색을 위한 전략

백우현 , 김지은 , 이재경 외 1명 한국정보과학회 학술발표논문집 2014 .12

빅데이터 활용과 데이터 과학자

조완섭 정보과학회지 2014 .01

메모리 기반 빅데이터 처리 프레임워크의 성능개선 연구

이재환 , 최준 , 구동훈 한국산업정보학회논문지 2016 .06

하둡 기반 빅데이터 영상 처리를 통한 차량 이동경로 추적 시스템의 설계 및 구현

양성은 , 최창열 , 최황규 디지털콘텐츠학회논문지 2013 .12

최근 본 자료

전체보기

구분	그룹	데이터 항목
AI 학습용 데이터	원문	원문 PDF 파일
AI 학습용 데이터	원문 + 메타 (기본/상세)	원문 PDF 파일 및 서지정보 CSV
대량 구매용 데이터	B2B 구독 방식	특정 자료 한정으로 원문 접근 권한 부여
대량 구매용 데이터	URL 전달 방식	바로 PDF 뷰어를 열람할 수 있는 URL 제공

구분	그룹	데이터 항목
AI 학습용 데이터	기본 메타	발행기관명, 간행물명, 권호명, 권(vol), 호(issue), 통권, 발행연도, 발행월, 논문명, 저자명, 시작페이지, 종료페이지, 전체페이지, 상세페이지URL
상세 메타 데이터	발행기관 메타	발행기관 이명, 영문명, 창립연도, 홈페이지URL, 발행기관 소개
	간행물 메타	부제목, 간행물 유형, ISSN, ISBN, 최초발행연도, 폐간연도, 간행빈도, 발행주기, 등재사항, 이용수, 피인용수, 권호수, 논문수, 표지이미지
	논문 메타	작성 언어, 부제목, 대등제목, 목차, 키워드, 초록, 이미지, 참고문헌, 이용수, 피인용수, 논문활용도, DBpia통합주제분류, KDC분류, DDC분류, 한국연구재단분류, UCI, DOI
	저자 메타	소속기관, 소속부서, 직급, 연구분야, 연구키워드, 이용수, 피인용수, 저자 논문활용도

구분	그룹	데이터 항목
※ 결합형/맞춤형 메타 데이터는 신청 내용에 따라 다양하게 제공 가능
이용순위 정보	주제분야별 많이 이용된 논문	“인문학”에서 많이 이용된 논문 TOP100
	이용기관별 많이 이용된 논문	“중고등학교”에서 많이 이용된 논문 TOP100
	세부기관별 많이 이용된 논문	“서울대학교”에서 많이 이용된 논문 TOP100
	키워드별 많이 이용된 논문	“Chat GPT”에서 많이 이용된 논문 TOP100
키워드 정보	많이 이용된 키워드	특정기간/분야/저널 내 많이 이용된 키워드
	많이 발행된 키워드	특정기간/분야/저널 내 많이 발행된 키워드
	많이 검색된 키워드	특정기간/분야/저널 내 많이 검색된 키워드
	연구 트렌드 키워드	특정 키워드 연관 연구동향 분석 데이터 키워드

논문 기본 정보

초록· 키워드

AI 요약

연구주제

연구배경

연구방법

연구결과

주요내용

목차

참고문헌 (16)

함께 읽어보면 좋을 논문

이 논문의 저자 정보

이 논문과 함께 이용한 논문

최근 본 자료

댓글(0)