임희석 고려대 컴퓨터학과 교수, 한국어 생성 능력 대폭 향상된 한국어 특화 LLM ‘구름3’ 공개
[스마트경제=복현명 기자] 임희석 고려대학교 컴퓨터학과 교수가 이끄는 NLP&AI 연구실과 HIAI 연구소는 지난해 6월 ‘KULLM(구름)’을 처음 공개하며 지금까지 실제 활용할 수 있는 수준으로 한국어 생성 능력을 향상하는 것을 목표로 했다.
이를 위해 고품질의 한국어 지시어(instruction) 데이터 셋을 제작하는 데 공을 들였고 이를 활용해 한국어 지시를 따르는(instruction-following) 능력을 대폭 향상했다.
연구팀은 여러 가지 데스크에 관한 다양한 한국어 데이터 셋을 제작했으며 ‘구름3(KULLM3)’ 모델만을 위한 특수 데이터도 제작했다.
이러한 고품질의 데이터는 Upstage의 SOLAR-10.7B 모델에 적용돼 지시 튜닝(instruction-tuning) 학습을 통해 ‘구름3(KULLM3)’이 탄생했다.
연구팀이 GPT-4-Turbo를 활용해 분석한 결과 ‘구름3(KULLM3)’의 생성 답변은 기존의 한국어 모델보다 매우 우수했으며 GPT-3.5 Turbo와 GPT-4 Turbo에 준하는 능력을 보였다.
연구팀이 제시한 성능에 따르면 모델이 생성한 답변의 ‘유창성(Fluency)’, ‘응집성(Coherence)’, ‘정확도(Accuracy)’, ‘완결성(Completeness)’, ‘총점(Overall Quality)’ 평가에서 우수한 성능을 보였다.
연구팀은 ‘구름3(KULLM3)’ 모델이 한국어로 된 지시 사항을 이해하고 실행하는 능력이 뛰어남을 강조했고 이를 활용해 AI 상담 챗봇과 RAG 기반 질의응답시스템 등 다양한 분야에서 활용할 것으로 기대했다.
임희석 고려대 컴퓨터학과 교수는 “요즘 한국어 private LLM과 On-premise 방식의 LLM 구축에 관심이 많다”라며 “실질적인 한국어 생성 성능이 월등한 ‘구름3(KULLM3)’가 좋은 대안이 될 수 있을 것이라 기대한다”라고 말했다.
한편 고려대 NLP&AI 연구실과 HIAI 연구소는 매년 자연어처리 분야의 최우수 학술대회에서 국내 최고 수준의 논문을 발표하고 LLM을 이용한 일상의 AI를 위한 연구에 매진하는 등 국내 인공지능 분야의 선도그룹이다.
복현명 기자 hmbok@dailysmart.co.kr
- 1[거침없이 뮤지컬 리뷰] 뮤지컬 ‘홍련’, 죄책감을 넘어선 듣기와 바라보기…‘참된 어른의 덕목’
- 2서울디지털대, ‘K-MOOC 2학기 강좌’ 6개 오픈
- 3기업은행, 2024년 기업인 명예의 전당 헌액자 선정
- 410주년 된 롯데월드몰…잠실 석촌호수에 16m 랍스터 둥둥
- 5제약바이오협, 창립 80주년 기념 국민 공모전 개최
- 6북경한미약품, 송영숙 동사장 체제 유지..."전문경영인 구축"
- 7풀무원, 대한민국 농업박람회 참가…홍보부스 운영
- 8우아한청년들, 안전보건경영시스템 국제표준 'ISO 45001' 획득
- 9이랜드 "추석 대목 맞아 ‘로니 순금 카드’ 판매 호조"
- 10KB손해보험, 역대 조선 왕들의 삶과 건강을 들여다보는 유튜브 콘텐츠 ‘타임슬립 진료실’ 온에어