본문 바로가기
세상 잡학/IT

'롯데GPT'를 탄생시킨 리더보드

by 코토 잡학 2024. 2. 4.

그동안 베일에 싸여있던 허깅페이스 아이디 '@hyeog'의 주인공이

 

CJ올리브네트웍스 AI연구소 소속인 것으로 드러났다.

 

또 그룹 계열사 전체에 적용키로 한 '롯데GPT'의 개발사

 

롯데정보통신은 새해에도 꾸준히 1위 자리를 지켰다.

 

 CJ올리브네트웍스 본격 등장

롯데GPT

1. 오픈 Ko-LLM 리더보드

업스테이지와 한국지능정보사회진흥원(NIA)이 공동으로 주최하는

 

'오픈 Ko-LLM 리더보드' 1월5주차 순위에서 원상혁 CJ올리브네트웍스 AI연구소

 

Gen AI 파트 연구원은 'hyeongi/SOLAR-10.7B-dpo-v1' 모델로 4위를 차지했다.

 

이 모델은 이번 순위에서만큼은 아니지만, 이전에도 1월1주차에 차트 정상을 차지한 적이 있다.

 

그때는 인적 사항을 공개하지 않아 궁금증을 자아냈으나, 이번에는 소속을 명기했다.

 

또한, CJ올리브네트웍스는 'ONS-AI-RESEARCH/ONS-SOLAR-10.7B'라는 모델도 7위에 올려놓았다.

 

이 기업은 인공지능(AI) 전문 기업으로서 본격적인 LLM 기술력을 발휘하고 있다.

 

원상혁 연구원은

 

"순위가 점차 오르며 1위까지 올랐을 때는 무척 기뻤다"

 

"업무와 병행하며 진행한 것이다 보니, 더 뿌듯한 결과였다"

 

라고 말했다.

 

특히 CJ올리브네트웍스 자체 소형언어모델(sLM) 모델 구축을 위한

 

연구 개발을 진행하던 중 리더보드에 참여하게 됐다는 설명이다.

 

원상혁 연구원은 처음에는 'Yi-6B'를 베이스로 활용해 개발을 진행했으나,

 

더 나은 성능을 위해 더 큰 사이즈 모델인 '솔라'를 베이스로 활용했다고 밝혔다.

 

동료들과 함께 데이터셋을 정제하고 구축하며, 자체 평가를 거쳐 성능을 확인했다고 전했다.

 

짧은 시간이었지만, 다양한 실험을 진행하고 성능을

 

확인했기 때문에 좋은 결과를 얻을 수 있었다는 설명이다.

 

"향후에는 사내 다양한 프로젝트에 직접 구축한 언어 모델을 활용하고 싶다"

 

"한국어 언어 모델이 일반 성능 측면에서는 아직 부족하나,

 

특정 분야에 특화된 언어 모델은 충분한 성능을 보여주고 있다"

 

"이를 위해 자체 파운데이션 모델을 구축하고,

 

각 비즈니스에 맞게 미세조정을 진행해 특화된 언어 모델을 구축하고 싶다"

 

라는 목표를 밝혔다.

 

실제로 Ko-LLM 리더보드를 통해 좋은 성적을 거둔 모델이

 

기업 활동에 본격적으로 활용되는 사례도 발생했다.

 

예를 들어, 롯데정보통신은 지난해 11월부터 3개월째 최정상급 실력을 선보여 주인공이 되었다.

 

 

2. 정상급 LLM 기술력을 선보여

김원철 롯데정보통신 AI 테크니컬 팀 개발자의 'LDCC/LDCC-SOLAR-10.7B'

 

모델은 1월 3주에 이어 2주째 정상을 지키고 있습니다.

 

이 모델은 11월 1주 차에 '라마 2' 기반 모델로 1위를 차지한 후 '솔라'를

 

도입하여 계속해서 다양한 모델로 정상을 차지하고 있습니다.

 

이번에는 야놀자의 솔라 미세조정 버전을 도입했습니다.

 

롯데정보통신은 정상급 LLM 기술력을 선보였으며,

 

최근에는 AI 플랫폼 '아이멤버(Aimember)'를 롯데그룹 전 계열사에 도입했습니다.

 

롯데GPT라는 언어모델을 아이멤버에 적용하여 리더보드 1위의 기술력을 바탕으로 했습니다.

 

롯데정보통신은 모델 성능 업데이트와 서비스 아키텍처 고도화를 거쳐,

 

그룹 내부뿐만 아니라 고객사별 니즈를 반영한 자체 개발 도메인 특화 서비스도 제공할 계획입니다.

 

또한, 씨씨케이솔루션은 최근에 좋은 성적을 거둔 야놀자 모델을

 

기반으로 이번 주에는 2, 3위 및 5위 등 상위권을 석권했습니다.

 

또한, 정보보호 및 보안 솔루션 전문 아도스가 10위에 새롭게 이름을 올렸습니다.

 

아도스는 업스테이지 솔라 10.7B 모델을 베이스로 하여 상위 30%

 

퀄리티를 가진 데이터를 골라내 성능을 개선했다고 밝혔습니다.