업스테이지, 인텔 코어 울트 프로세서에 자체 LLM ‘솔라’ 최적화

▲인공지능(AI) 기술 기업 업스테이지는 솔라의 경량화 버전인 ‘솔라 미니(Solar Mini)’와 솔라 기반 거대언어모델(LLM) 문서 작업용 애플리케이션(앱) ‘라이트업(WriteUp)’을 ‘인텔 코어 울트라(Ultra) 프로세서’에 최적화한다고 7일 밝혔다. (사진제공=업스테이지)

외부 클라우드 연결 없이 기기 자체에서 AI 처리가 가능한 ‘온디바이스 AI’가 화두다. 특히, 단말에 내장된 칩에 직접 LLM을 설치하는 AI 컴퓨터(AI PC)는 높은 접근성, 생산성 뿐만 아니라 정보 유출을 원천 차단해 보안성을 극대화했다.

이에 업스테이지와 인텔은 AI 기능에 특화된 인텔 코어 Ultra 프로세서에 솔라를 최적화해, 세계 최고 수준의 LLM과 결합한 AI PC의 새로운 기준을 제시한다. 이를 통해 앞으로 인텔의 해당 프로세서를 장착한 윈도우 PC 제품군에서 솔라를 온디바이스 AI로 활용할 수 있게 될 전망이다.

솔라는 업스테이지가 개발한 자체 사전학습 LLM이다. 솔라 미니는 매개변수(파라미터)를 경량화한 모델로, 작지만 강력한 성능으로 다양한 산업, 기업별 맞춤형 파인튜닝(미세조정) 뿐만 아니라 온디바이스 AI 등 구축형에 특화됐다. 한국어와 영어, 일본어 등 다양한 언어를 지원한다.

라이트업은 솔라 기반의 문서 작업용 앱이다. 설치형으로 폐쇄망, 오프라인 환경에서도 동작해 솔라 LLM을 활용한 다양한 문서 작업이 가능하다. 문장 생성, 요약뿐만 아니라 문맥에 맞는 문장의 톤까지 다양하게 조절할 수 있는 점이 특징으로, 실시간 다국어 번역 기능까지 지원한다.

업스테이지는 이달 4일부터 7일까지 대만 타이베이에서 개최되는 아시아 최대 정보기술(IT) 박람회 ‘컴퓨텍스(COMPUTEX) 2024’, 5일 서울에서 개최된 ‘인텔 AI 서밋(Intel AI Summit Seoul)’을 통해 인텔 칩셋에서 구동되는 솔라를 시연했다.

업스테이지 김성훈 대표는 “업스테이지가 개발한 세계 최고 수준의 솔라 LLM을 인텔의 고성능 프로세서에 탑재하게 되어 매우 기쁘다”며 “높은 생산성과 보안성을 갖춘 온디바이스 AI에 특화된 솔라를 통해, 인텔 기반의 윈도우 PC 사용자들은 생성형 AI 기술을 더욱 쉽고 빠르게 활용할 수 있을 것”이라고 말했다.