엔비디아, 메모리 3.5배 늘린 AI 슈퍼칩 공개...“미친듯이 추론할 것”

▲2015년 2월 11일 미국 캘리포니아주 산타클라라 본사에 엔비디아 로고가 보인다. 산타클라라(미국)/로이터연합뉴스

8일(현지시간) 블룸버그통신에 따르면 엔비디아는 미국 로스앤젤레스에서 열린 컴퓨터 그래픽스 콘퍼런스 시그래프에서 차세대 AI 칩 ‘GH200 그레이스 호퍼 슈퍼칩’을 발표했다. 이번에 공개된 AI 칩은 현재 엔비디아에서 최고 사양인 H100과 동일한 그래픽처리장치(GPU)와 141기가바이트(GB)의 최첨단 메모리 및 72코어 암(ARM) 기반의 컴퓨터프로세서(CPU)가 결합됐다.

초당 5테라바이트(TB)의 속도로 정보에 접근할 수 있는 고대역폭 메모리 HBM3e도 탑재됐다. 기존 엔비디아의 제품보다 최대 3.5배 큰 메모리 용량과 3배 높은 대역폭을 갖춰 AI가 회답을 도출하는 처리를 고속화했다는 게 회사 측의 설명이다.

젠슨 황 엔비디아 최고경영자(CEO)는 “새로운 GH200 그레이스 호퍼 슈퍼칩은 탁월한 메모리 기술과 고대역폭을 통해 처리량을 향상하고 성능 저하 없이 GPU를 연결해 성능을 통합할 수 있다”며 “전체 데이터센터에 쉽게 배포할 수 있는 서버 설계를 갖추고 있다”고 말했다. 그는 이어 “원하는 거의 모든 대규모 언어 모델을 여기에 넣으면 미친 듯이 추론할 수 있을 것”이라며 “(이렇게 되면) 대규모 언어 모델을 추론하는 데 드는 비용이 크게 떨어질 것”이라고 덧붙였다.

엔비디아는 GH200 슈퍼칩이 내년 2분기에 생산될 예정이라고 밝혔다. 다만 정확한 가격은 공개하지 않았다.

엔비디아는 슈퍼칩 발표와 함께 생성형 AI를 개발할 수 있는 플랫폼 ‘AI 워크벤치(NVIDIA AI Workbench)’를 출시할 예정이라고 밝혔다. 황 CEO는 “급증하는 생성형 AI 수요를 충족하기 위해 데이터센터에는 특수한 요구 사항을 갖춘 컴퓨팅 플랫폼이 필요하다”며 플랫폼 출시 배경을 밝혔다.

현재 엔비디아는 AI용 반도체 시장의 80% 이상을 점유하고 있다. 미국 AMD와 인텔 등이 그 뒤를 따르고 있다.

엔비디아 주가는 올해 3배 이상 뛰면서 필라델피아 반도체지수에 포함된 기업 중 가장 큰 폭의 상승률을 기록했다. 현재 기업가치는 1조1000억 달러에 달한다.

한편, 엔비디아 주가는 이날 장중 약 2% 하락했지만 새로운 AI 칩 발표 후 낙폭을 줄여 1.66% 하락 마감했다.