[이데일리 김정유 기자] 퀄컴 테크날러지는 미국 시애틀에서 열린 ‘마이크로소프트(MS) 빌드 2023’에서 자사 ‘스냅드래곤 컴퓨팅 플랫폼’ 기반 생성형 인공지능(AI) 실행 등 혁신기술을 선보였다고 25일 밝혔다.

지아드 아즈가 퀄컴 제품관리 수석부사장은 “생성형 AI가 안정적으로 자리잡기 위해서는 엣지 디바이스에서 추론 기능의 활용이 극대화돼야 한다”며 “퀄컴의 최고급 AI 하드웨어와 소프트웨어는 개발자들이 AI 기술을 활용해 스냅드래곤이 탑재된 노트북, 휴대폰 및 기타 디바이스 상에서 놀라운 사용자 경험을 선사하도록 뒷받침할 것”라고 말했다.

미래의 AI는 온디바이스와 클라우드를 모두 포괄해야 할 것으로 보인다. AI 애플리케이션을 온디바이스로 운영하면 비용효율성, 프라이버시, 개인화, 지연(레이턴시) 등을 향상시킬 수 있다.

퀄컴 스냅드래곤 플랫폼에는 전용 퀄컴 AI 엔진이 장착돼 온디바이스 AI를 얇고, 가벼운 소형 기기에서 구현할 수 있다. 단순히 CPU 또는 GPU에 의존하는 것보다 AI 워크로드의 처리 효율성을 높일 수 있다.

퀄컴은 ‘MS 빌드 2023’에서 차세대 윈도우 11 PC상에서 생성형 AI 개발에 도움을 주는 데모를 시연하고 툴도 제공했다.

10억개 이상의 매개 변수를 보유한 생성형 AI인 ‘스테이블 디퓨전’은 단말기 상에서 운영되며, 퀄컴은 대규모 언어 모델(LLM) 등 100억개 이상의 매개 변수를 보유한 모델들을 수개월 내에 단말기상에서 운영할 수 있을 것으로 내다보고 있다.

또한 퀄컴은 ‘퀄컴 AI 스택’을 향상시키고 개발자들의 차세대 온디바이스 AI 경험을 지원하기 위해 이번 ‘빌드 2023’에서 대중을 대상으로 ‘퀄컴 AI 엔진 다이렉트 SDK’을 최초로 개방하기도 했다.

김정유(thec98@edaily.co.kr)