AI 비서 '언더독' 베타 공개…데이터 외부 전송 없이 PC에서 실행

[지디넷코리아]독학 개발자 시길 웬(Sigil Wen)이 설립한 스타트업 콘웨이 리서치가 기기 안에서만 실행되는 AI 비서 '언더독(Underdog)'의 초대제 베타를 공개했다. 현지 시각 10월 6일 테크크런치에 따르면 언더독은 사용자의 데이터를 외부 서버로 전송하지 않고 사용자가 이미 보유한 기기에서 처리하는 온디바이스 방식이다. 현재 맥과 윈도우 PC를 지원하며 리눅스·아이폰·안드로이드 버전은 준비하고 있다.웬은 AI 모델을 실행하는 추론 엔진 '허스키(Husky)'를 직접 개발했다. 그는 다른 온디바이스 엔진과 달리 컴퓨터의 중앙처리장치와 그래픽 칩 사이에서 이동하는 데이터 양을 줄여 속도를 높였다고 설명했다. 사용자가 접근을 허용한 이메일 등 계정의 인증 키도 암호화해 보관한다.언더독은 큐원3.8 27B를 미세조정한 매개변수 270억 개 규모 추론 모델을 사용한다. 미세조정은 이미 학습한 모델을 특정 목적에 맞춰 추가로 학습시키는 과정이다. 데이터센터에서 실행되는 최신 대형