저가 AI 모델 확산과 가격 경쟁, ‘10배의 법칙’은 시장을 어떻게 바꾸나

미국과 중국 AI 모델의 이용료 차이가 토큰 100만 개당 10배를 넘어섰다.

모델을 작고 가볍게 만드는 기술도 발전하면서 AI의 이용 비용과 실행 장소가 달라지고 있다.

이 변화는 기술이나 가격의 큰 폭 개선이 시장 구조를 바꾼다는 ‘10배의 법칙’과 맞닿아 있다.

10배의 법칙은 새 기술이 기존 기술보다 10배 좋아지거나 가격이 10분의 1 수준으로 낮아질 때 시장 구조가 재편된다는 관점이다.

AI 모델 중개 플랫폼 오픈라우터에 따르면 오픈AI와 앤트로픽은 토큰 100만 개당 1~2달러를 받는다.

알리바바와 즈에이 등 중국 기업의 오픈웨이트 모델은 같은 양을 6~12센트에 제공한다.

오픈웨이트는 모델의 가중치를 공개하는 방식이다.

이용료 격차와 경량화 기술이 함께 커지면서, AI 이용 방식과 시장 경쟁이 바뀔 수 있다는 분석이 나온다.

모델을 기기에서 직접 실행할 수 있게 하는 변화도 있다.

9월 17일(현지시간) 미국 스타트업 프리즘ML은 매개변수 270억 개의 ‘큐웬3.8 27B’를 메모리 사용량 10분의 1 수준으로 압축한 버전을 공개했다.

용량은 6GB 미만이어서 PC뿐 아니라 스마트폰에서도 구동할 수 있다.

퀄컴은 9월 10일 스마트폰용 신경망처리장치(NPU) ‘헥사곤’을 발표했다.

메모리 3GB 환경에서 매개변수 300억 개 모델을 실행할 수 있다.

원문은 애플 A20 프로 칩에서 구동 가능한 최대 40억 개 매개변수 모델과 비교해 7.5배 향상된 성능을 제공한다고 설명한다.

작은 모델의 답변 품질도 주목된다.

스탠퍼드대 연구진에 따르면 개인 노트북 등에서 구동하는 경량 모델은 단일 질문 대화와 추론 문제에서 88.7%의 성공률을 보였다.

그러나 비용 하락이 투자 열기를 식힐 수 있다는 우려도 있다.

벨로시티캐피털 설립자 앤디 케슬러는 11일 월스트리트저널 기고에서 AI 열풍을 통신 기업 글로벌크로싱의 파산에 빗댔다.

인터넷 수요가 늘던 때 통신 가격이 급락했고, 회사는 부채에 시달리다 2002년 파산했다.

케슬러는 가격이 90% 하락하면 기존 매출을 유지하기 위해 수요가 900% 이상 늘어야 한다고 지적하며, 가격 폭락 전까지 AI 투자가 치킨게임 양상을 보일 것이라고 전망했다.

값싼 AI가 이용자를 늘리는 속도가 매출 감소를 따라잡을지가 가격 경쟁의 관건이다.