동일한 수준의 인공지능 문제를 풀고 답을 얻는 데 드는 이른바 '추론 비용'이 매년 13분의 1 수준으로 폭락하고 있습니다. 인프라 비용은 치솟는 반면 서비스 이용 가격은 급락하는 유례없는 'AI 가격 역설' 현상이 나타나고 있습니다.
비영리 연구기관 에포크 AI는 최근 보고서를 통해, 지난 2023년 이후 동일한 AI 성능을 구현하는 비용이 분기마다 약 47%씩 하락했다고 발표했습니다. 이를 1년 단위로 환산하면 매년 13배씩 가격이 떨어지는 셈입니다.
연구진은 이러한 하락세가 산업 역사상 찾아보기 힘든 기록적인 속도라고 짚었습니다. 이는 과거 유전체 분석 기술 발전보다 4배, 컴퓨터 연산력 발전보다 6배, 리튬이온 배터리보다 18배나 빠른 가격 하락 속도입니다.
실제로 최근 주요 모델의 테스트 결과, 불과 1년 반 만에 동일한 수준의 고난도 시험 정답률을 기록하는 데 드는 비용이 725분의 1 수준으로 급격히 줄어들었습니다.
특히 새로운 최첨단 모델이 시장에 나온 직후 경쟁 업체들의 빠른 추격이 이어지면서 초기의 가격 붕괴 현상이 가장 심하게 일어나는 것으로 분석됐습니다.
전문가들은 데이터센터 등 인프라 투입 비용은 폭등하지만 시장 서비스 가격은 급락하는 상황이 이어지고 있다고 전했습니다. 이로 인해 소비자의 AI 활용 문턱은 크게 낮아진 반면, 개발 기업들의 독점 이윤 유지는 한층 어려워질 것으로 보입니다.
