폴 그레이엄, AI 추론 측정에 토큰 단위는 부적절하다고 주장
GHC Graham Holdings Co
$1173.16 -0.97%
차트·분석 보기 → - 1Y Combinator 공동창업자 폴 그레이엄이 화요일 엑스(X)에서 AI 추론 측정·과금 방식을 문제 삼는다
- 2토큰으로 과금하지만 모델이 발전할수록 토큰당 문제 해결량이 늘어 토큰은 추론 단위가 아니라고 쓴다
- 3점점 어려운 문제 사슬 등으로 문제 해결량을 재는 표준 단위를 정해야 한다고 주장한다
그래서 핵심이 뭔가요?
AI 값은 토큰으로 매기지만, 모델이 좋아질수록 같은 토큰으로 더 많은 문제를 푼다. 토큰 수보다 문제 해결량으로 재야 한다는 말이다.
오늘의 AI 픽 5종목, 무료로 전부 공개합니다숨기는 것 없이, 지난 픽의 성적표(S&P500 대비)까지 그대로 보여드립니다.