#トークン

AIは質問を読む前に3万トークン使う

海外の開発チームが、AIコーディングツールが実際にどれだけの文字数をAIに送っているかを計測した。結果は、こちらが質問を1文字も打つ前に約33,000トークン、日本語にして2万字前後の前置きが毎回送られていたというもの。比較対象の別ツールは約7,000トークンだった。これはツールの優劣の話に見えて、実は非エンジニアの経営者や担当者が向き合うことになるAI利用料の原価構造そのものの話だ。なぜ使った覚えのない分まで消費されるのか、どこを直せば無駄が減るのかを、会計事務所・EC・製造業の総務という3つの現場に置き換えて考える。