CIOのためのAIトークノミクスガイド

すべてのAI利用について、ワークロード名、担当チーム、使用モデル、トークンコスト、出力を記録できるAIゲートウェイまたはオブザーバビリティレイヤーを導入します。可視化がなければ、他の施策も実効性を持ちません。

トークンを使用したチームに、そのコストを配分します。まずはエンジニアリング部門と、消費量の多い3～4部門から始めます。

ショーバックは使用量を可視化できますが、費用負担は伴いません。行動変容につなげるには、他のインセンティブとの連動が必要です。一方、チャージバック（社内課金）は、使用量に応じてコストを各チームに配分する仕組みです。本調査では、コスト最適化とAIが生み出す価値の可視化に最も強く関連する施策でしたが、導入企業はごくわずかです。効果を引き出すには、周辺のガバナンス体制も整える必要があります。

各チームが自らの使用分を負担することで、管理者は支出の妥当性を確認し、開発者はコストを踏まえてモデルを選ぶようになります。

フロンティアモデルが必要なワークロードは、複雑な推論、複数情報源の統合、重要度の高い生成を伴う約10%に限られます。それ以外は、中位モデルやオープンウェイトモデルに振り分けます。モデルの振り分けは開発者個人の判断に委ねず、ゲートウェイで制御します。

新たなAIワークロードに投資する前に、三つの項目を明確にします。現在のプロセスにかかるコストまたは時間、AIによって改善する具体的な財務成果、その成果を金額で測定する方法です。これらが明確になるまで、本番稼働へ進めません。複雑な仕組みは必要ありません。ただし、支出後に投資を正当化するのではなく、支出前に定義することが重要です。価値の指標は部門によって異なります。カスタマー業務なら自己解決率、ソフトウェア開発ならサイクルタイム、バックオフィスなら1件あたりの処理時間などです。指標は異なっても、事前に定義するという原則は変わりません。

モデルの振り分けを誤る主因は、判断力ではなく、明確な選定基準がないことです。開発者や従業員はモデルごとのコスト差を把握できず、低コストモデルで十分かどうかを判断する基準もないため、最も高性能なモデルを選びがちです。必要な人がコストを確認できるようにし、適切なモデルが自然に選ばれる初期設定にします。人による判断は、本当に必要なケースに絞ります。