大手テック企業が新たな課題に直面している。AIツールの普及がコストを下げるどころか、逆に押し上げ始めたのだ。社内でのAI利用を促すインセンティブ制度が、コンピューティングやクエリ処理の費用を急増させている。
業界関係者によれば、企業は社内のAIツールを優先的に使うようチームに指示し、サードパーティ製のソリューションを削減している。背景にあるのは、AIアプリケーションの高度化に伴うクエリ処理コストの急上昇だ。
特に費用がかさむのが「エージェント型AI」だ。これらのシステムは単一の回答を生成するだけでなく、自律的に一連の動作を実行し、データを分析して途中で判断を下す。そのプロセスは標準的なテキストクエリの数百倍から数千倍もの計算リソースを消費する。
一方、社内では従業員が簡単なタスクでもAIを使い、利用実績を稼ごうとする傾向が広がっている。その結果、パラドックスが生じた。ツールが広く使えるほど、全体の消費量が急増したのだ。
一部のチームはAI戦略を見直し、生産性向上だけでなく実際の運用コストに注目し始めている。そこで繰り返し浮かぶ疑問は、計算コストが想定以上に上昇する中で、自動化が本当に手作業より安いのかという点だ。
専門家は、市場はAIの利用回数ではなく、実際の効率性や経済的利益を測る方向へ徐々にシフトすると見ている。つまり、次の段階はAIを無差別に導入することではなく、真に効果を発揮するユースケースを選ぶことになる。