2025年回顧展：今年、AIスタックは移動しました

エグゼクティブサマリー（ビルダーと創設者向け）

2025年見た シフト GMI Cloudの予測に沿ったAIの進歩が進んでいます。

未加工モデルの機能は引き続き向上しましたが、それが優位の源ではなくなりました。勝ったチームの動きが速かったのは、彼らがより優れたモデルを持っていたからではなく、彼らが構築したからです。 ますます交換されつつあるインテリジェンスを中心としたより優れたシステム。

今年を定義した3つの力:

• 推論経済学とレイテンシーを再構築した製品インフラだけでなく
• モデル選択がリバーシブルになりました、システム設計が厄介になる中
• 耐久消費財企業は業務の成熟度が高かったため、印象的なデモは見られず

こうした変化を予測していた建設業者は、複合的なレバレッジを獲得しました。支払いをしなかった建設業者 リライト、コスト超過、ベロシティストール。

次に、スタックが実際に移動した場所と移動方法を説明します。 早い時と遅い時期 レスポンスが作成されました 実際の結果。

1。重心のシフト:モデルからシステムへ

今年もモデルの品質が向上しました。しかし、リターンは減少しました。結果を変えたのは、チームがどのモデルを選択したかではなく、選択したモデルです。 彼らがどのようにモデルをシステムに組み込んだか。

早期に引っ越したビルダー:

• モデルを次のように扱いました 交換可能なコンポーネント
• 早い段階で投資 ルーティング、フォールバックロジック、キャッシュ、オブザーバビリティ
• モデルチャーンを想定した設計製品

遅れたビルダー:

• 単一モデルのアップグレードに向けた定番ロードマップ
• モデルスワップがUXの前提を破ったことが明らかになったのは遅すぎた
• 予想よりも早く差別化が失われていることが判明

私たちはそれを観察しました システム成熟度 速度と信頼性がますます決定され、その結果、市場シェアと顧客を獲得しています。テストすべき点は次のとおりです。 お使いの AI 製品が 30 日間の強制モデル交換に耐えられない場合、それは じゃない プロダクション準備完了。

2。推論が本当のボトルネックになった

トレーニングは今でも限界を定めています 能力。一方、 推論が現実の底を定義した。

今年、レイテンシー、スループット、コストはインフラストラクチャの問題ではなくなり、製品に関する決定を左右するようになりました。

• 以下の理由により、機能が再設計または廃止されました トークンコスト
• UX フローは次のように再構築されました レイテンシーを隠す
• 「十分良い」回答は、到着が遅すぎた完璧な回答よりも優れている

早期に引っ越したビルダー:

• 本番環境と同様の負荷でベンチマークを実行
• モデルデモではなく、レイテンシーバジェットで設計された UX
• 推論コストを製品指標として扱う

遅れたビルダー:

• 最適化済み 後 打ち上げる
• トークンごとの価格設定が混同されている 総費用
• 顧客の圧力を受けてパイプラインを再構築

最適化された推論は、パイロットAIプロジェクトと成功プロジェクトを分ける大きな制約となりました。

3。オープンモデルとセミオープンモデルが静かにデフォルトになりました

オープンモデルはイデオロギー的な選択などではなくなった 運用ツール。

ほとんどの実際のワークロードでは、オープンモデルとセミオープンモデルで十分な品質が得られ、独自の API では実現できなかった機能が提供されました。 コントロール。

早期に引っ越したビルダー:

• オープンモデルを使用してロックインを減らし、交渉のレバレッジを取り戻した
• 迅速なモデル交換をサポートするように設計されたインフラストラクチャ
• 柔軟性と引き換えに運用の複雑さを受け入れる

遅れたビルダー:

• ベンダーの安定性の安全性を過大評価していた
• 価格変更またはポリシー変更後に初めて切り替え費用がかかることが判明
• API のシンプルさを長期的な実行可能性と間違えた

トップクラスのモデルが依然として素晴らしいベンチマークスコアを上げている一方で、それを正当化することはますます難しくなっています 10 倍のコストで最大 15% の改善。

4。コンテキストウィンドウを大きくしても、壊れたものは修正されなかった

コンテキストウィンドウは劇的に拡大しました。信頼性はそうではありませんでした。

メインストリームの生産モデルが移行されました 最大 8 万から 32 万トークン 「大きい」から 10万以上のトークン 存在する 使用可能です。

長いコンテキストのバリエーションは、ドキュメント全体、複数ファイルのコードベース、さらには長いチャット履歴まで含めることができる範囲にまで及んでいます。 1 回の通話で。

コンテキストを広げることで、要約、検索の幅を広げ、ツールを把握しやすくできましたが、幻覚、脆弱な推論、データの衛生状態の悪さは解決しませんでした。

早期に引っ越したビルダー:

• コンテキストを a として扱う 希少な資源
• に投資しました 検索品質とメモリ設計
• どのモデルが「記憶」できるかを明示的に管理した

遅れたビルダー:

• 入力を固定する代わりに詰め込みプロンプト
• 増加する推論費用をわずかな利益で支払った
• 大きなウィンドウでのマスクされたデータの問題

コンテキストはインフラストラクチャであり、魔法ではありません。コンテキストウィンドウを高くすることは役立ちますが、すでに AI スタックを悩ませている根本的な問題を解決することにはなりません。

5。評価が重要になり始めた — 失敗には代償が伴うからだ

AIシステムがより多くのユーザーに触れるにつれて、 サイレント障害は許容できなくなった。市場が見た 人工知能パイロットの95％ 静的ベンチマークが証明されたため、本番環境への移行に失敗しました 役に立たない 生産中。

チームは、タスク固有の継続的評価とヒューマンインザループ評価の実験を開始しました。

早期に引っ越したビルダー:

• での成功の定義 ユーザー向け用語
• お客様から報告される前にリグレッションを測定
• モデルの自慢ではなく、評価をシステム変更の指針に使った

遅れたビルダー:

• 現実から切り離されたオフラインスコアに頼っていた
• サポートチケットを通じて障害について学んだ
• システム動作を顧客に説明するのに苦労した

ほとんどのチームはまだ十分に評価しておらず、コストも目に見える形で表れています。

6。デモからワークフローへと段階的に進んだマルチモダリティ

マルチモーダルAIは、「何ができるか見てみよう」という考えではなく、「何ができるか見てみよう」という考え方をするようになりました 人々が実際にそれをどのように使用するか。

画像、動画、音声のモデルは、ツールによって連鎖化され、繰り返し処理され、導かれるパイプラインの内部に存在することが増えています。

早期に引っ越したビルダー:

• 設計対象 繰り返し、シングルショット出力ではない
• 最適化対象 一貫性 オーバーノベルティ
• より低いピーク品質を許容しました より高い制御性

遅れたビルダー:

• 壊れやすいデモを中心としたオーバービルド
• インフラコストと帯域幅コストの過小評価
• クリエイティブなワークフローの運用化に苦労していた

マルチモダリティは、デモアーティストではなく、システムデザイナーのように考えたチームに報いました。だからといって、クリエイティブなプロセスにアートがない (存在する) というわけではなく、 アートを探求するには道具が使えないと。

7。インフラストラクチャー・スタックが意図的にフラクチャされた

単一のユニバーサルクラウドスタックのアイデアは信頼を失いました。 コストの変動、容量の制約、地域ごとの遅延 ビルダーは、マルチクラウドインフラストラクチャ全体の異質性を考慮して設計する必要がありました。

早期に引っ越したビルダー:

• 移植性とフェイルオーバーを予定している
• ハードウェアの違いを設計入力として扱った
• 単一ベンダーのロックインを回避

遅れたビルダー:

• 以前ではなく、スケーリング中に制約が発見された
• 時間的制約のもとで苦しい移住に直面
• インフラの選択肢が戦略的選択肢を制限していることが判明

ハイパースケーラーや大規模クラウドは、現行企業を利用して価格を引き上げました。壁に書かれた文字を見たハイパースケーラー難民は、ネオクラウドプロバイダーに逃げました。

8。期待にもかかわらず起こらなかったこと

広く予測されていたいくつかの変化は、大規模には実現しませんでした。

• 確実に動作する完全自律型エージェント
• 一般的な理由:クリーンな製品への変換
• ヒューマンフリー・エンタープライズ・ワークフロー
• スタック全体で標準化されたツール

これを早期に認識したビルダー：

• 時期尚早の自動化ベットを回避
• 人間を危機的な状況に陥らせた
• 代替ではなく増強に重点を置く

しなかったビルダー:

• 楽観的な前提に基づいて脆弱なシステムを構築
• 過剰に約束された機能
• その代償を信託と解約で支払った

野心よりも抑制の方が価値があることが証明されました。私がいつも言ってきたように、「AI はあなたが望むよりも遅く、あなたが望むよりも速く起こります。」

9。これが来年に向けて準備するもの

まとめると、これらの変化は単一の統合を示しています。

• 推論の制約により、チームは次のことを余儀なくされました コストとレイテンシーに早期に向き合う
• こうした制約により、脆弱なシステムやベンダーロックインが露呈しました。
• その圧力により、オープンモデルとポータブルインフラストラクチャの採用が加速しました。
• それが今度は作った 評価と信頼性は避けられない

これらの変化はいずれも単独で起こったわけではなく、相互に補強し合うものです。

その結果、新しい分割線ができあがります。

• AIを次のように扱ったビルダー 成分 —プラグインしてアップグレードするものが、ますます天井にぶつかるようになっています。
• AIを次のように扱ったビルダー インフラストラクチャ お客様が設計、ストレステスト、運用を行うものが、スピード、コスト管理、信頼性において複合的な利点を得ました。

これからの本当の質問

モデルの収束が進むにつれ、新規性は実行上の優位性よりも早く衰えていくでしょう。

来年の建設業者と創設者にとって決定的な疑問は、そうではありません。 「どのモデルに賭けるべきか？」 しかし」インテリジェンスが豊富にあるとしたら、実際のユーザー、実際のコスト、リアルタイムで実際に耐えられるシステムを構築できるのは誰ですか？」

2026年のAIの勝者は、そうしたシステムをプレッシャーの中で運用できる企業です。

‍