報告摘要（適用於建築商和創始人）
二零零五年的時間 轉移 人工智能進度與 GMI 雲的預測一致。
原始模型能力繼續提高，但它不再是優勢的主要來源。贏得勝利的球隊移動速度不是因為他們擁有更好的模型，而是因為他們建立了 圍繞越來越可互換的智能系統更好。
三種力量定義了年份：
- 推論經濟性和延遲重塑產品，不僅僅是基礎設施
- 模型選擇變得可逆，而系統設計變得堅固
- 營運成熟度將持久性公司與令人印象深刻的演示
預期這些轉變的建築商獲得了複合槓桿。沒有付款的建造商 重寫、超過成本和速度停滯。
以下內容分解堆疊實際移動的位置以及如何 早期與晚期 已建立的回應 真正的後果。
1.重心移動：從模型到系統
今年模型質量再次提高。但回報減少了。改變了結果的不是團隊選擇哪個模型，而是 他們如何將模型構成系統。
提早搬家的建築商：
落後的建築商：
- 針對單一模型升級的錨定路線圖
- 太晚發現模型交換打破了 UX 假設
- 發現差異化的衰減速度比預期更快
我們觀察到 系統成熟度 越來越決定的速度和可靠性，從而贏得市場份額和客戶。這裡有一些要測試的內容： 如果您的 AI 產品在 30 天內無法在強制模型交換生存下來，則 不 準備生產。
二.推論成為真正的瓶頸
培訓仍定義了上限 能力。另一方面： 推論定義了現實的基礎。
今年，延遲、輸送量和成本已停止成為下述問題，並開始決定產品決策：
- 功能已經重新設計或切割由於 代幣成本
- UX 流程被重新塑造為 隱藏延遲
- 「夠好」的回應比過晚的完美回應
提早搬家的建築商：
- 在類生產負載下進行基準
- 設計使用者使用延遲預算，而不是模型演示
- 將推論成本視為產品指標
落後的建築商：
- 最佳化 之後 啟動
- 每個代幣定價混亂了 總成本
- 在客戶壓力下重建管道
優化的推論成為將先導人工智能項目與獲勝項目分開的門限制。
三.開放式和半開放式模型靜靜地成為默認
開放模式不再是思想選擇等 操作工具。
對於大多數真實工作負載，開放式和半開放模型達到足夠的質量，並提供了專有 API 無法： 控制。
提早搬家的建築商：
- 使用開放模式減少鎖定並重新獲得談判槓桿
- 設計的外線設計，可支援快速模型交換
- 接受的操作複雜性以換取靈活性
落後的建築商：
- 過估了供應商穩定性的安全性
- 僅在定價或政策改變後才發現切換成本
- 錯誤了 API 簡單性，實現長期可行性
雖然頂級模型仍在推出令人印象深刻的基準分數，但越來越難證明 10 倍成本，改善約 15%。
4.更大的上下文窗沒有修復了損壞的內容
前後關聯視窗大幅擴展。可靠性沒有。
主流生產模式從 約 8 萬至 32 萬代幣 是「大」的 超過 100 萬代幣 存在 可用。
長前後關聯變體交叉到可以包含整個文檔、多文件代碼庫甚至長的聊天歷史記錄的範圍 在一次通話中。
更廣泛的背景有助於總結、檢索範圍和工具基礎，但它並沒有解決幻覺、脆弱的推理或資料衛生不良。
提早搬家的建築商：
- 將前後關聯視為 稀缺資源
- 投資 擷取品質和記憶體設計
- 明確管理允許「記住」的模型
落後的建築商：
- 填充提示而不是修復輸入
- 支付增加推論成本以實現小幅收益
- 較大的視窗中被遮罩的資料問題
上下文是基礎架構，而不是魔術。擁有更高的上下文窗口有幫助，但不能解決已經困擾 AI 堆疊的基礎問題。
5.評估開始重要 — 因為失敗變得昂貴
隨著 AI 系統觸及更多用戶， 靜音故障停止承受。市場看到 95% 的人工智能飛行員 因為靜態基準證明，因為無法進入生產 無用 生產中。
團隊開始實驗特定任務、持續性和人體循環評估。
提早搬家的建築商：
- 定義的成功 面向用戶的術語
- 在客戶報告之前測量回歸
- 使用評估指導系統變更，而不是模型自豪
落後的建築商：
- 依靠離線分數與現實中斷
- 通過支持票證了解失敗
- 難以向客戶解釋系統行為
大多數團隊仍然沒有良好評估，這在可見的成本中顯示出來。
六.多模式化從演示轉化到工作流程
多模式 AI 不再關於「看看它可以做什麼」，並開始關於 人們如何實際使用它。
影像、視訊和音訊模型越來越多地存在於管道內，以便由工具鏈結、迭代和指導。
提早搬家的建築商：
- 專為 迭代，不是單張輸出
- 針對最佳化 一致性 超新奇
- 接受較低的峰值質量 更高的控制性
落後的建築商：
- 圍繞脆弱的演示進行過度構建
- 低估的外線和頻寬成本
- 難以運作創意工作流程
多模式獎勵思考像系統設計師而不是演示藝術家的團隊。這並不是說創作過程中沒有藝術（有），而是 工具需要工作才能探索藝術。
七.基礎架構堆疊破裂 — 故意
單一通用雲堆疊的想法失去了信譽。 成本波動、容量限制和區域延遲 強制建構者設計跨多雲基礎架構的異質性。
提早搬家的建築商：
- 計劃適用於可攜性和容錯移轉
- 將硬體差異視為設計輸入
- 避免單一供應商鎖定
落後的建築商：
- 在縮放期間發現約束，而不是之前
- 在時間壓力下面臨痛苦的遷移
- 找到限制策略選項的外線選擇
超級擴展商和更大的雲端運用了現有業務來提高價格。超大規模難民看到牆上的文字逃到新雲提供商。
八.儘管預期沒有發生了什麼
幾個廣泛預測的變化未能大規模實現：
- 完全自主的代理程式可靠運作
- 一般理由可以清晰地轉化為產品
- 無人性化的企業工作流程
- 整個堆疊的標準化工具
早期認識到這一點的建築商：
- 避免過早自動化投注
- 讓人類保持在關鍵循環中
- 專注於增強，而不是替代
沒有做到的建築商：
- 基於樂觀的假設建構脆弱的系統
- 超承諾的功能
- 以信任和流失支付成本
控制證明比野心更有價值。正如我一直說過的那樣：「AI 會比你想要慢，而且比你想要快。」
九.這將為明年設置了什麼
總而言之，這些變化指出單一合併：
- 推論限制迫使團隊 早期應對成本和延遲
- 這些限制暴露出脆弱的系統和供應商鎖定
- 這種壓力加速了開放模型和可攜式基礎架構的採用
- 反過來，它成了 評估和可靠性不可避免
這些改變都沒有獨立發生：它們相互補強。
結果是一條新的分隔線：
- 將 AI 視為一個 元件 — 您可以插入並升級的東西 — 越來越高的天花板。
- 將 AI 視為的建造商 基礎設施 — 您設計、應力測試和操作的東西 — 在速度、成本控制和可靠性方面獲得了複合優勢。
未來的真正問題
隨著模型繼續融合，新穎性將會比執行優勢更快的衰退。
明年建築商和創始人的決定性問題不是 「我們應該投注哪種模式？」 但是」如果智慧豐富，誰會在實際使用者、實際成本和實時下實際支持的系統？」
2026 年的 AI 獲獎者將是能夠在壓力下操作這些系統的人。
.svg){kind=small}
.svg){kind=logo}
