AI Monthly — June 2026
AI 趨勢月報 — 2026 年 6 月
三場分享。地端模型與 AI 變成基礎設施、訂閱補貼期的成本，以及 AI 工程從 prompt 走到 loop。
06-05｜地端模型與 AI 變成基礎設施
- Computex 正在台灣舉辦，討論的焦點是硬體。AI PC 等等都是在為未來的地端模型做準備，手機和 PC 以後都要有能運作的 AI。
- 以金融業客戶來說，規範仍然嚴格。除非是企業級、偏地端的私有雲服務，大部分導入可能還是會卡住。地端可能是入口，但還需要實驗。
- 企業若要導入，地端比較有機會。AI PC 的方案，可能是像 NVIDIA DGX Spark 這種 128G 記憶體的桌上 AI 機，或高階顯示卡串接的組合，但都有建置成本。
- 開源模型的強度會逐漸逼近我們現在用的前沿模型。逼近到分不出差異的時候，就會普及。我估計還要再幾年，需要觀察。
- 新模型加強了長任務，社群會把它串成多個 agent 持續做事。我們現在一定都是多開，一個人驅動多個 agent 做事。
- 當智力或勞動力變成像電力一樣、用錢買得到、能不眠不休的基礎設施，要想的是怎麼用它改善工作流程、提升效能、找出更多業務場景。
- AI 能在會後做總結，但現場即時總結會議、談判的能力，AI 無法即時介入，還是人的事。一個人驅動多個 AI 做多件事，就是一種 PM 能力。我也要求 RD 用 PM 的方式思考。
06-12｜補貼期與成本
- AI 已經是很明確的商品化東西，重點在怎麼把它用得更好。甲方如果要導入 AI，一定會考慮怎麼監管、怎麼稽核。
- 算力上各家都還在搶，我們不能單押一家，否則對方服務停擺就不能用。成本上，AI 一定會往越來越貴的方向走。
- 現在訂閱會覺得很划算，但其實處在高度補貼的狀態，這些都是投資人的補貼。要開始想怎麼節約成本和 token。
- 只用 token 消耗量當 KPI，只是在空燒，一定會有人寫程式乾燒 token。要回歸真正的結果。我們也會朝用更精簡的 token 達成更好結果的方向努力。
- 我把內部工具平台的權限管理移到後端。上架工具時，可以決定要不要給這個工具獨立的帳密。提供給客戶或對外 demo 時，就不必把全部工具一起開出去。
- 我用一個目標指令，讓 AI 部署無障礙的測試環境。它跑了二十幾個小時，解決了跨環境的問題，畫面也打開了。但是很貴，燒掉不少 token，還造成主機記憶體耗盡而當機。AI 仍然有破壞性，要注意邊界，人不能完全不管。
- 為了讓新人更容易進入狀況，我用新模型的一個 prompt，做出類似大富翁的新人引導介面。可以看到每個人走到哪裡、有什麼能力，還有動畫。下完 prompt 我就去睡，早上起來效果不錯，幾乎不用介入。
- AI 還在紅利期。趁還便宜，可以做更多 POC，用更激進的方式嘗試，看哪些事可以平行做掉。
06-26｜從 prompt 到 loop
- 從 2022 到 2024 年，大家都在講怎麼下 prompt。後來 AI 工具開始幫你把 prompt 做包裝，這叫 Context Engineering。最近用 Cursor 或 Claude Code 這類工具，講的是 Agentic Engineering，用層次化的引導讓 agent 更好地完成任務、發揮模型效能。
- 現在又出了一個新名詞，叫 Loop Engineering：設計一個會自我驅動、讓 agent 反覆執行的迴圈。有人主張改成設定 loop，讓 coding agent 一直解決問題。這眼下還蠻有爭議，但我認為我們一定要往那個方向走，因為那一定是軟體工程的未來。
- AI 造成的實體影響是機器全面漲價。
- 內部工具平台以前大概只能上架靜態資源，也就是 HTML 加 JS，沒有持久化儲存。我把資料庫和動態 API 整合成 All in One 的架構。更新 skill 之後，上架的工具就能有 API 和後端資料庫。我拿報價單系統做了一個 POC。