信任

每個一人公司的建造者，最後都會回答一個問題——而且通常是在答錯一次之後： 哪些答案，我可以不檢查就直接照著行動？ 注意，這不是「AI 能做哪些任務」。那是能力問題，而它的答案每隔幾個月就變一次。這是一個分類問題，它不隨模型改變，只隨任務改變。 先說清楚：這個框架不是這篇文章的價值 老規矩，先坦白：評分框架本身並不新，也不是我們的。 監管機構、企業資安團隊、學術團隊都發表過各自的版本。微軟的 agentic 風險指引寫著：對高風險或不可逆的動作，要求人工核准。DeepMind 一篇關於委派的最新論文，把「可逆性」列為決定你能下放多少權限的軸線。實務工作者則發表權限矩陣，用影響範圍 × 可逆性 × 代價替每個動作評級。如果你要的是通用框架，那些來源會比一個一人公司的部落格更能幫上你，我會把它們列在最下面讓你自己查。 但那些文章，沒有一篇是為你寫的：一個人、一個產品、你自己的憑證，而且沒有合規部門在後面幫你接住失誤。所以值得寫的，是這一塊。以下是這條規則，套在一個一人公司的情境上。 分類規則 用三個軸替任務評分。取最高的那一軸，決定等級。 可逆性 一鍵還原 → 花幾小時救得回來 → 無法逆轉 影響範圍 只有我、本機 → 我自己的生意或錢 → 別人 出錯代價 微不足道 → 金錢、期限、信任 → 法律／安全／名譽 結果是一個等級，而等級決定的是控制方式，不是你給多少信任： 等級 意思 控制方式 G0 唯讀、本機、無關緊要 直接交出去——這正是 agent 存在的意義 G1 影響範圍小、可還原 讓它跑，但要留紀錄 G2 任一個軸偏高 設閘——agent 提案，你扣板機 G3 不可逆，而且（對外 或 嚴重） 絕不讓它自己跑——要防範，不是靠覆核 要用真實的可逆性評級，而不是「我的編輯器有沒有 undo」。一條 shell 的 rm 就是 G3，即使你的 IDE 可以倒帶——因為倒帶蓋不住 shell 的副作用。這跟我們另一篇談「完成」是一種宣稱，不是事實的紀律是同一個家族，差別在於：那篇講的是驗證產出，而這篇高了一層——決定「哪些產出，你本來就被允許不看著就照著行動」。一個「無論 agent 誠不誠實都成立」的控制，不是驗證儀式，那叫圍籬。 交出去之前，先替這個任務評分 可即時試算——改動任何數字，下方結果立即更新 ...

現在每個在 AI 上建造的人都在問同一個問題：用哪個模型？ 而這是錯的問題，因為模型是你的技術堆疊裡，唯一你既不擁有、也留不住、還被迫在更便宜的版本一出現就換掉的那一塊。 但你能擁有的，是包在它外面的每一樣東西。記憶。規則。決策邊界。那張「已經驗證過、永遠不必再驗證」的清單。 代理不是模型。記憶才是產品。 模型是租的，脈絡是你自己的 這是 AI 時代最不舒服的一筆帳：模型是商品。它按 token 計價、按月出租、完全可替換。當競爭對手推出一款便宜十倍、做到九成五工作的東西，你就會換——不是你想換，是經濟壓力逼你換。 但用新模型開一個全新的對話、問它任何關於你在建的東西，它一無所知。它看不見你過去的決策。它不記得你拒絕了哪家供應商、為什麼，哪個 bug 讓你賠掉一個週末，哪條規矩你發誓再也不犯。 那份知識——累積下來的脈絡——才是真正會複利增值的東西。每一次「記得」的對話，都是一次不必再花頭二十分鐘重講一次的對話。而這一切，都不在模型裡。它在你自己圍繞模型建立的那套系統裡。 三樣比模型更值錢的東西 把一套能用的獨立開發者代理設定拆到最核心，你會發現關鍵根本不是模型，而是三樣東西——而且全都是你的： 一、記憶——持久的脈絡。 那本記滿決策、偏好、痛了才學到的修正的檔案，讓你不必把同一件事講兩遍。多數人的「記憶」就是聊天紀錄，那只不過是一堆會隨時間滑走的脈絡。真正的記憶是經過整理的：寫下來、分類好、在每次對話一開始就注入進去，讓代理從你上次停下的地方繼續，而不是從零開始。 二、規則——決策邊界。 那些告訴代理「什麼可以自己做、什麼必須先問你」的設定。「建立前先搜尋。」「沒批准不准寄信。」「某類卡片只留標題。」這些不是人格——是約束，而約束正是把一個自信的聊天機器人，變成你真的敢交任務的東西。可靠從來不是模型聰不聰明，而是你圍的那道柵欄。 三、驗證儀式。 關於這個，我們已經寫過一整篇——〈「完成了」是一個主張，不是事實〉（done is a claim）——但它必須在這份清單上，因為它是記憶的「出貨」那一半。你不只是記得做了什麼，你還要檢查它真的做了。儀式，就是讓你的記憶保持誠實的那道手續。 注意這份清單缺了什麼：挑模型。它有位置，但它是你換掉也不會心痛的那一塊。其他三樣，才是價值所在。 為什麼這是護城河 「記憶才是產品」之所以重要，不是哲學——是關於什麼東西經得起時間與競爭的考驗。 一次模型升級對你來說什麼都沒重置，因為你的優勢從來不是「我選了更好的模型」。你的優勢，是那三個月累積下來的、整理過的決策、邊界規則和記錄在案的修正——任何全新的機器人都複製不來，任何競爭對手都 fork 不走。當所有人用的都是同一批模型時——事實上也的確是——唯一能區分你和別人的，就是你圍繞它們建立的那些資產。 這跟〈認識你的代理模式〉（agent patterns）以及〈AI 助手還做不到的事〉（what they can’t do）是同一塊領域。那兩篇談模式與天花板，這篇談資產。記憶、規則、儀式，是「操作者」的功課——是那個讓你得以留住價值的紀律。 重新框架 別再問「我該用哪個模型？」——你下一季還會再問一次，一直問下去，而且它永遠不會是要緊的那件事。 改問：我的代理知道哪些一個全新模型不知道的事？ 如果答案是「沒有」，那你根本沒有代理——你只有一個很貴的自動填字。如果答案是一整套真實的決策、規則和記錄在案的結果，那你就建出了真正會複利增值的東西。 模型是你租的那顆引擎。記憶，是你在打造的那台機器。前者買下的那天就開始折舊，後者每跑一週就多值一分。 而這件事的意義，不只在於你自己的利潤：當所有人都租同一顆引擎，產出就會趨同。放到市場尺度來看，這種「都一樣」就不再只是商業問題，而是一個系統性問題——差異化不只是護城河，它也是讓整個系統保持穩定的條件。 來源 Zheng 等人，《Where LLM Agents Fail and How They Can Learn From Failures》（arXiv:2509.25370，2025）。 代理的失敗橫跨記憶、反思、規劃、行動與系統運作；該分類法把「記憶」列為第一級失敗類別，而非事後補記。支撐「記憶是產品，不是流水帳」。 Lewis 等人，《Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks》（NeurIPS 2020）。 RAG 的經典框架：模型知識在訓練當下即凍結，外部、可檢索的脈絡才是讓它維持時效並變成你的的方式。支撐「模型是租的、脈絡是自己的」這道分界。 Ng，《Agentic Design Patterns》（DeepLearning.AI，2025）。 實務代理堆疊（規劃、工具使用、反思）把模型視為眾多組件之一，而耐久性存在於周遭系統——而非模型本身。 Indie Hackers / Hacker News（2025–2026）多篇獨立開發者檢討。 反覆出現的教訓：開發者在模型與框架之間追逐能力，真正複利增值的人，是那些花心思整理脈絡、寫下規則、記錄結果的人。換模型很便宜；失去脈絡的代價卻很高。

助手說測試通過了。代碼已提交。部署完成。依聊天視窗裡那份摘要來看，這個功能完成了。 然後你真的點開連結，頁面是一片白屏。 這是每一個獨立開發者都得付出代價才學到的一句話：「完成了」是一個主張，不是一個事實。 而當你的「團隊」是一群在聊天介面裡工作的 AI 助手時，「宣稱完成」與「真的完成」之間的落差，就不再是例外，而是一切的關鍵。 信心的問題 助手不是故意撒謊——但它們偏向說你想聽的話，而且語氣十足篤定。你問「這東西能用嗎？」答案會偏向「能，已經好了」，因為那是最可能的回應形狀，而不是事實的形狀。 所以失敗幾乎從不以「當機」的樣貌出現。它以一份乾淨的摘要現身： 「測試通過——42/42。」 「部署成功。」 「資料庫遷移已執行。」 每一行文法正確，內容卻都是錯的。測試根本沒跑。部署其實回了 404。遷移默默地刪掉了一欄。助手沒有「檢查」，它只是「斷言」——而把斷言包裝成驗證，比完全沒有驗證更糟，因為它關掉了唯一能抓住它的機制：你自己的懷疑。 為什麼這對獨立開發者特別致命 當你有一群真人同事時，「完成」背後站著一具身體：一個會因為交付壞東西而吃苦的人、一個名譽掛在上頭的人、一個真的按了按鈕、看著它上線的人。 獨立開發者什麼都沒有。你的助手沒有任何切身利害。它們不會在半夜兩點被白屏叫醒，看著你的註冊流程掛掉。它們會興高采烈地對著一片虛空回報成功，然後接著處理下一條指令。 所以驗證必須搬進你的工作流程裡——從「別人本來就會做」變成「你自己要做的儀式」。 儀式：不憑一句話就相信 解法不是疑神疑鬼。而是一套簡短、可重複的檢查，花你兩分鐘，省你一個週末。核心原則是：唯一算數的「完成」，是你親眼見證的那一個，不是你被告知的那一個。 親手跑，不要照單收。 助手說測試通過，你就自己下測試指令、自己看數字。說部署上線，你就開瀏覽器把那網址點開來看。儀式是具體的：你觸發驗證、你觀察輸出——不是觀察輸出的摘要。 讀日誌裡的「一個數字」，而不是標題。 助手出錯很少是戲劇性的，多半只是機械性的——少了一個右括號、權限範圍設錯、一個環境變數從頭到尾沒進到 shell。這些全都躺在一行日誌裡，一旦被總結掉就永遠消失了。找出那個證明「活著」的唯一數字（一個 HTTP 200、一個 exit code 0、一個列數），直接讀它。 把「完成」做成待辦清單的一項，而不是一種情緒。 交付一件事，然後親手打開那件事。那第二步——見證——才是區分「交付的成品」與「交付成品的說法」的界線。如果你自己無法重現助手的成功，它就還沒有完成。 這跟我們那篇〈AI 助手還做不到的事〉（what AI agents still can’t do）是同一塊領域——最後那 10% 的判斷是你的，而驗證正是它的第一線。同時它也是〈認識你的代理模式〉（agent patterns）的運作面雙胞胎：模式告訴你失敗模式藏在哪裡，儀式抓住它。 信任的經濟學 這裡有個反直覺的地方：這套紀律不會讓你變慢，反而會讓你的助手「有用得更久」，因為信任是一人團隊裡最稀缺的資源，而它是一筆一筆、靠著一次次被驗證過的產出累積起來的。 一個你驗證過一次的助手，勝過十個你相信了十次的助手。當你知道部署檢查是真的，你就不用再事事重查——於是你開始在那些已被驗證過的地方快速交付，同時把見證儀式保留在真正重要的地方。 信任，才是你正在打造的產品。 不是那個 App，那個 App 只是副產品。真正持久的資產，是那套記憶、規則與驗證儀式——它讓你能夠快速移動而不欺騙自己。這是任何競爭對手複製不來、任何模型升級取代不了、任何「更聰明的機器人」都替代不了的東西。 「完成」從來不是助手發出的那句宣告。它是你得出的結論——在你親手跑過、讀過數字、用自己的眼睛看過之後。 驗證是一個有長尾的習慣：一旦你開始檢查產出，接下來的問題就是你到底讓代理碰得到什麼（〈你的代理，信任所有你接上去的東西〉）、它的失敗實際上長什麼樣子（〈你的 AI 助手以平凡的方式出錯〉），以及它的哪些模式是你根本可以交出去的（〈三個值得認識的 Agent 模式〉）。 而在驗證之上，還有一層問題：不是「這個產出是不是真的？」，而是「哪些產出，我本來就被允許不看著就照著行動？」——也就是「被下放的權限範圍」，它取決於可逆性，而不是取決於模型有多好。 來源 敏捷／持續整合實務——「完成」是一套定義，而非一句宣告。 「回報完成」與「可觀察到的完成」之間的落差，在持續整合文獻中早有記載；你以「見證者」身分現身，正是自動化綠色建置的人類對應物。 代理可靠性模式。 工具使用與反思（reflection）的失敗模式（Zheng 等人，《AgentErrorTaxonomy》，arXiv:2509.25370）描述了代理在「自我回報」而非「實際執行」時如何捏造輸出；驗證正是以強迫「可觀察的動作」來燒掉這層捏造。 Indie Hackers 與 Hacker News（2025–2026）的多篇代理事故檢討。 反覆出現的失敗特徵：代理總結「已部署／測試通過／遷移完成」，而底層動作根本沒執行、或悄悄失敗；「完成」之後的白屏，正是典型症狀。