Karpathy：Claude Fable 5 讓軟體如自來水湧出，但警告勿棄代碼審查

OpenAI 聯合創始人、上月加盟 Anthropic 的 Andrej Karpathy 於 6 月 9 日分享對 Claude Fable 5 的評價，稱其具版本跨代意義的性能躍遷，使用「軟體如自來水般源源不斷湧出」的比喻描述其生產力影響。但是，Karpathy 明確警告切勿放棄代碼審查。

Karpathy 對 Fable 5 的確認能力評估

版本跨代性能躍遷： Karpathy 確認 Fable 5 達到了版本跨代的性能躍遷，在處理較長任務時的優勢尤為顯著，可有效執行複雜指令，幾乎無需人工干預。

長鏈路複雜調試： Karpathy 指出 Fable 5 在面對宏大開發目標時，能夠迅速領會意圖並自主推進，首次讓他產生了想要完全不看代碼的強烈衝動。

明確警告（Karpathy 原話）： 他強調切勿在生產環境中完全跳過代碼審查，此為他對用戶的直接警示。

底層模型說明（Karpathy 確認）： Karpathy 指出 Claude Fable 5 與 Claude Mythos 5 共享相同的底層模型，Fable 5 在此基礎上增加了額外的安全防護措施。

杰文斯悖論：Karpathy 的分析框架

Karpathy 在評論中指出，當可用軟體能夠像自來水般源源不斷湧出時，軟體領域的「杰文斯悖論」（Jevons Paradox）將被觸發。

杰文斯悖論定義： 當資源使用效率大幅提升後，由於使用成本大幅下降，對該資源的總需求反而呈指數增長，而非減少。

Karpathy 的應用分析（來自其 X 平台評論）： 他指出，這一觸發效應將促使人們創造大量「超特異性」（hyper-specific）的單次使用工具，以及海量的測試集，最終推動整體軟體需求的指數增長。

安全防護機制的確認問題

Karpathy 在評論中指出，Claude Fable 5 發布初期的安全防護機制配置依然過於敏感，有待後續優化。這一評估與 Anthropic 官方在 Fable 5 發布公告中的說明一致：Anthropic 承認目前安全措施有時會誤報無害的請求（整體觸發率不到 5%），並表示正在努力改善並盡快減少誤報。

常見問題

Karpathy 提及的「杰文斯悖論」在 AI 代碼生成中意味著什麼？

根據 Karpathy 的 X 平台評論，當 AI 使軟體生產成本趨近於零，人們對軟體的需求不會因此下降，反而會指數增長。他預測這將促使開發者創造更多高度定製化的單次使用工具和大規模測試集，放大整體軟體消耗量。

Karpathy 為何明確警告不要在生產環境中完全跳過代碼審查？

Karpathy 表示，儘管 Fable 5 的能力讓他首次產生了想完全不看代碼的衝動，但他同時明確警告這種做法不應在生產環境中實施。他的警告與 Anthropic 官方建議一致——即使是強大的模型輸出，也需要人工監督以確保可靠性。

Karpathy 對 Fable 5 安全防護機制的具體看法是什麼？

Karpathy 在評論中指出，Fable 5 發布初期的安全防護機制配置過於敏感，有待後續優化。Anthropic 官方發布公告中亦確認，目前安全措施有時會誤報無害請求，觸發率不到 5%，並表示正在持續改善。