Risk Engine,經驗筆記,卡片筆記
Risk Engine 概念(核心定義)
Risk Engine = 一個把「AI 的可信度」從主觀語言,轉換成可驗證、可計算、可阻斷的決策系統
它不是模型,也不是 prompt,而是:
Risk Engine 的作用是:一個位於 AI Worker 與 Git / 系統執行之間的「信任閘門(Trust Gate)」
把「AI 說它做了什麼」變成「系統驗證它做了什麼」,再決定要不要讓它進入 production。
AI Agent 系統的問題不是「會不會寫錯 code」,而是:沒有人真的「驗證現實」
留言
張貼留言