Risk Engine,經驗筆記,卡片筆記

Risk Engine 概念(核心定義)

Risk Engine = 一個把「AI 的可信度」從主觀語言,轉換成可驗證、可計算、可阻斷的決策系統

它不是模型,也不是 prompt,而是:

一個位於 AI Worker 與 Git / 系統執行之間的「信任閘門(Trust Gate)」

Risk Engine 的作用是:

把「AI 說它做了什麼」變成「系統驗證它做了什麼」,再決定要不要讓它進入 production。 

AI Agent 系統的問題不是「會不會寫錯 code」,而是:沒有人真的「驗證現實」





留言