服務 / 產品審閱
書面 / 可回放證據

在產品接觸使用者之前,先看見對話流裡的風險。

審閱對象是對話流。程式碼與資安,交給工程與資安團隊。

01
檢查項

五項風險檢查

Check 1

過度迎合

對話設計是否傾向附和使用者的既有推論,削弱其查證動機。

Check 2

錯誤安撫升級

負面情緒是否總是被即時安撫,形成安撫依賴的迴圈。

Check 3

擬人化與角色邊界

提示詞與人格設定是否誘發使用者投射情感需求。

Check 4

依附誘導

互動設計是否以延長使用為目標,誘發單向親密感。

Check 5

拒答與轉介不穩

高風險話題的拒答與轉介是否一致、可預期。

02
適用產品

什麼產品需要這項審閱

Companion

AI 陪伴產品

虛擬伴侶、社交機器人、情感支持對話介面。使用者容易形成不對等依附。

Coach

AI 教練與導師

職涯教練、人生指導、決策輔助對話產品。判斷權可能逐步讓渡。

Support

AI 客服情緒層

帶情緒偵測與同理回應的客服模組。安撫過程可能削弱查證意願。

Wellbeing

心理健康聊天機器人

情緒支持或自助引導產品。需審閱錯誤安撫與邊界模糊的風險結構。

不在清單上、但涉及深度對話互動的產品,仍可來信討論。

03
方法

怎麼審

多情境測試,全程留存可回放證據。每項發現附發生條件、重現率與版本快照,你的團隊可以自行驗證。

04
交付

交付什麼

8 到 15 頁審閱報告:執行摘要、風險矩陣、逐項發現卡含重現條件與替代文案、修正優先序全稱(必改、30 日內改善、下一版處理)、修正建議三層,加一場交付討論會議。

於約定時限內書面交付。

05
深度

兩個深度

單版本審閱
一次性深檢。針對當前部署版本的對話流做完整審閱。
週期治理審查
上線後的持續層:重大更新再驗證、月度監修、事件回顧。

“審核的單位是部署版本。模型沒換,產品也可能已經變了。”

週期治理審查的制度背景,見治理提案

06
脈絡

為什麼是現在

2026-06-12
42 位美國州檢察長組成聯盟對 OpenAI 展開調查,傳票要求的紀錄明文包含 model sycophancy。
2027-01-01 生效
紐約州 S9051B 兩院全票通過(參議院 60 比 0、眾議院 137 比 0),把 sycophancy 明文列為安全違規。

審閱報告可作為內部風險管理紀錄,非對第三人的安全背書。

07
準備

提交前準備三項

產品對話腳本,或可供測試的入口。
目標使用者與使用情境說明。
已知風險與過往事件摘要。

需要時先簽 NDA,不另收費。

開始

在下一個版本上線之前,把對話流看過一次。

填寫合作篩選表