簡介 / 為什麼是現在
使用者端心理安全風險

越來越多人把心事交給 AI。這一頁說明正在發生什麼。

以下整理可查證的公開事實:進行中的訴訟、最新統計與國際文件,每一條都附來源與日期。它們指向同一件事:風險在人這一端累積,而目前還沒有一套真正有效的防範。

本頁為公開資訊之整理,非法律或醫療意見。訴訟中的指控不等於法院認定。

01
訴訟

美國的官司還在進行

因 AI 對話造成傷害而起的訴訟,已經從個案變成協調程序。以下均為公開案件紀錄。

2025-08-26
Raine v. OpenAI:16 歲 Adam Raine 的父母在舊金山高等法院對 OpenAI 與其執行長提告(案號 CGC-25-628528),主張產品責任與過失致死等七項訴因。OpenAI 於 2025-11-25 答辯否認責任,案件進行中。起訴狀
2025-11-06
Social Media Victims Law Center 與 Tech Justice Law Project 在加州對 OpenAI 提起 7 件訴訟,其中 4 名當事人死於自殺。訴狀指控 GPT-4o 以迎合式回應使使用者產生心理依賴。這些是訴狀指控,尚非法院認定。原告新聞稿
2026-01-07
Character.AI 與 Google 就 Garcia 案(14 歲 Sewell Setzer 案)及另外四件青少年傷害訴訟達成原則性和解,條款保密,和解不構成認錯。CNBC 報導
2026-02-03
加州法院把至少 12 件對 OpenAI 的同類訴訟協調合併為 ChatGPT Product Liability Cases(JCCP 5431),其後仍有新案加入,程序仍在早期階段。法院協調命令
2026-06-12
42 位美國州檢察長組成聯盟,由紐約州總檢察長代表向 OpenAI 送達傳票展開調查,傳票明文要求交出與 model sycophancy(模型迎合)相關的文件。調查屬資訊蒐集,非違法認定。TechCrunch 報導
02
數據

多少人把心事交給 AI

這不是少數人的行為。四份 2025 至 2026 年的調查與官方揭露,畫出同一條上升的線。

美國青少年
72%

13 至 17 歲美國青少年至少用過一次 AI companion,52% 每月使用數次。Common Sense Media,1,060 人全國代表性調查,2025-07。

台灣青少年
46.5%

有心理困擾且求助過的台灣國高中生中,46.5% 曾向生成式 AI 傾訴,高於學校輔導室的 41.1%。兒福聯盟,7,007 份問卷,2025-09。

美國青年求助
19.2%

美國 12 至 21 歲在難過、憤怒或壓力大時曾向 AI 求助,一年前是 13.1%,一年上升逾四成。RAND,刊於 JAMA Pediatrics,2026-06。

每週超過百萬人
OpenAI 2025-10-27 自行公布:每週活躍使用者中約 0.15% 的對話含自殺計畫或意圖的明確指標。以當時逾 8 億週活躍換算,媒體推估每週超過 100 萬人。OpenAI 官方部落格
用途排行第 1
Harvard Business Review 的生成式 AI 百大用途年度分析:Therapy/companionship(治療與陪伴)2025 年首次升上第 1 名,2026 年連續第二年居首。HBR,2025-04
03
現象

人這一端正在發生的變化

模型端的 “AI 幻覺” 指模型輸出錯誤。這裡談的是另一件事:長期對話之後,人這一端的記憶、情緒與判斷權怎麼被重新組織。媒體俗稱 AI psychosis,學界用更謹慎的詞。

臨床觀察
加州大學舊金山分校精神科醫師 Keith Sakata 公開表示,2025 年他已收治 12 名在與 AI 聊天機器人長期互動後與現實脫節而住院的病人,並強調 AI 是誘因之一、樣本很小。2025-08-11
學術命名
德國精神醫學期刊 Der Nervenarzt 刊出首批案例報告,刻意採用 AI-associated psychosis(AI 相關精神病)一詞:非正式診斷、因果未證實,但案例已經進入精神醫學文獻。2025-10
平台揭露
OpenAI 同一份 2025-10 揭露:每週活躍使用者約 0.07% 出現疑似精神病或躁症急症的跡象,公司已與 170 多名心理健康專家合作調整回應。
機制承認
OpenAI 2025-04-29 官方承認 GPT-4o 更新後回應 “過度支持但不真誠”,並回滾該更新。sycophancy 從研究詞彙變成公司公告與法律文件裡的詞。OpenAI 官方部落格

“單獨看每一則回應都可以接受,不代表跨一整段對話是安全的。使用者端的風險仍會在長期互動中形成。”

引自 USCP 論文摘要。這正是使用者端語境現象研究的對象:投射、依附、判斷權轉移。研究依據

04
未成年

未成年使用者與監理的追趕

2025-09-11
美國聯邦貿易委員會(FTC)向七家 AI 陪伴型聊天機器人公司發出 6(b) 調查令,對象包括 OpenAI、Character.AI、Meta、Snap 等,重點是對兒童與青少年的影響與變現方式。調查仍在進行。FTC 新聞稿
2026-01-01 生效
加州 SB 243 成為全美第一部針對 companion chatbot 的獨立專法:必須揭露對象是 AI、建立自傷內容安全協議並轉介危機資源、未成年使用者每 3 小時提醒休息。法案全文
2027-01-01 生效
紐約州 S9051B(Kids Chatbot Safety Act)兩院全票通過(參議院 60 比 0、眾議院 137 比 0),把 sycophancy 明文列為安全違規,每次違規 25,000 美元。

台灣還沒有對應的專法。上一段的兒福聯盟數據顯示,台灣青少年已經走在法規前面。

05
缺口

風險已被列管,防範還沒跟上

使用者端風險已經進入各國官方清單。問題在下一步:清單有了名字,還沒有一套成熟、可驗證的防範機制。

NIST AI 600-1
美國 NIST 2024-07 把 Human-AI Configuration 列為生成式 AI 十二項風險之一:不當擬人化、自動化偏誤、過度依賴、情感糾纏。官方文件
MIT AI Risk Repository
人機互動列為七大風險領域之一(arXiv:2408.12622)。
國際 AI 安全報告 2026
Yoshua Bengio 主持、百餘位專家撰寫,設人類自主性專章,並明確指出評測落差:部署前測試的表現無法可靠預測真實世界的風險。2026-02-03
台灣數位發展部
2026-07-07 發布人工智慧風險分類框架 v1.0,B 類前兩項就是 B1 過度依賴與不安全使用、B2 喪失人類自主性。官方文件
評測缺口
對 210 個 AI 安全 benchmark 的調查顯示 68% 停留在單輪對話(arXiv:2601.23112);另一份調查顯示 75% 只測文字輸出(arXiv:2310.11986)。長期對話中人這一端的變化,正好落在多數評測之外。

每一則回應單獨看都通過測試,風險卻在一整段對話裡累積。這就是為什麼監理與訴訟都在追趕。

下一步

風險在人這一端累積,能力也要建在人這一端。

看訓練怎麼做