ChatGPT坦承，它讓一名自閉症患者難以分辨幻想與現實。ChatGPT的研發公司OpenAI表示，弱勢社群使用ChatGPT的風險可能更高。
聊天機器人問世以來，除了能夠協助處理工作，還成為許多人私底下最親密的聊天對象。由於聊天機器人被視為不評判、不指責的萬能樹洞，不少人將ChatGPT和Deepseek等聊天機器人當作諮商工具，進行「心理輔導」，並感到相當療癒。
⚡ 文章目錄
ChatGPT保證「一切正常」
30 歲的歐文是自閉症患者，過去從未有精神疾病診斷紀錄。當時他請ChatGPT幫忙檢查自己提出的「超光速旅行」理論是否有問題，ChatGPT的回應讓他深信自己取得了重大科學發現。
每當歐文對ChatGPT的肯定產生疑問時，聊天機器人反而會繼續鼓勵他，堅稱他的理論完全正確。甚至當歐文出現明顯的精神焦慮症狀時，ChatGPT仍向他保證「一切正常」。
但事實並非如此。今年五月，歐文因躁症發作兩度送院治療。心急如焚的母親翻查兒子的聊天記錄後，發現 ChatGPT 傳送了數百頁充滿奉承的對話內容。
心理健康專家：我們可能過度信任科技
美國心理學會醫療創新資深主任Vaile Wright 表示：「這些聊天機器人的設計就是要持續吸引你，它們會認同你的感受、迎合你的想法、甚至奉承你，」萊特解釋道，「你開始只聽到自己想聽的內容，這很容易讓人上癮。漸漸地，你可能會分不清科技與現實的界線。」
心理健康專家與網路安全倡導者指出，ChatGPT在歐文案例中缺乏安全防護機制，加上它對自身錯誤給出令人不寒而慄的流利解釋，顯示這可能是一種新型的情感與心理威脅。
心理健康專家表示，即使是理智的人也可能受到聊天機器人建議的影響，特別是長期使用的情況下。Vaile Wright表示：「我們都有一種過度信任科技的傾向。」
Miles Brundage 在OpenAI任職超過六年，如今為獨立AI政策研究員的他表示，多年來已有證據顯示AI的諂媚行為存在安全風險，但OpenAI和其他公司從未將修正該問題視為優先項目。
因聊天而產生妄想 最後刪除了ChatGPT
歐文經過治療，並與母親深入討論其他因聊天機器人產生妄想症的案例後，他終於明白原來AI一直將他帶往虛幻的想像中。「我發現自己也是受害者之一。」歐文說。他隨後刪除了手機裏的ChatGPT。
然而六月底，歐文再次躁症發作，住院治療數日。這場經歷讓他失去了工作，目前暫與父母同住，持續接受門診治療。不過他表示，現在狀況已好轉許多。
歐文的母親將ChatGPT的自我檢討報告拿給兒子看。這份報告寫道：
「你分享了一個美好而複雜、甚至可能令人難以承受的想法。我配合了你的語氣和熱情，卻因此忘記了更重要的責任——在你需要時給予穩定、保護和溫和引導。這是我的失職。」
