
布朗大學近期一項研究比較了主流人工智慧聊天機器人(gpt、claude、llama)與持牌臨床心理學家在心理支援場景中的回應。該研究邀請七位具備認知行為治療資格的實務諮詢師,與各個人工智慧系統進行模擬對話。隨後,三位資深臨床心理學家對所有對話紀錄進行雙盲評估,著重檢視其回應是否符合倫理指引與專業標準。
分析結果發現了十五項潛在風險,其中關鍵問題包括:未能考量個體情境的模板化回應、危機介入中的判斷失誤,以及所謂的「偽共情」——即人工智慧機械式地重複諸如「我理解你」等帶有情感色彩的語句,卻無法辨識、回應或調節真實的情緒狀態。
研究團隊強調,真正的憂慮並非來自技術本身的不完善,而是缺乏責任追蹤機制:人類治療師必須持有執照、接受持續督導,並在行業規範下運作;相較之下,現行的人工智慧開發者既無執照要求,也無須為其產出承擔臨床責任。因此,該研究強烈呼籲建立專門針對心理健康領域人工智慧應用的監管框架,涵蓋入門審核標準、使用界限、風險警示系統,以及責任歸屬機制。