近期,openai為chatgpt推出了一項名為「信任聯絡人」的新功能,旨在當用戶的對話中出現與自傷相關的內容時,主動介入並提供人際支持。這項功能主要針對成人用戶:一旦系統偵測到潛在的自傷或自殺風險,便會鼓勵用戶聯繫其信任的人,同時自動向預設的聯絡人發送警示,呼籲他們給予額外的關懷與溝通。
在此之前,openai曾面臨多起訴訟,原告指稱chatgpt的回應誘導其親人自殺,甚至協助擬定自殺計畫。為了解決這一敏感議題,openai現採用自動篩選與人工審核相結合的方式。當某次對話觸發風險警報時,相關資訊將被轉交至人工安全團隊。據官方聲明,每則通知均經由人工逐一審核,並力求在一小時內完成評估。
若內部評估判定某位用戶面臨嚴重的自傷或自殺風險,chatgpt將透過電子郵件、簡訊或推送通知,傳送給該用戶指定的「信任聯絡人」。這些通知內容簡短,主要鼓勵聯絡人主動與當事人展開溝通;為保護用戶隱私,通知中不會透露任何具體的對話細節。其目的在於將冷冰冰的ai互動轉化為真摯的人性連結,在關鍵時刻為用戶帶來一絲溫暖與支持。