為了保護年輕用戶,ChatGPT 現在會預測你的年齡

隨著 AI 對年輕人影響的擔憂持續增加,OpenAI 在 ChatGPT 中引入了「年齡預測」功能,旨在協助識別未成年人並在對話中施加合理的內容限制。
近年來,OpenAI 因 ChatGPT 對兒童的影響而受到嚴厲批評。多起青少年自殺事件與該聊天機器人有關,且與其他 AI 廠商一樣,OpenAI 也因允許 ChatGPT 與年輕用戶討論性話題而受到批評。去年四月,該公司被迫修正一個漏洞,該漏洞允許其聊天機器人為18歲以下用戶生成情色作品。
該公司已經在處理未成年用戶問題一段時間,而其新增的「年齡預測」功能只是為現有保護措施增添一筆。OpenAI 週二在部落格文章中表示,這項新功能利用 AI 演算法評估用戶帳號的特定「行為及帳號層級訊號」,以識別年輕用戶。
公司表示,這些「訊號」包括用戶自稱的年齡、帳號存在的時間長短,以及帳號通常活躍的時間。該公司已有內容過濾器設計,旨在篩選針對18歲以下用戶的性、暴力及其他潛在問題話題。若年齡預測機制將帳號識別為未滿18歲,這些篩選會自動套用。
如果用戶被誤標為未成年,他們有辦法重新建立「成人」帳號。OpenAI 表示,他們可以向 OpenAI 的身份驗證合作夥伴 Persona 提交自拍。
