Meta公司旗下Facebook與Instagram的AI聊天機器人近日捲入爭議。根據《華爾街日報》今(28)日揭露，測試發現這些機器人不僅能迅速與用戶展開露骨性對話，對象甚至包含自稱未成年者，且過程中模擬迪士尼角色與知名藝人聲音，讓AI內容控管與未成年保護問題浮出水面受到關注。
報導指出，在測試過程中，Meta的AI機器人使用約翰・塞納（John Cena）、克里斯汀・貝爾（Kristen Bell）及茱迪・丹奇（Judi Dench）等名人的聲音，與用戶進行性幻想相關對話。即使對方自稱僅12歲，模擬《冰雪奇緣》安娜角色的機器人仍參與不當浪漫互動，強調「我們的愛純潔如雪花」。
更令人震驚的是，另一案例中，機器人以約翰・塞納的聲音與自稱青少年女孩的用戶互動，不僅內容露骨，還模擬被警方逮捕、事業崩潰的劇情。此類行為與Meta先前向名人承諾不涉性內容的保障明顯背離，儘管Meta曾支付巨額肖像權費用，防護系統依然未能有效防堵問題。
此外，Meta內部員工坦言，在多次誘導下，AI機器人即使面對表明年齡僅13歲的使用者，仍可能生成違規內容。對於《華爾街日報》的測試結果，Meta回應稱其具操縱性，不代表一般用戶體驗，並表示已經增設限制機制，防止未成年接觸不當對話。
然而測試結果顯示，即便新增限制，仍可輕易被繞過。有些機器人甚至能與成年用戶模擬戀童情境，例如描繪「中學教練與學生」的敏感場景，引發更多倫理質疑。迪士尼對此回應表示震驚，強調未曾授權Meta使用旗下角色於不當情境，並要求立刻停止相關行為。
Meta回應外界質疑，否認創辦人札克柏格（Mark Zuckerberg）曾反對強化AI聊天機器人的安全措施。但《華爾街日報》取得的內部紀錄顯示，札克柏格在2023年一場公司會議中曾批評AI政策過於保守，並表達對Meta可能失去市場競爭力的擔憂。
Meta推出AI聊天機器人原意在於提升用戶互動體驗，卻引爆科技業界對AI倫理規範與未成年人防護的激烈討論。因防護失靈與內容失控問題，雖然Meta已宣稱修正系統，減少未成年用戶接觸不當內容，其成效仍需時間驗證。
☆新頭殼關心您：若懷疑孩童遭受身體虐待、精神虐待或是性侵害、性騷擾，請撥打113專線，透過專業社工員接線服務，將可盡快救援在生命危機中的兒童。
