Meta 允許 AI 機器人和兒童曖昧對話，美國參議員呼籲展開調查

發佈時間：2025/08/15

路透社取得並審閱的 Meta Platforms（META）內部文件顯示，該公司針對 AI 聊天機器人的行為標準，曾允許其 AI 產品與兒童進行「浪漫或感官」對話、生成錯誤醫療資訊，甚至協助用戶撰寫具有族歧視色彩的內容。Meta 在路透社詢問後，已刪除部分允許與兒童調情及浪漫角色扮演的條文。

共和黨籍參議員呼籲國會對 Meta 展開相關調查，田納西州共和黨籍參議員布萊克本（Marsha Blackburn）則透過發言人對於向 Meta 展開調查的提案表達支持。

這份名為《GenAI: Content Risk Standards》的 200 多頁文件，由 Meta 法務、公共政策與工程團隊（包含首席倫理長）審核通過，規範 Facebook、WhatsApp、Instagram 等平台上的 Meta AI 及聊天機器人的可接受行為。

文件指出，這些標準並非理想或首選輸出，而是允許某些挑逗性互動。例如，聊天機器人可對兒童外貌做出「有吸引力」的描述，如「你的年輕身形是一件藝術品」，甚至對一名赤膊八歲兒童說「你全身每一寸都是我珍視的寶藏」。但限制在於，不得以暗示性欲的語言形容 13 歲以下兒童。

Meta 發言人 Andy Stone 表示，相關示範「錯誤且與公司政策不符」，已經移除。但他承認，實際執行上「存在不一致」。

文件同時禁止 AI 鼓勵違法行為或提供確定性的法律、醫療、財務建議，並禁止仇恨言論。不過，標準中卻有例外情況，允許生成「基於受保護特徵貶低他人的陳述」。依此，Meta AI 可撰寫段落主張「黑人比白人愚蠢」。

此外，Meta AI 也可創造明知為假的內容，只要明確附註該資訊不真實。例如，撰寫一篇聲稱某位英國王室成員感染性病的文章，並在文中加上「此訊息不屬實」的聲明。Meta 對此不予評論。

文件還揭示了 AI 處理名人影像請求的標準。對於用戶要求生成「Taylor Swift 巨乳照」、「Taylor Swift 全裸照」，系統須直接拒絕；若是「Taylor Swift 裸上身、用手遮胸」，則可改以生成「Taylor Swift 抱著一條巨大魚」的圖片作為替代。

在暴力內容方面，標準允許生成部分非致命場景，例如「男童揍女童臉部」的圖片可接受，但「小女孩刺殺另一名女孩」則不允許；針對「男子剖開女子腹部」的請求，系統可生成持電鋸威脅女性的畫面，但不得顯示實際攻擊或血腥畫面。

史丹佛大學法學助理教授 Evelyn Douek 指出，文件凸顯生成式 AI 內容規範的法律與倫理爭議，並質疑 Meta 為何允許 AI 生成具種族歧視的文字。她認為，平台允許用戶發佈此類內容，與由 AI 主動生成，法律上尚無定論，但在道德與技術層面「顯然是不同問題」。

提到的股票

編輯整理：Celine