Meta 正在審查 AI 生成涉及情色和假冒內容

為什麼重要

• Meta Platforms 的審查案例凸顯了社交媒體平台在處理 AI 生成色情內容方面的挑戰，直接影響其內容監管政策和用戶信任。

• 這一事件可能促使立法機構加強對「深度假冒」內容的法律規制，影響科技公司的產品開發和內容監管策略。

背景故事

• 人工智慧技術的進步使得偽造的圖像、音頻剪輯和視頻與真實的人類創建內容幾乎無法區分，導致大量性暗示的假圖在線擴散，主要描繪女性和女孩。

• Elon Musk 擁有的社交媒體平台 X 在控制假冒的 Taylor Swift 明星色情圖片傳播中遇到困難，一度阻止用戶搜索所有關於美國流行歌星 Taylor Swift 的圖片。

發生了什麼

• Meta Platforms 的 Oversight Board 正在審查該公司對兩張 AI 生成的涉及女性名人性暗示圖片的處理方式。

• 該委員會由社交媒體巨頭資助但獨立運作，將使用這兩個例子來評估 Meta 關於使用人工智慧創建色情假圖的政策和執行實踐的整體有效性。

• Meta 因違反其欺凌和騷擾政策而移除了描繪美國女性的圖片，該政策禁止「貶低的性化的 Photoshop 或繪圖」，但最初保留了展示印度女性的圖片，並在委員會選擇審查後才改變決定。

接下來如何

• Meta 承諾執行 Oversight Board 的決定，這可能導致 Meta 對於人工智慧生成內容的政策和執行實踐進行調整或改進。

• Oversight Board 的審查結果可能會對社交媒體平台處理 AI 生成內容的標準和做法產生影響，促使其他平台也重新評估相關政策。

• 此事件可能加速立法機構對於「深度假冒」內容的立法進程，推動更嚴格的法律規範來防止性暗示假圖的製作和傳播。

提到的股票

• FB Meta Platforms, Inc.

概念股

• 社群平台

• 數位廣告平台

參考資料

• Facebook and Instagram’s response to deepfake porn is under review by oversight board
• Meta's Oversight Board probes explicit AI-generated images posted on Instagram and Facebook
• Meta oversight board reviews handling of AI-created celebrity porn