Meta 正在審查 AI 生成涉及情色和假冒內容
發佈時間：2024/04/17
·
編輯整理
Ryan Chen
Ryan Chen
為什麼重要
Meta Platforms 的審查案例凸顯了社交媒體平台在處理 AI 生成色情內容方面的挑戰，直接影響其內容監管政策和用戶信任。
這一事件可能促使立法機構加強對「深度假冒」內容的法律規制，影響科技公司的產品開發和內容監管策略。
背景故事
人工智慧技術的進步使得偽造的圖像、音頻剪輯和視頻與真實的人類創建內容幾乎無法區分，導致大量性暗示的假圖在線擴散，主要描繪女性和女孩。
Elon Musk 擁有的社交媒體平台 X 在控制假冒的 Taylor Swift 明星色情圖片傳播中遇到困難，一度阻止用戶搜索所有關於美國流行歌星 Taylor Swift 的圖片。
發生了什麼
Meta Platforms 的 Oversight Board 正在審查該公司對兩張 AI 生成的涉及女性名人性暗示圖片的處理方式。
該委員會由社交媒體巨頭資助但獨立運作，將使用這兩個例子來評估 Meta 關於使用人工智慧創建色情假圖的政策和執行實踐的整體有效性。
Meta 因違反其欺凌和騷擾政策而移除了描繪美國女性的圖片，該政策禁止「貶低的性化的 Photoshop 或繪圖」，但最初保留了展示印度女性的圖片，並在委員會選擇審查後才改變決定。
接下來如何
Meta 承諾執行 Oversight Board 的決定，這可能導致 Meta 對於人工智慧生成內容的政策和執行實踐進行調整或改進。
Oversight Board 的審查結果可能會對社交媒體平台處理 AI 生成內容的標準和做法產生影響，促使其他平台也重新評估相關政策。
此事件可能加速立法機構對於「深度假冒」內容的立法進程，推動更嚴格的法律規範來防止性暗示假圖的製作和傳播。
