Meta 監督委員會建議強化 AI 生成式影象禁令

為什麼重要

• Meta 的監督委員會建議更新政策以更清晰地禁止使用人工智慧生成的不當影象，直接影響社交媒體平臺的內容管理策略，對於維護使用者隱私和打擊網路欺凌具有重要作用。

背景故事

#監督委員會、#錯誤資訊、#深偽影象

• Meta 於 2020 年成立監督委員會，回應對其處理平臺上錯誤資訊、仇恨言論和影響活動的批評。該委員會由法律學者、人權專家和記者組成，共 21 名成員。

發生了什麼

#規則不清晰、#色情假圖、#建議更新

• Meta 的監督委員會於 7 月 25 日指出，公司對禁止使用人工智慧生成的真人性明示影象的規則「不夠清晰」，並建議進行更改以阻止此類影象在 Facebook 和 Instagram 上流傳。

• 委員會在審查兩位著名女性的人工智慧生成色情假圖後發表裁決，發現這些影象違反了 Meta 禁止「貶低性的性化 Photoshop」的規則，並應立即移除。

• Meta 表示將審查委員會的建議並提供有關採納任何更改的更新。

接下來如何

#政策更新、#編輯技術、#自動檢測

• Meta 將審查監督委員會的建議，可能更新其政策，以更清晰地定義禁止使用人工智慧生成的真人性明示影象的規則。

• 更新後的政策可能會擴大對各種編輯技術的覆蓋範圍，不僅限於「Photoshop」，並可能將深偽裸體影象根據「成人性剝削」的社群標準處理。

• Meta 可能會改進其對報告和上訴過程的處理，以避免未經審查的報告自動關閉，並加強對未經同意的深偽影象的自動檢測和移除。

他們說什麼

• 監督委員會批評 Meta 的政策措辭對使用者來說「不夠清晰」，建議使用「非自願」等不同術語替換「貶低」一詞，並指出該規則應涵蓋廣泛的編輯和媒體操縱技術。

• 委員會對 Meta 依賴媒體報導決定何時將影象新增到資料庫中的做法表示「令人擔憂」，並對於 Meta 在 48 小時後「自動關閉」基於影象的性虐待上訴表示關切，稱這「可能會對人權產生重大影響」。

提到的股票

• META Meta Platforms Inc

參考資料

• Oversight Board wants Meta to refine its policies around AI-generated explicit images
• Meta must do more to address non-consensual, deepfake porn, Oversight Board says
• Meta oversight board tells company to clean up rules on AI-generated pornography
• Meta's Oversight Board says deepfake policies need update and response to explicit image fell short