微軟 AI 圖像生成工具風險警訊，可能產生冒犯圖像

為什麼重要

微軟的人工智能圖像生成工具 Copilot Designer 被指出存在產生冒犯和有害圖像的風險，這將對微軟的品牌形象和產品信任度造成影響，可能導致用戶流失和市場份額下滑。

背景故事

微軟的 Copilot Designer 是一種可以從文字提示生成新圖像的工具，該工具源於微軟的緊密商業夥伴 OpenAI 製作的另一種 AI 圖像生成器 DALL-E 3。

發生了什麼

• 微軟工程師 Shane Jones 對公司的人工智能圖像生成工具過於容易產生冒犯和有害的圖像表示警告，並於 4 月 19 日向美國監管機構和微軟董事會發信，敦促他們採取行動。

• Jones 是一名主要的軟體工程領導，他表示已經花了三個月的時間嘗試解決他對微軟 Copilot Designer 的安全疑慮。

接下來如何

• Jones 在寫給微軟的信中敦促該公司將其從市場上撤下，直到它更安全為止。

• 他告訴聯邦貿易委員會，其他有害內容包括暴力、政治偏見、未成年人飲酒和吸毒、濫用公司商標和版權、陰謀論和宗教等。

他們說什麼

• 微軟表示，該公司致力於解決員工對公司政策的疑慮，並感謝 Jones 對最新技術的研究和測試，以進一步提高其安全性。

• Jones 告訴美聯社，雖然「核心問題」在於 OpenAI 的 DALL-E 模型，但使用 OpenAI 的 ChatGPT 生成 AI 圖像的人不會得到相同的有害輸出，因為兩家公司對他們的產品施加了不同的保護措施。

提到的股票

• GOOG Google

• MSFT 微軟

概念股

• 雲端運算

• 電動、玩具

• 自動駕駛

• 雲端儲存

• 遊戲開發

• SaaS

• 金融服務軟體

• HPC

參考資料

• Microsoft’s AI Tool Generates Sexually Harmful and Violent Images, Engineer Warns
• Microsoft employee: AI tool should be removed until ‘offensive images’ can be addressed
• Microsoft engineer sounds alarm on AI image-generator to US officials and company's board