加州州長否決 AI 安全法案，與專家合作制定新規
為什麼重要
加州否決這項法案，意味著該州的 AI 大企業，如 OpenAI、Google 和 Meta 等，將繼續在相對較少監管的環境下運營。
此事件顯示政府對 AI 技術的監管態度和方向，並對未來 AI 產業的發展趨勢以及相關企業的經營策略有著指標性的意義。
背景故事
#加州、#AI 法案、#全球監管
在過去的一個月中，加州州長 Newsom 簽署 17 項與 AI 相關的法案，這些法案的目的是打擊選舉中的深偽內容，保護演員及娛樂業人士免受數位肖像被濫用，並且規範 AI 生成的色情內容。
美國總統 Joe Biden 在聯合國大會上呼籲制定 AI 標準，以保障人類生命，反映出全球對於 AI 監管的關注正在日益增加。
發生了什麼
#Newsom 否決、#GenAI、#AI 模型
加州州長 Gavin Newsom 否決一項名為「邊疆人工智慧模型的安全與保障創新法案」的州法案，該法案要求對投資超過 1 億美元訓練 AI 模型的公司實施安全措施。
Newsom 在否決該法案時表示，該法案並未充分考慮 AI 系統是否應用於高風險環境中，並宣布他正在與專家合作，為 GenAI 的部署制定保護措施。
位於加州的 AI 巨頭如 OpenAI、Google 和 Meta 公開反對該法案，而由 Amazon 支援的 Anthropic 則在提出修正建議後謹慎支持原法案。
他們說什麼
加州參議員 Scott Wiener，作為該法案的主要推動者，認為這是對監管不足技術的合理框架。然而，他對國會能夠快速通過全國性的 AI 安全法案並不抱太大期望。
Affirm 的 CEO Max Levchin 在 Goldman Sachs Communacopia 和 Tech Conference 上表示，與 AI 本身相比，更多的風險來自於如果模型在完全不受監管的情況下被應用於現實世界。
加拿大計算機科學家 Yoshua Bengio 在接受 Yahoo Finance 採訪時指出，AI 模型的能力正在迅速提升，隨之而來的是資金投入於實現人工通用智慧及其更高階段的增長。
