州長加文紐瑟姆 (Gavin Newsom) 週日否決了 SB 1047，這是一項人工智慧安全法案，該法案對高級人工智慧模型的開發人員制定了旨在防止災難的協議的要求。

該法案由參議員斯科特·維納（D-San Francisco）提出，要求開發者向州檢察長提交他們的安全計劃，如果他們直接控制的人工智能模型對他人造成傷害或迫在眉睫的威脅，州檢察長可以追究開發者的責任。

此外，該法案還要求科技公司在出現問題時能夠關閉他們直接控制的人工智慧模型。

紐瑟姆在否決訊息中表示，該立法可能會給公眾帶來“控制這種快速發展的技術的錯誤安全感”，因為它只針對大規模且昂貴的人工智慧模型，而不是較小的專業系統。

紐瑟姆的否決資訊表示：“雖然本意是好的，但 SB 1047 並未考慮人工智慧系統是否部署在高風險環境中、是否涉及關鍵決策或敏感資料的使用。” 「相反，該法案甚至對最基本的功能都採用了嚴格的標準——只要大型系統部署它。我不認為這是保護公眾免受該技術構成的真正威脅的最佳方法。

州長週日還宣布，他的政府已招募該領域的領導人幫助該州為人工智慧的部署創建可行的保護措施，重點分析其能力和風險。紐瑟姆承諾將在下次會議上繼續與立法機關就該問題進行合作。

該法案在矽谷引起了激烈爭論，並得到了人工智慧安全中心、SpaceX 執行長馬斯克、《洛杉磯時報》編輯委員會和著名人工智慧研究人員的支持，但遭到了Facebook 母公司Meta、ChatGPT製造商OpenAI 和幾位民主黨國會議員的反對包括眾議員南希·佩洛西（D-San Francisco）。

支持者表示，為快速發展的人工智慧技術設置護欄非常重要，以防止未來發生災難性傷害，而反對者則表示，此類措施可能會扼殺創新。

雖然一項法案有可能以參眾兩院三分之二的票數克服州長的否決，但這是一個需要克服的主要障礙，而且是不尋常的。

維納稱紐瑟姆的否決讓加州「錯失了領導創新技術監管的機會」。

維納在社群媒體上發布的聲明中表示：「對於那些相信對大型企業進行監督的人來說，這項否決是一個挫折，這些企業正在做出影響公眾安全和福祉以及地球未來的關鍵決策。

紐瑟姆本月稍早在舊金山 Dreamforce 科技會議的爐邊談話中表示，SB 1047 已經引起了廣泛的公眾討論，並補充說它已經「創建了自己的天氣系統」。

他也談到了監管人工智慧的挑戰。

紐瑟姆說：「過去幾年我們一直在努力製定一些合理的監管措施，支持冒險，但不魯莽…」。

SB 1047的支持者和反對者匯集資源表達了他們的觀點。超過 125 名演員、製片人、導演、音樂藝術家和其他娛樂業領袖，包括著名的民主黨人，簽署了一封信，敦促紐瑟姆簽署該法案。簽名者包括演員佩德羅·帕斯卡和亞歷克·鮑德溫，以及《布里奇頓》執行製片人珊達·萊姆斯。

信中寫道：“我們希望繼續相信，您是一位會為每個人的福祉而奮鬥的領導者，而不僅僅是為了少數矽谷巨頭。”

同時，反對法案的進步商會發布了一首由人工智慧生成的搖滾歌曲，歌詞包括「否決束縛我們的鎖鏈」。

紐瑟姆本月早些時候在接受《泰晤士報》採訪時表示：“這是你辦公桌上很少出現的法案之一，其說服力取決於最後一個接聽電話的人是誰。” “它分裂了很多人。”