加州州長 Gavin Newsom 今天否決了《前沿人工智慧模型安全創新法案》(SB 1047)。紐瑟姆州長在否決資訊中列舉了他的決定中的多個因素，包括該法案會給人工智慧公司帶來的負擔、加州在該領域的領先地位，以及對該法案可能過於廣泛的批評。

「雖然出發點是好的，但 SB 1047 並未考慮人工智慧系統是否部署在高風險環境中、是否涉及關鍵決策或敏感資料的使用。相反，該法案甚至對最基本的功能都採用了嚴格的標準——只要大型系統部署它。我不認為這是保護公眾免受該技術構成的真正威脅的最佳方法。

紐瑟姆寫道，該法案可能「讓公眾對控制這種快速發展的技術產生錯誤的安全感」。

“更小的、專門的模型可能會與 SB 1047 所針對的模型同樣甚至更危險 – 其潛在代價是限制推動有利於公共利益的進步的創新。”

州長表示，他同意應該制定安全協議和護欄，並對不良行為者採取「明確且可執行」的後果。然而，他表示，他認為國家不應該「接受一個沒有對人工智慧系統和能力進行經驗軌跡分析的解決方案」。

以下是完整的否決消息：

該法案的主要作者、參議員斯科特·維納(Scott Wiener) 在X 上發表的一篇文章中稱，否決權“對所有相信對正在做出影響公共安全和福利以及“地球未來”的重大決策的大型企業進行監督的人來說都是挫折。

「這項否決讓我們面臨一個令人不安的現實，即旨在創造極其強大技術的公司不會面臨美國政策制定者的具有約束力的限制，特別是考慮到國會在以任何有意義的方式監管科技業方面持續癱瘓。

8 月下旬，SB 1047 來到了紐瑟姆州長的辦公桌上，預計將成為美國人工智慧領域最嚴格的法律框架，簽署或否決的截止日期為 9 月 30 日。

它將適用於在加州開展業務的人工智慧公司，其模型的培訓成本超過1 億美元，微調成本超過1,000 萬美元，並增加了開發人員實施「終止開關」等保障措施的要求，並製定了測試協定減少發生網路攻擊或流行病等災難性事件的可能性。該文本還規定了對舉報違規行為的舉報人的保護，並使 AG 能夠就安全事件造成的損失提起訴訟。

自推出以來發生的變化包括取消設立新監管機構的提議，並賦予州總檢察長在潛在事件發生之前起訴開發商的權力。該法律涵蓋的大多數公司都反對該立法，儘管有些公司在這些修正案之後不再提出批評。

OpenAI 首席策略長 Jason Kwon 在給法案作者參議員 Wiener 的一封信中表示，SB 1047 會減緩進展，聯邦政府應該負責人工智慧監管。同時，Anthropic 執行長Dario Amodei 在法案修改後寫信給州長，列出了他認為的優點和缺點，並表示：「…新的SB 1047 得到了實質改進，我們相信其好處可能超過其成本。

代表亞馬遜、Meta 和谷歌的聯盟進步商會 (Chamber of Progress) 同樣警告稱，該法律將「阻礙創新」。

Meta 公共事務經理 Jamie Radice 將 Meta 否決權聲明透過電子郵件發送至 邊緣:

「我們很高興紐瑟姆州長否決了 SB1047。該法案將扼殺人工智慧創新，損害業務成長和就業創造，並打破該州促進開源發展的長期傳統。我們支持負責任的人工智慧法規，並繼續致力於與立法者合作，推廣更好的方法。

該法案的反對者包括前眾議院議長南希·佩洛西、舊金山市長倫敦·布里德和來自加州的八名國會民主黨人。另一方面，直言不諱的支持者包括伊隆馬斯克(Elon Musk)、馬克哈米爾(Mark Hamill)、艾莉莎米蘭諾(Alyssa Milano)、珊達萊姆斯(Shonda Rhimes)和JJ·艾布拉姆斯(JJ Abrams)等好萊塢知名人士，以及包括SAG-AFTRA和SEIU在內的工會。

聯邦政府也在研究監管人工智慧的方法。 5 月，參議院提出了一項 320 億美元的路線圖，涵蓋了立法者應該研究的幾個領域，包括人工智慧對選舉、國家安全、版權內容等的影響。