舊金山 — 州長加文紐瑟姆 (Gavin Newsom) 週日否決了 SB 1047，這是一項人工智慧安全法案，該法案對高級人工智慧模型的開發人員制定了旨在防止災難的協議的要求。 該法案由參議員斯科特·維納（D-San Francisco）提出，要求開發者向州檢察長提交他們的安全計劃，如果他們直接控制的人工智能模型對他人造成傷害或迫在眉睫的威脅，州檢察長可以追究開發者的責任。 此外，該法案還要求科技公司在出現問題時能夠關閉他們直接控制的人工智慧模型。 紐瑟姆在否決訊息中表示，該立法可能會給公眾帶來“控制這種快速發展的技術的錯誤安全感”，因為它只針對大規模且昂貴的人工智慧模型，而不是較小的專業系統。 紐瑟姆的否決資訊表示：“雖然本意是好的，但 SB 1047 並未考慮人工智慧系統是否部署在高風險環境中、是否涉及關鍵決策或敏感資料的使用。” 「相反，該法案甚至對最基本的功能都採用了嚴格的標準——只要大型系統部署它。我不認為這是保護公眾免受該技術構成的真正威脅的最佳方法。 州長週日還宣布，他的政府已招募該領域的領導人幫助該州為人工智慧的部署創建可行的保護措施，重點分析其能力和風險。紐瑟姆承諾將在下次會議上繼續與立法機關就該問題進行合作。 該法案在矽谷引起了激烈爭論，並得到了人工智慧安全中心、SpaceX 執行長馬斯克、《洛杉磯時報》編輯委員會和著名人工智慧研究人員的支持，但遭到了Facebook…

一項有爭議的法案要求先進人工智慧模型的開發者採取安全措施，距離成為法律又更近了一步。 該法案 SB 1047 將要求未來先進人工智慧模型的開發人員創建護欄，以防止該技術被濫用對發電廠等關鍵基礎設施進行網路攻擊。 開發人員需要向司法部長提交他們的安全計劃，如果他們直接控制的人工智慧模式對公共安全造成傷害或迫在眉睫的威脅，司法部長可能會追究他們的責任。 該法案由舊金山民主黨參議員 Scott Wiener 提出，於週三在州議會以 41 票贊成、9 票反對的結果獲得通過。週四，該措施獲得州參議院一致投票批准。該法案目前已送交州長加文紐瑟姆 (Gavin Newsom) 辦公室，但目前尚不清楚紐瑟姆是否會簽署或否決該法案。 維納在一份聲明中表示：“創新和安全可以齊頭並進，加州處於領先地位。” 紐瑟姆的一位發言人表示，州長將在該法案到達他的辦公桌後對其進行評估。 維納的法案在灣區科技界引起了激烈爭論。它得到了人工智慧安全中心、特斯拉執行長馬斯克、《洛杉磯時報》編輯委員會和舊金山人工智慧新創公司 Anthropic…