一項有爭議的法案要求先進人工智慧模型的開發者採取安全措施，距離成為法律又更近了一步。 該法案 SB 1047 將要求未來先進人工智慧模型的開發人員創建護欄，以防止該技術被濫用對發電廠等關鍵基礎設施進行網路攻擊。 開發人員需要向司法部長提交他們的安全計劃，如果他們直接控制的人工智慧模式對公共安全造成傷害或迫在眉睫的威脅，司法部長可能會追究他們的責任。 該法案由舊金山民主黨參議員 Scott Wiener 提出，於週三在州議會以 41 票贊成、9 票反對的結果獲得通過。週四，該措施獲得州參議院一致投票批准。該法案目前已送交州長加文紐瑟姆 (Gavin Newsom) 辦公室，但目前尚不清楚紐瑟姆是否會簽署或否決該法案。 維納在一份聲明中表示：“創新和安全可以齊頭並進，加州處於領先地位。” 紐瑟姆的一位發言人表示，州長將在該法案到達他的辦公桌後對其進行評估。 維納的法案在灣區科技界引起了激烈爭論。它得到了人工智慧安全中心、特斯拉執行長馬斯克、《洛杉磯時報》編輯委員會和舊金山人工智慧新創公司 Anthropic…

2024 年 8 月 8 日 太平洋時間凌晨 3 點 加州是人工智慧領域的世界領導者——這意味著我們需要幫助找出如何監管它的方法。為此，該州正在考慮多項法案，其中最受關注的法案莫過於參議院第1047 號法案。模型的公司測試和修改這些模型，以便避免助長嚴重傷害。這是讓人工智慧負責的必要步驟，還是過度的行為？一家人工智慧公司的共同創辦人西蒙·拉斯特（Simon Last）和軟體與資訊產業協會公共政策負責人保羅·萊卡斯（Paul Lekas）發表了他們的觀點。 該法案將有助於在不損害創新的情況下確保技術安全 西蒙·拉斯特 身為一家人工智慧公司的共同創辦人，我見證了人工智慧驚人的進步。我每天都在設計使用人工智慧的產品，很明顯這些系統在未來幾年將變得更強大。我們將看到創造力和生產力的重大進步，以及科學和醫學的進步。 然而，隨著人工智慧系統變得越來越複雜，我們必須考慮它們的風險。如果不採取合理的預防措施，人工智慧可能會造成前所未有的嚴重危害——對關鍵基礎設施的網路攻擊、化學、核武或生物武器的開發、自動化犯罪等等。 加州的 SB 1047…