氧penAI 的執行長 Sam Altman 將從該公司成立的內部委員會中辭職，該委員會是為了在開發更強大的人工智慧技術的競賽中就「關鍵安全和安保」決策向董事會提供建議。

該委員會於 5 月成立，在 90 天內一直在評估 OpenAI 的流程和保障措施。 OpenAI 在 9 月 16 日評估後發布了委員會的建議。

因此，除了為 OpenAI 董事會服務外，還以執行長的身份監督公司業務運營的 Altman 將不再擔任安全委員會成員。 OpenAI 表示，根據委員會的建議，新的獨立委員會將由卡內基美隆大學機器學習系主任 Zico Kolter 擔任主席，他於 8 月加入 OpenAI 董事會。該委員會的其他成員將包括 OpenAI 董事會成員、Quora 聯合創始人兼執行長 Adam D’Angelo、退休美國陸軍將軍 Paul Nakasone 和前索尼娛樂總裁 Nicole Seligman。與 Altman 一起，OpenAI 董事會主席 Bret Taylor 以及該公司的幾位技術和政策專家也將從委員會辭職。

閱讀更多： 2024 年 TIME100 人工智慧領域最具影響力人物

該委員會的其他建議包括加強安全措施、保持 OpenAI 工作的透明度以及統一公司的安全框架。它還表示將探索更多與外部組織合作的機會，例如用於評估 OpenAI 最近發布的一系列推理模型 o1 的危險能力的機會。

安全與安保委員會並不是 OpenAI 第一次嘗試建立獨立監督。 OpenAI 的營利部門成立於 2019 年，由一家擁有「多數獨立」董事會的非營利實體控制，其任務是確保其按照開發安全、廣泛受益的通用人工智慧 (AGI) 的使命行事。超越了人類。

去年 11 月，OpenAI 董事會解雇了 Altman，表示他「與董事會的溝通不夠坦誠，阻礙了董事會履行職責的能力」。在員工和投資者反抗、董事會成員兼公司總裁格雷格·布羅克曼辭職後，他很快就恢復了執行長的職位，董事會成員海倫·托納、塔莎·麥考利和伊利亞·蘇茨克弗也辭職了。布羅克曼後來返回擔任公司總裁。

閱讀更多： OpenAI 和 Sam Altman 最近受到的所有指控的時間表

這起事件凸顯了這家快速成長的公司面臨的關鍵挑戰。包括托納和麥考利在內的批評者認為，擁有一個正式的獨立董事會不足以抵銷公司面臨的強大利潤誘因。本月早些時候，路透社報道稱，OpenAI 正在進行的融資活動可能取決於其公司結構的改變，這可能會將其估值提升至 1500 億美元。

托納和麥考利表示，董事會獨立性還不夠，政府必須在監管人工智慧方面發揮積極作用。 「即使有最好的意圖，如果沒有外部監督，這種自我監管最終也將無法執行，」前董事會成員在 5 月的《經濟學人》雜誌上寫道，反思了 OpenAI 11 月董事會的失敗。

過去，Altman 曾敦促對人工智慧系統進行監管，但 OpenAI 也遊說反對加州的人工智慧法案，該法案將強制開發人員遵守安全協議。超過 30 名 OpenAI 現任和前任員工公開支持該法案，這與公司的立場背道而馳。

安全與安保委員會於 5 月底成立，此前 OpenAI 經歷了特別動蕩的一個月。該公司「超級對齊」團隊的兩位領導者 Ilya Sutskever 和 Jan Leike 辭職了，該團隊的重點是確保人工智慧系統在超越人類智慧水平的情況下仍處於人類控制之下。 Leike 在 X 上的一篇貼文中指責 OpenAI 將「閃亮的產品」置於安全之上。同月，OpenAI 因要求離職員工簽署協議，防止他們批評公司或喪失既得股權而受到批評。 （OpenAI 後來表示，這些規定沒有也不會被執行，而且它們將從未來的所有退出文件中刪除）。