氧週二，人工智慧領域的傑出人物聚集在北蛇形畫廊（Serpentine North），這是由火藥商店改建而成的展覽空間，參加首屆倫敦 TIME100 Impact 晚宴。繼上個月在舊金山舉行類似活動之後，這次晚宴聚集了《時代》雜誌2023 年和2024 年人工智慧領域100 名影響力人物名單中頗具影響力的領導者、專家和獲獎者，他們都在塑造該技術的未來方面發揮作用。

在《時代》雜誌執行長傑西卡·西布利(Jessica Sibley) 與活動贊助商高管（Northern Data Group 集團首席營運長Rosanne Kincaid-Smith 和Nvidia 歐洲、中東和非洲副總裁Jaap Zuiderveld）進行討論之後，以及主菜結束後會議結束後，注意力轉向小組討論。

該小組的主角是《TIME 100 AI》獲獎者 Jade Leung，她是英國人工智慧安全研究所的首席技術官，該研究所於去年成立，旨在評估尖端人工智慧模型的能力； Victor Riparbelli，英國人工智慧視訊通訊公司 Synthesia 的執行長兼聯合創始人； Abeba Birhane 是都柏林三一學院電腦科學與統計學院的認知科學家兼兼職助理教授，他的研究重點是審查人工智慧模型以發現實證危害。由《時代》雜誌高級編輯 Ayesha Javed 主持，討論重點是人工智慧的現狀及其相關挑戰、誰應對人工智慧的影響負責的問題，以及人工智慧生成的影片改變我們溝通方式的潛力。

小組成員對人工智慧帶來的風險的看法反映了他們不同的關注領域。 Leung 的工作涉及評估尖端人工智慧模型是否可用於促進網路、生物或化學攻擊，以及更廣泛地評估任何其他有害能力的模型，重點是需要「了解經驗數據」這將告訴我們更多關於接下來會發生什麼以及與之相關的風險類型的信息。

與此同時，Birhane 強調了她認為圍繞人工智慧的能力和構成生存風險的潛力的「大規模炒作」。 “這些模型實際上並沒有達到他們的要求。” Birhane 認為「人工智慧不僅僅是運算。整個管道使建造和維持系統成為可能，」他指出了關注數據來源、人工智慧系統對環境的影響（特別是與能源和水的使用有關）以及勞動報酬過低的重要性。以數據標記器為例。她說：“大公司和新創公司都必須有動力，不僅要對模型本身進行徹底評估，還要對整個人工智慧管道進行徹底評估。”裡帕爾貝利建議，「解決當今社會已經存在的問題」和思考「終結者式的場景」都很重要，值得關注。

小組成員一致認為，對人工智慧系統進行評估至關重要，既可以了解其能力，也可以在涉及偏見持續存在等問題時發現其不足之處。由於技術的複雜性和該領域發展的速度，「如何應對不同安全挑戰的最佳實踐變化非常快，」Leung 說，並指出「學術界公開了解的知識和知識之間存在很大的不對稱性”。公民社會以及這些公司內部已知的情況。”

小組成員進一步同意，公司和政府都可以在最大限度地減少人工智慧帶來的風險方面發揮作用。 「公司肩負著繼續安全實踐創新的巨大責任，」梁說。裡帕爾貝利對此表示同意，並表示公司可能有「道德上的責任」來確保其係統的安全。同時，「政府必須在這裡發揮作用。這是完全沒有商量餘地的。

同樣，伯哈恩明確表示，基於「經驗證據」的「有效監管」是必要的。 「許多政府和政策制定者將人工智慧視為一個機會，一種發展經濟以獲得經濟利益的方式，」她指出經濟誘因與弱勢群體利益之間的緊張關係。 “政府需要將評估和監管視為創建更好的人工智慧系統的機制，以造福廣大公眾和社會底層人民。”

在談到全球治理時，梁振英強調，需要從技術和政策角度明確哪種護欄最可取。 “我們希望跨司法管轄區協調哪些最佳實踐、標準和協議？”她問。 “這不是一個資源充足的問題。”儘管如此，梁指出，中國去年參加了英國主辦的人工智慧安全高峰會，這一事實值得樂觀。 “確保他們坐在桌子旁非常重要，”她說。

我們可以即時觀察人工智慧能力進步的一個具體領域是人工智慧生成的影片。在一段利用其公司技術製作的合成視頻中，Riparbelli 的人工智能替身宣稱“文本作為一種技術最終是短暫的，將成為過去的遺跡。”真正的 Riparbelli 擴展了這個想法：「我們一直致力於更直觀、更直接的溝通方式。文字是我們儲存和編碼資訊以及共享時間和空間的原始方式。現在，我們生活在這樣一個世界：至少對於大多數消費者來說，他們更喜歡觀看和收聽自己的內容。

在他設想的世界中，人工智慧將彌合文字（創建速度快）和影片（勞動密集但也更具吸引力）之間的差距。他說，人工智慧將「讓任何人都可以在臥室裡創作一部好萊塢電影，而無需超出他們的想像」。這項技術在被濫用方面提出了明顯的挑戰，例如透過製造深度偽造品或傳播錯誤訊息，但Riparbelli 強調，他的公司採取措施防止這種情況，並指出「每個影片在生成之前都會經過內容審查”。我們確保它符合我們的內容政策的審核過程。”

裡帕爾貝利建議，重點應該放在設計減少有害結果的政策上，而不是採用「以技術為中心」的人工智慧監管方法。 “讓我們專注於我們不希望發生的事情，並圍繞這些事情進行監管。”

倫敦 TIME100 影響晚宴：塑造人工智慧未來的領導者由 Northern Data Group 和 Nvidia Europe 主辦。