這就是為什麼我們不能擁有美好的事物： 由於人工智慧，維基百科目前正處於編輯危機之中。人們開始在網站上充斥由 ChatGPT 等大型語言模型想像出來的無意義訊息。但說實話，誰沒有預見到這一點呢？

維基百科有一項名為 WikiProject AI Cleanup 的新計劃。這是一個由志工組成的特別工作小組，目前正在梳理維基百科文章，編輯或刪除似乎是由使用生成人工智慧的人發布的虛假資訊。

清理小組的創始成員 Ilyas Lebleu 告訴 404 Media，當維基百科編輯和用戶開始看到明顯由某種聊天機器人編寫的段落時，危機就開始了。該團隊透過使用 ChatGPT 重新創建一些段落來證實了這個理論。

“我們中的一些人注意到非自然書寫的普遍存在，這些書寫明顯表明是人工智慧生成的，並且我們成功地使用 ChatGPT 複製了類似的‘風格’，”Lebleu 說。 “發現一些常見的人工智慧流行語使我們能夠快速發現生成文章中一些最令人震驚的示例，我們很快就希望將其正式化為一個有組織的項目來編譯我們的發現和技術。”

1：人工智慧是幻覺事件、歷史人物、維基百科上的整個概念

2：維基百科編輯的一個特別工作小組正在檢測並刪除這些內容 https://t.co/PlfzVCZd4P

– 賈森‧科伯勒 (@jason_koebler) 2024 年 10 月 9 日

例如，有一篇文章介紹了一座建於 1400 年代的奧斯曼堡壘，名為「Amberlisihar」。這篇 2,000 字的文章詳細介紹了該地標的位置和建設。不幸的是，安伯利斯哈爾並不存在，所有關於它的資訊都完全是幻覺，其中充斥著足夠的事實信息，以使其具有一定的可信度。

惡作劇也不限於新發布的資料。不良行為者正在將人工智慧產生的虛假資訊插入志願者編輯已經審查過的現有文章中。在一個例子中，有人將有關特定螃蟹物種的正確引用的部分插入到一篇有關不相關甲蟲的文章中。

勒布盧和他的編輯同事表示，他們不知道人們為什麼這樣做，但說實話——我們都知道發生這種情況有兩個主要原因。首先是維基百科模式的一個固有問題——任何人都可以成為該平台上的編輯。正是因為這個原因，許多大學不接受學生提交引用維基百科的論文。

第二個原因很簡單，網路毀了一切。我們已經一次又一次地看到這種情況，特別是在人工智慧應用中。還記得 Microsoft 的 Twitter 機器人 Tay 在開始發布粗俗和種族主義推文後不到 24 小時就被拉出嗎？更現代的人工智慧應用程式同樣容易受到濫用，就像我們在 Kindle 上看到的深度偽造、可笑的人工智慧生成的鏟軟體書籍以及其他惡作劇一樣。

任何時候只要允許公眾幾乎不受限制地存取某些內容，您就可以預期一小部分用戶會濫用它。當我們談論 100 人時，這可能不是什麼大問題，但當人數達到數百萬人時，你就會遇到問題。有時，這是為了非法利益。其他時候，只是因為他們可以。維基百科目前的困境就是如此。