人工智慧生成的有關颶風米爾頓的圖像和影片可能不僅僅是令人討厭的標題誘餌。它們也可能與詐騙和虛假資訊活動有關。

在肆虐佛羅裡達州部分地區的 3 級颶風過後，X、TikTok 和 Facebook 等社群媒體平台充斥著人工智慧產生的內容。一些由人工智慧生成的圖像和影片比其他圖像和影片更容易被發現，例如一個女孩在傾盆大雨中在船上擁抱鱷魚的明顯搞笑的圖像。

推文可能已被刪除

其他的則更有說服力，例如人工智慧生成的被洪水淹沒的迪士尼世界的圖像最初欺騙了許多人，甚至被俄羅斯宣傳機構分享。

推文可能已被刪除

結果可能只是假訊息的傳播，這已經夠糟糕的了，但人工智慧產生的網路垃圾也被用來引誘人們陷入詐騙。

颶風米爾頓 AI 污水無所不在

此時，許多人已經看到了迪士尼世界水下走道的假影像。但在 TikTok 上快速滾動顯示人工智慧生成的颶風米爾頓造成嚴重破壞的鏡頭。

有些視頻被標記為人工智慧生成的視頻，帶有主題標籤或標題，但很容易想像它們如何被其他人共享和利用。 IEEE 院士兼塔夫茨大學電機與電腦工程教授 Karen Panetta 描述如何將人工智慧生成的內容武器化以煽動恐慌和混亂。 「只有不到 30% 的成年大眾了解人工智慧的功能。因此，如果你用一個可怕的標題向普通民眾傳播一些錯誤訊息，就會讓很多人感到恐慌，」帕內塔說。

需要明確的是，颶風米爾頓造成的實際損失是毀滅性的。但當人工智慧生成的內容發揮作用時，它會讓使用者質疑現實。這反過來又可能為颶風陰謀論創造不信任和肥沃的土壤。舉例來說，一位 X 用戶聲稱 NASA 太空人馬修·多米尼克 (Matthew Dominick) 的影片是假的，甚至暗示多米尼克並不在太空中。這段影片現已被證實是真實的。

推文可能已被刪除

但更令人困惑的是，一些聲稱是颶風米爾頓的衛星圖像被斯諾普斯揭穿，因為它們的標題有誤或由人工智慧產生。

小心使用人工智慧生成圖像的詐騙

專家表示，除了颶風米爾頓之後的錯誤訊息和假訊息外，還要對詐騙保持警惕。聯邦貿易委員會在米爾頓登陸前一天發布了一份新聞稿，警告消費者留意「那些希望透過參與潛在詐欺或哄抬物價來利用自然災害的人」。

根據帕內塔的說法，像虛假慈善機構這樣的騙局可以透過使用生成人工智慧來使自己更具說服力。 「在任何災難中，總是會有一些事情發生 [scammers] 試圖建立不合法的籌款網頁，」帕內塔說。「現在發生的情況是，由於可以輕鬆訪問人工智慧生成的圖像，它被用來增加可信度，並說，’看，這不僅僅是我要錢。看看這有多可怕。

人工智慧生成的小女孩在海倫颶風過後抱著小狗哭泣的圖像在網路上瘋傳，這是一個完美的例子，說明圖像如何能夠撥動心弦並喚起捐贈的慾望，即使它是假的。雖然精明的網路使用者可能意識到這是假的，但其他人可能不知道，而這些人很容易成為詐騙目標。

一些人工智慧生成的颶風米爾頓圖像可能看起來像是某個孩子渴望炫耀他們的生成人工智慧技能的無害實例。但情況並非總是如此。錯誤的天真感可能是讓人們放鬆警戒的一種方式。 「這是一個完整的策略。我如何引誘人們加入？然後一旦我讓你相信我是合法的，就會有一個問題，」帕內塔說。

「最後總是有錢的，」她補充道。

雖然像米爾頓颶風這樣的自然災害可能會讓人們變得異常脆弱，但在對網路上的任何事情做出反應之前，運用批判性思維並三思而後行就顯得尤為重要。聯邦貿易委員會表示，詐騙者通常會堅持透過電匯、禮品卡、支付應用程式、加密貨幣或現金進行付款，並建議查看其資源，以了解如何在天氣緊急情況後避免詐騙。