在人工智能 (AI) 的世界裡, 近年來見證了『生成式人工智能』 (Generative Pre-trained Transformer “GPT”) 架構在從自然語言處理到內容創建等不同領域的巨大潛力。然而，總有陰影潛伏在身邊, 同樣的技術在網路攻擊者手中發現了惡意應用程式。網路犯罪分子和駭客已經創建了並且正在兜售一些自己版本的大型語言生成技術－WormGPT, EvilGPT, FraudGPT , XXXGPT 和WolfGPT可以幫助他們進行網路釣魚或編寫惡意軟體,。據稱，這些系統可模仿 ChatGPT 、Google Bard 、Midjourney 和 Facebook 的功能 (例如虛假廣告)，產生文字來回答問題或誘騙使用者交出登入資訊, 竊取他們的密碼, 並用於非法活動。

現在讓我們介紹一下其中三種惡意 AI 聊天機械人:

WormGPT 是一種基於開源 GPT-J 大語言模型 (LLM) 構建的惡意人工智能聊天機械人。它可以解釋和回應英語、法語、中文、俄語、義大利語和西班牙語的自然語言文本。據稱，WormGPT 接受了與惡意軟體相關的訓練資料的訓練，並且沒有內容審核指南，這意味著威脅行為者可以使用它來創建網路釣魚詐騙和惡意程式碼。它能夠借助人工智能的力量，產生類似人類的文本，超越了 ChatGPT 的文本生成能力。因此, 它可以像專業人士一樣破壞安全，利用漏洞、滲透網路並以極快的速度釋放惡意程式碼。但更重要的是它學習速度很快，能夠即時適應，從竊取資料到破壞系統, 使其成為數位世界中的終極惡作劇製造者。

WormGPT是 ChatGPT 的有害版本，主要用於駭客和支付詐騙等非法活動。它的運作沒有任何道德或法律限制，賦予使用者不受限制的行動自由。它只能透過暗網存取, 無法透過常規網頁瀏覽直接存取此 AI。

EvilGPT 也是一種惡意人工智能聊天機械人，正在駭客論壇中進行宣傳。與它的對應物 WormGPT 類似，Evil-GPT 完全使用 Python 程式語言進行程式設計。 Evil-GPT 的促銷價格非常實惠，並可能鼓勵非法使用。

Evil-GPT 由是使用 chatGPT 3.5 Turbo 模型產生的，可以格式化各種程式語言的程式碼，使其可用於產生惡意軟體或其他惡意程式碼和能夠有效地分析和理解人類語言。它可以產生任意長度的文本，這使其非常適合創建長而複雜的文檔，例如可以產生真實的網路釣魚電子郵件，可用於發動商業電子郵件外洩 (BEC) 攻擊, 旨在誘騙人們洩露其個人資訊。它也可以記住先前對話的上下文，這使得它能夠產生更自然和連貫的反應。

FraudGPT 是一個基於訂閱的生成式 AI 平台，可用於針對網路釣魚、惡意軟體和駭客攻擊的大規模武器化生成式 AI。它產生的假冒內容能夠令人信服，產生詐騙電子郵件、虛假訊息和網站，它都將它們打造得完美無缺。這個騙子是網路釣魚、身分盜竊和金融詐欺背後的控制者。它可以自動化各種流程，並為新手攻擊者提供廣泛的技能。

這些生成式人工智能使用深度學習技術 (例如RNN 和 GAN )，模仿人類特徵，可以增強網路犯罪分子的能力, 包括模仿可信實體、深度假冒的模仿、利用社會工程的漏洞、心理操縱、針對性的網路釣魚, 並在包括網路安全在內的各個領域找到應用，帶來潛在的機會和擔憂。

在不斷發展的網路安全領域，這些惡意人工智能聊天機械人帶來了前所未有的挑戰, 並且徹底改變了網路攻擊領域，這些模型增強了現有威脅並帶來了新的風險維度。它們使惡意行為者能夠製作令人信服的個人化網路釣魚誘餌，透過深度偽造操縱公眾輿論，並利用人類認知偏見。它們從模仿可信任組織的網路釣魚活動到冒充權威人物的深度造假技術，擴大網路犯罪分子的武器庫。此外，它們驅動的社會工程利用的漏洞，包括心理操縱、有針對性的網路釣魚和真實性危機。

為了應對這些新興威脅，以下措施或多或少能夠有效應對不斷變化的網路風險並確保其數位資產受到保護:

保持警惕、提高意識、針對性培訓和加強監管的重要性。
保持機智：保持技術觸角敏銳。一種機智、街頭智慧的人工智能方法可以幫助您破解不斷發展的數位謎團。
全面的網路安全方法至關重要, 有效地利用傳統安全措施 (例如進階電子郵件過濾器和防毒軟體、網站掃描儀、實施無密碼身份驗證或多重身份驗證 (MFA) 、網路釣魚模擬、零信任框架), 保持領先地位是抵禦數位入侵者的關鍵。
持續的安全測試, 以及透過端點偵測及回應 (EDR) 解決方案和防毒軟體工具加強防禦。
增強人工智能驅動的威脅偵測。
道德人工智能遊戲：用道德人工智能知識武裝自己。
協作與征服：防禦生成式人工智能威脅需要個人、組織和政府的不斷適應和集體努力。能夠將業界最優秀的人才聚集在一起, 協作是對抗數位混亂的秘密武器。

總括而言，雖然人工智能有潛力徹底改變我們的生活, 但在帶來便利和貢獻的同時，我們也必須注意它潛在的負面影響，我們必須確保人工智能的開發和使用符合道德和負責任，以避免意想不到的後果。

以上內容及資料僅屬個別作者的個人意見，並不代表www.CTgoodjobs.hk的立場。CTgoodjobs對因以上人士張貼之資訊內容所帶來之損失或損害概不負責。

人工智能(AI) 世界中的潛在惡意攻擊 - CTgoodjobs IT Channel - Columnist 專欄網誌