水能載舟，亦能覆舟。AI 一方面為人類生活帶來便利，也潛藏危機。日前，FBI 的代表便警告當局留意到黑客正利用 AI 協助製造和散佈惡意軟件、詐騙程式、Deepfake 圖像等等，增加網絡罪行的風險。
FBI 指，留意到黑客可利用 AI 更輕易干犯網絡罪行。例如利用 AI 撰寫釣魚網頁，在裡面植入惡意程式；又或利用 AI 開發千面人病毒（polymorphic malware），避開防毒軟件的偵查。當局更曾發現一名暗網用戶使用 ChatGPT 製造惡意程式，並指導其他黑客複製更多病毒。
黑客也經常利用 Deepfake 技術犯罪，例如模擬受害人者的親友的聲音，通過電話行騙；或者製造受害人的不雅圖像，勒索金錢。也有黑客利用 AI 假扮銀行撰寫公司電郵，要求受害人轉帳。
FBI 未有列出黑客常用的 AI 平台，但表示免費的開源平台有被濫用的趨勢，而在地下黑客世界也有流傳一些收費的私人 AI 程式。FBI 正與各 AI 公司商討對策應對挑戰，例如在 AI 圖像和內容上加上「水印」，防止濫用。