ChatGPT 開放免費給大眾試用後旋即成為大熱技術，造就不少話題。其中，著名搖滾歌手 Nick Cave 看到 ChatGPT 的作品後以不堪入目來形容。另外，機械學習國際大會（The International Conference on Machine Learning，ICML）早前也宣布，將禁止包含 ChatGPT 等的大型語言模型所生成的論文內容。又因 ChatGPT 能知天下事，教育界也可始憂心，紐約有公立學校宣布禁止學生使用。ChatGPT 如此有趣，當然也吸引技術超凡的黑客網絡犯罪分子一試。
Nick Cave 的粉絲傳送一份由 ChatGPT 製作的歌詞給他，看過作品後在網站回應有關內容，並以「胡說八道」和「對人性的荒誕嘲弄」發表感受。他強調，明白 ChatGPT 還處於起步階段，也許就是 AI 的可怕之處 —— 永無止境的起步階段，卻總是走得更快、更前、更遠。「儘管從這首歌曲看來不錯，卻不能不說，世界末日即將來臨，這首歌糟透了。」
另外，教育界亦擔心 ChatGPT 更容易「出貓」。紐約市教育局發言人 Jenna Lyle 表示， ChatGPT 可以快速和簡單地提供答案，但不能提升學生批判思維和解決問題的技能。未來，學校系統會過濾及阻擋 ChatGPT 網站，不讓學生在學校連上相關網站。但不會阻止有興趣研究該技術的學生在學校以外的地方連線上網。
至於網絡安全解決方案供應商 Check Point 旗下的 Check Point Research 亦表示，注意到 ChatGPT 容易操作的代碼生成能力，有助欺詐技術較弱的攻擊者更易發動網絡攻擊，為網絡威脅形勢帶來新挑戰。
該公司香港及台灣技術總監侯嘉俊指出：「網絡犯罪分子對 ChatGPT 興趣日增，背後的人工智能科技讓發動網絡攻擊更具成本效益。然而，判斷 ChatGPT 是否已成為 Dark Web 社群偏好的攻擊工具目前仍言之尚早。」
他補充：「突破 OpenAI 的限制，在特定國家或地區使用 ChatGPT 並非難事。公司亦察覺到俄羅斯黑客已開始討論並嘗試突破地域使用限制，利用該技術作惡意用途。相信這些黑客正嘗試在日常犯罪行動中使用和測試 ChatGPT。」