ChatGPT 瘋摩全球，但當然亦衍生不少問題，例如美國和南韓都發現有學生會直接使用 ChatGPT 來做功課，香港大學亦於今日 (17/2) 向各師生發信表示禁止使用 ChatGPT 來生成論文，否則會視作抄襲作弊，更成為香港首家禁止使用 AI 生成內容軟件的大專院校。而南韓最近亦有學生在網上表示自己使用了 ChatGPT 來生成功課，並獲得好成績，事件在網絡引起討論。
教育界表示對 ChatGPT 等人工智能生成內容的疑慮，不過南韓教育部數位教育負責人宋善真則認為 ChatGPT 是一項能引發大教育界變革的技術，同時也是可以好好運用的技術。並表示與其禁止使用 ChatGPT，倒不如教導學生向 AI 提問的技巧及如何驗證答案的真確性才更重要。
目前歐美亦正研究怎樣防止學生使用 ChatGPT，與及研究分辨 AI 生成文章的方法。不過包括南韓及美國的記者都發現，其實 ChatGPT 提供的答案和數字未必一定是正確的，如果使用者不懂分辨就使用，後果可能很嚴重。雖然目前已經有一些 GPT 檢查工具，但亦不代表能 100% 分辨到內容是不是由 AI 生成，最終還是要用人手去驗證內容。
南韓 YonhapnewsTV 記者，曾要求 ChatGPT 撰寫一篇有關去年發生的梨泰院事件的報導，但發現生成內容與事實完全不符。專家指，ChatGPT 的資料庫目前只去到 2021 年，所以如果查詢的內容或所需的資料涉及 2021 年之後的事情，例如 2022 年 2 月爆發的俄烏戰爭，或是 2022 年除夕發生在南韓梨泰院慘劇等較新近的內容，ChatGPT 大都會亂寫一堆內容，換言之一些內容農場或假新聞網站可以利用 AI 糊亂生成一寫虛假內容，如果民眾對事實沒有一些基本認知，就很容易會被 AI 所誤導。
 向各師生發信表示禁止使用 ChatGPT 來生成論文，否則會視作抄襲作弊…){kind=link}
除了一些新的內容，語言亦是目前 ChatGPT 的一個障礙。據了解，ChatGPT 的資料庫，有近 90% 都是用英語撰寫，其他語言只佔少數，雖然系統會有不俗的語言翻譯功能，但不一定能準確理解題問的內容，所生成的句語及文章內容未必準確，甚至會有很多文法錯誤的情況，所以要善用 ChatGPT，提問者最好是以英文提問，而且要懂得為 ChatGPT 提供足夠前設的資料和框架，才會有較準確的答案。
（新聞來源 : 南韓 Yonhapnews 及美聯社）