ChatGPT等生成式AI工具被用來創作內容,引發了對於辨識AI生成內容與科學文章的疑慮。研究展示了如何利用提示工程生成有關各種疾病的文章,並進行兩階段測試以驗證辨識方法。該研究介紹了xFakeSci,一種學習演算法,經過訓練後能區分ChatGPT生成的文章和科學出版物。這個演算法在小數據集上訓練,並進行校準以避免過度擬合,取得高準確度,能夠區分假文章。它優於傳統的數據挖掘演算法,顯示了校準和啟發式在識別AI生成內容方面的有效性。xFakeSci演算法在解決檢測像ChatGPT這樣的AI工具生成的假科學挑戰方面取得了重大進展。
PubMed
DOI