ChatGPT's ability to generate realistic experimental images poses a new challenge to academic integrity.
ChatGPT生成逼真實驗圖像的能力對學術誠信提出了新挑戰。 J Hematol Oncol 2024-05-01

近期大型語言模型如ChatGPT的快速進展引起了對其對學術誠信的擔憂。最新更新整合了DALL-E 3的圖像生成功能，擴大了對生物醫學研究中視覺證據的風險。測試顯示，ChatGPT能生成實驗結果圖像，雖有限制，但仍存在風險。應立即採取行動，如限制實驗圖像生成、開發檢測工具，並在生成的圖像上加入「隱形水印」，以確保負責任地使用人工智慧於學術研究和科學誠信。 PubMed DOI

Detecting hallucinations in large language models using semantic entropy.
利用語義熵檢測大型語言模型中的幻覺。 Nature 2024-06-19

大型語言模型（LLM）如ChatGPT或Gemini具有強大的推理和問答能力，但可能產生虛假輸出。這可能對各領域應用造成問題，如製造虛假法律先例或散佈虛假新聞。為提升誠實性，研究者致力於開發檢測虛假輸出的方法，著重於評估不確定性以檢測不正確回應。這種方法可用於識別新情況中的不可靠輸出，幫助用戶警惕LLM的潛在風險，並拓展新應用。 PubMed DOI

Large language models are changing landscape of academic publications. A positive transformation?
大型語言模型正在改變學術出版的格局。一個積極的轉變嗎？ Cas Lek Cesk 2024-07-09

大型語言模型如GPT-4、Bard和Claude，透過高效的文本處理能力，改變醫學等領域的學術寫作。雖然這些模型能生成類似人類內容，有助於文獻回顧和假設制定，但人工智慧生成內容的準確性引發道德疑慮。本文討論LLMs對醫學寫作的影響、道德挑戰，以及辨識人工智慧生成文本的方法，同時思考LLMs在學術出版和醫學領域的未來。 PubMed DOI

AdversaFlow: Visual Red Teaming for Large Language Models with Multi-Level Adversarial Flow.
AdversaFlow：針對大型語言模型的多層對抗流可視化紅隊測試。 IEEE Trans Vis Comput Graph 2024-09-16

這篇論文介紹了AdversaFlow，一個視覺分析系統，旨在提升大型語言模型（LLMs）對抗攻擊的安全性。它探討了LLMs可能生成誤導性資訊及促進不道德活動的問題。傳統的AI漏洞識別方法過於依賴專業知識，限制了效果。 AdversaFlow透過人機協作和對抗性訓練來增強識別能力，並具備創新的視覺化功能，幫助專家理解對抗動態。論文中提供了定量評估和案例研究，顯示AdversaFlow能有效提升LLM的安全性，特別在社交媒體監管等應用上，能幫助檢測和減輕有害內容。 PubMed DOI

Large language models (LLMs) and the institutionalization of misinformation.
大型語言模型 (LLMs) 與錯誤資訊的制度化。 Trends Cogn Sci 2024-10-11

對於大型語言模型（LLMs）可能擴散錯誤資訊的擔憂是合理的，因為這些模型生成的內容難以與可信來源區分，容易造成真實與虛假資訊的混淆。這可能導致錯誤資訊的強化，讓人們難以辨別事實。使用者互動和分享這些內容，可能形成反饋循環，進一步鞏固錯誤資訊。這樣的情況可能影響民主過程、信任機構，甚至造成社會分裂。因此，推廣媒體素養、批判性思維及事實查核機制非常重要。同時，提升LLMs訓練和資訊來源的透明度，能減少錯誤資訊的風險，確保科技能增進我們對現實的理解。 PubMed DOI

Use of large language models as a scalable approach to understanding public health discourse.
大型語言模型作為理解公共衛生話語的可擴展方法。 PLOS Digit Health 2024-10-16

這項研究探討大型語言模型（LLMs）在分析社交媒體貼文，評估公眾對疫苗接種態度的應用。研究人員比較了不同LLMs的表現，包括GPT模型和開源替代品，並與基於規則的情感分析工具進行對比。結果顯示，使用表現最佳的LLMs進行少量提示能獲得最佳效果，而其他方法則有較高的誤分類風險。研究強調LLMs在公共衛生領域的潛力，建議將其納入公共衛生監測，以提升對健康政策公眾意見的評估能力。 PubMed DOI

Investigating generative AI models and detection techniques: impacts of tokenization and dataset size on identification of AI-generated text.
探討生成式 AI 模型及檢測技術：標記化和數據集大小對識別 AI 生成文本的影響。 Front Artif Intell 2024-12-04

這項研究探討了生成式 AI 模型（如 ChatGPT、Gemini 和 Claude）在 K-12 教育中的應用，強調其在各科目的優勢，並討論學術不誠實的倫理問題。研究使用傳統機器學習模型和大型語言模型來檢測高風險寫作評估中的 AI 生成內容，並評估檢測方法的效果，考慮改寫工具的影響。研究還引入新方法，利用同義詞資訊識別人性化的 AI 文字，並探討數據集大小對模型表現的影響，以指導未來的數據收集。 PubMed DOI

Improving authenticity and provenance in digital biomarkers: the case for digital watermarking.
提升數位生物標記的真實性和來源：數位水印的案例。 NPJ Digit Med 2025-01-15

隨著數位生物標記（DBx）技術的進步，產生的數據量不斷增加，對醫療評估、診斷和監測變得愈加重要。然而，數據的激增也引發了對其真實性和準確性的擔憂。近期研究指出，大型語言模型（LLMs）可能加劇這些風險。為了應對這些挑戰，研究建議採用數位水印技術，以確保數據的完整性，並提升DBx數據的可靠性與來源，進而解決健康系統中的相關問題。 PubMed DOI

Echoes of authenticity: Reclaiming human sentiment in the large language model era.
真實性的回聲：在大型語言模型時代重拾人類情感。 PNAS Nexus 2025-02-26

這篇論文探討大型語言模型（LLMs）如ChatGPT在編輯用戶生成內容（UGC）時的意外影響，特別是情感變化。分析氣候變遷推文後發現，LLMs重述的推文通常情感更中立，這可能扭曲依賴UGC的研究結果。為了應對這些偏見，論文提出兩種策略：一是使用預測模型識別原始情感，二是微調LLMs以更好地對齊人類情感。整體而言，研究強調了LLMs對UGC情感的影響，並提供減少偏見的實用方法，確保情感分析的可靠性。 PubMed DOI

Large language models can consistently generate high-quality content for election disinformation operations.
大型語言模型可以持續生成高品質內容，用於選舉虛假資訊操作。 PLoS One 2025-03-17

這項研究探討大型語言模型（LLMs）在自動化選舉虛假資訊操作的潛力，介紹了名為DisElect的數據集，包含2,200個惡意提示和50個良性提示，專為英國情境設計。結果顯示，大多數LLM會遵從生成惡意內容的請求，少數拒絕的模型也會拒絕良性請求，特別是右派觀點的內容。此外，自2022年以來，許多LLM生成的虛假資訊與人類文本幾乎無法區分，部分模型甚至超越人類的「人性化」水平。這顯示LLM能以低成本有效生成高品質的選舉虛假資訊，為研究人員和政策制定者提供基準。 PubMed DOI

原始文章

站上相關主題文章列表