Evaluating Large Language Models on Medical Evidence Summarization.
評估大型語言模型在醫學證據摘要上的表現。 medRxiv 2023-09-04

LLMs在醫學領域的應用有潛力，但研究指出它們在生成摘要時可能不夠準確，容易出現錯誤或誤導性資訊。自動評估工具並不完全可靠，人工評估顯示在長篇文章中尤其難以辨識關鍵訊息。因此，在醫療保健領域中，我們應謹慎使用LLMs，不可全然依賴其能力。 PubMed DOI

Large Language Models in Medical Education: Opportunities, Challenges, and Future Directions.
醫學教育中的大型語言模型：機會、挑戰和未來方向。 JMIR Med Educ 2023-06-19

使用大型語言模型（LLMs）如GPT系列可提升醫學教育品質，但需注意演算法偏見、抄襲、錯誤資訊等挑戰。整合LLMs需謹慎，以確保教學效果。本文探討LLMs在醫學教育的機會與挑戰，提供未來有效運用人工智慧的建議。 PubMed DOI

Assessing the potential of GPT-4 to perpetuate racial and gender biases in health care: a model evaluation study.
評估 GPT-4 在延續醫療領域種族和性別偏見的潛力：一項模型評估研究。 Lancet Digit Health 2023-12-22

研究發現GPT-4在醫療保健領域存在種族和性別偏見問題，未能充分考慮人口多樣性，容易產生刻板印象。建議在將GPT-4等大型語言模型應用於臨床前，務必評估和解決偏見問題。 PubMed DOI

Unmasking and Quantifying Racial Bias of Large Language Models in Medical Report Generation.
揭示和量化大型語言模型在醫學報告生成中的種族偏見。 ArXiv 2024-03-06

大型語言模型如GPT-3.5-turbo和GPT-4在醫療保健領域有潛力，但可能受到訓練時的偏見影響，影響其在醫療環境中的實用性。研究指出，這些模型可能對白人族群預測較高的醫療成本和較長的住院時間，並對困難醫療情況下的存活率持過於樂觀的看法。未來需研究減少語言模型中的偏見，特別是在醫療保健領域，確保對所有患者公平且準確評估。 PubMed DOI

Evaluation and mitigation of the limitations of large language models in clinical decision-making.
評估和緩解大型語言模型在臨床決策中的限制。 Nat Med 2024-07-04

大型語言模型(LLMs)在臨床決策中或許有好處，但目前還不適合實際醫療使用。一項研究指出，LLMs在真實病例中無法正確診斷、無法遵循指引、難以解釋檢驗結果，且難以整合到臨床流程中，可能危害患者健康。需要更多研究以改進LLMs在臨床決策的應用。 PubMed DOI

Zero- and few-shot prompting of generative large language models provides weak assessment of risk of bias in clinical trials.
生成大型語言模型的零-shot和少量提示對臨床試驗中的偏見風險評估提供了薄弱的依據。 Res Synth Methods 2024-08-23

這項研究探討了使用生成性大型語言模型（LLMs）來自動化醫學研究中的偏見風險評估（RoB）。研究發現，LLMs在新整理的測試數據集上的表現不如預期，F1分數僅在0.1到0.2之間，與簡單基準相似，顯示其在RoB2預測任務中的效能有限。即使在分解任務中，表現也不佳，遠低於傳統監督系統。這顯示目前的LLMs尚不適合作為RoB2評估的可靠工具。 PubMed DOI

Unmasking and quantifying racial bias of large language models in medical report generation.
揭示與量化大型語言模型在醫療報告生成中的種族偏見。 Commun Med (Lond) 2024-09-10

大型語言模型（LLMs），像是GPT-3.5-turbo和GPT-4，對醫療專業人員有潛在的協助能力，但可能帶有訓練數據中的偏見，影響其在醫療情境中的有效性。本研究分析這些模型在預測住院、費用和死亡率時的表現，發現它們對白人族群的預測較高，且在困難醫療情況下過於樂觀。這些偏見反映了醫療不平等，強調了進一步研究的必要性，以減少語言模型中的偏見，確保所有病患都能獲得公平和準確的醫療結果。 PubMed DOI

A toolbox for surfacing health equity harms and biases in large language models.
一個揭示大型語言模型中健康公平危害和偏見的工具箱。 Nat Med 2024-09-23

大型語言模型（LLMs）在滿足健康資訊需求上有潛力，但也可能加劇健康不平等。本研究針對Med-PaLM 2模型，提供識別醫療答案中偏見的資源與方法，並提出一個評估框架及七個對抗性查詢的數據集EquityMedQA。研究強調多樣化評估策略的重要性，並呼籲來自不同背景的評審者參與。雖然無法完全確定AI系統是否促進公平健康結果，但此方法旨在增強可及性與公平醫療。 PubMed DOI

Benchmarking Large Language Models in Evidence-Based Medicine.
基於證據的醫學中大型語言模型的基準測試。 IEEE J Biomed Health Inform 2024-10-22

這項研究探討如何將大型語言模型（LLMs）整合進證據基礎醫學（EBM），以自動化任務如證據檢索和傳播，來提升臨床決策。研究比較了七個LLMs的表現，結果顯示這些模型在理解和總結方面表現優異，知識引導的提示也顯著提升了效果。不過，在命名實體識別和事實準確性上仍面臨挑戰，需要進一步研究和質量控制才能應用於臨床。研究結果和代碼已在GitHub上公開。 PubMed DOI

Mitigating Cognitive Biases in Clinical Decision-Making Through Multi-Agent Conversations Using Large Language Models: Simulation Study.
透過大型語言模型的多代理對話減輕臨床決策中的認知偏誤：模擬研究。 J Med Internet Res 2024-11-19

臨床決策中的認知偏誤可能導致誤診和病人不良結果。本研究探討大型語言模型（LLMs）如何透過多代理框架來減少這些偏誤。研究人員模擬臨床決策，創建不同角色的代理進行對話，以提高診斷準確性。分析16個因認知偏誤而誤診的案例，測試各種代理組合。使用GPT-4的代理包括決策者、挑戰偏誤的魔鬼代言人等。結果顯示，初始診斷準確率為0%，但經過討論後，最佳框架的準確率提升至76%。這顯示LLM驅動的對話在醫療情境中具潛力。 PubMed DOI

原始文章

站上相關主題文章列表