臨床文本和文件是重要的醫療資訊來源，利用先進的語言技術處理對於發展支援醫療保健和社會福祉的智慧系統至關重要。我們使用多語言神經網絡模型，如Transformer，以及大規模預先訓練的語言模型進行轉移學習，研究臨床文本機器翻譯。我們的研究顯示，小型預先訓練的語言模型在臨床領域微調中表現優於更大的模型，這是一個新的發現。這些結果對於醫療保健領域的機器翻譯發展具有重要意義。 PubMed DOI

語言模型在醫學領域的應用具有重要潛力，但人們對其運作和能力仍不清楚。因此，有必要深入研究，提高模型的可解釋性。本文總結了目前在生物醫學領域中語言模型的研究，並指出未來的探索方向，以解決相關挑戰。這將有助於研究人員和從業者更好地了解語言模型在醫學領域的應用。 PubMed DOI

研究探討大型語言模型在醫學上的應用，分析了550篇相關研究。LLMs已經在醫學診斷、寫作、教育和管理方面帶來改善。它們有助於起草文件、培訓和研究。挑戰在於上下文和過度依賴。研究強調了與驗證、倫理和傳統實踐的整合。未來研究應該探索多模式LLMs、算法理解和負責任使用。 PubMed DOI

Transformer神經網絡最初為處理自然語言而生，現在在醫療領域廣泛運用，用來分析各種數據。應用範圍包括臨床語言處理、醫學影像、電子病歷、社群媒體、生理訊號和生物序列。Transformer已用於手術指導、預測手術後結果、臨床診斷、報告生成、數據重建和藥物/蛋白合成。討論了在醫療中使用Transformer的優勢和限制，如計算成本、模型解釋性、公平性、與價值觀一致性、倫理和環境影響。 PubMed DOI

這篇論文回顧了自然語言處理技術，特別是大型語言模型在放射科報告中提取結構化數據的應用。雖然放射影像使用普遍，但報告中的自由文本常未被充分利用。根據PRISMA-ScR指導方針，分析了2023年8月1日從五個資料庫中找到的34項研究。結果顯示，大多數研究集中在前變壓器和編碼器模型上，外部驗證時性能下降。LLMs可能增強信息提取的普遍適用性，但面臨外部驗證不足和報告粒度問題等挑戰。 PubMed DOI

這項研究系統性回顧了生成性大型語言模型（LLMs）在臨床環境，特別是電子健康紀錄（EHRs）的應用。儘管自然語言處理技術進步，LLMs在臨床實踐中的整合仍有限，面臨多重挑戰。研究分析了自2023年以來的76篇相關文獻，發現包括提示工程的使用、少數多模態數據的應用、評估指標的多樣性，以及臨床決策中的偏見和幻覺等問題。未來需改進計算技術和標準化評估，以提升LLMs在醫療中的可靠性。總之，LLMs在病人護理上有潛力，但仍需克服重大障礙。 PubMed DOI

這篇回顧探討了如何將SNOMED CT這個生物醫學術語整合進大型語言模型（LLMs），以提升其在生物醫學自然語言處理的表現。研究分析了2018至2023年間的37項相關研究，發現主要的整合方法包括將SNOMED CT納入LLM輸入、整合進額外模組，以及在推理時作為知識檢索器。雖然大部分研究顯示整合後表現有所提升，但也有研究指出某些情況下並未改善。這篇回顧強調了整合策略的多樣性及未來研究需標準化評估方法的重要性。 PubMed DOI

這項研究探討了基於Transformer的預訓練大型語言模型（LLMs）在生物醫學領域的適應性與表現，特別針對自然語言推理（NLI）和命名實體識別（NER）兩個任務。研究旨在了解模型在這些任務上的表現與其捕捉資訊的能力之間的關係。分析了編碼器和解碼器基礎的LLMs的內部編碼及注意力機制，並比較了不同數據量微調前後的效果。結果顯示，模型的有效性與其內部機制中的特定模式有關，並提供了LLMs在生物醫學領域如何處理知識的見解。研究源代碼已在GitHub上公開。 PubMed DOI

這項研究探討了在醫療保健領域應用預訓練大型語言模型（LLMs）的挑戰，特別是資源有限的情況下。研究開發了三種專門的預訓練方法，包括傳統的遮蔽語言模型、深度對比學習，以及結合醫療元數據的創新方法。結果顯示，對比訓練的模型在分類任務中表現最佳，雖然基於元數據的方法未提升分類性能，但在嵌入集群可分性上有趣的結果。整體而言，這項研究強調了專門預訓練方法在醫療保健自然語言處理中的潛力，並解決了數據隱私和資源限制的問題。 PubMed DOI

這篇回顧探討大型語言模型（LLMs）在病人教育和參與中的應用，分析了201項主要來自美國的研究，並提出六個關鍵主題，包括生成病人教育材料、解釋醫療資訊、提供生活方式建議等。研究顯示，LLMs能有效生成易懂的內容，改善病人與醫療提供者的溝通，但也存在可讀性、準確性及偏見等問題。未來需進一步研究以提升LLM的可靠性，並解決其在醫療應用中的倫理挑戰。 PubMed DOI