原始文章

基礎模型已成為人工智慧應用,特別是自然語言處理中不可或缺的部分。圖形機器學習也正朝向更先進的深度學習技術發展。基礎模型的成功促使研究者探索圖形基礎模型(GFMs),這些模型預期能在大型圖形數據集上進行預訓練,並適應不同任務。不過,這個新興領域目前缺乏明確定義和系統分析。本文介紹GFMs的關鍵特徵,並根據其對圖形神經網絡和大型語言模型的依賴程度,將研究分為三類,並回顧GFMs的現狀及未來研究方向。 PubMed DOI


站上相關主題文章列表

在分子生物學中,探索分子間的關聯性至關重要,而大型語言模型(LLMs)的出現大幅推進了這一領域。這些模型在自然語言處理和圖像生成上表現優異,能夠從龐大數據集中捕捉複雜關係,成為基礎模型。 目前的數據集涵蓋RNA、DNA、蛋白質序列及單細胞和空間轉錄組,為模型開發提供了豐富基礎。未來,基礎模型的發展將專注於提升可解釋性、整合多組學數據及增強預測能力,對於改進我們對生物系統的理解及治療策略具有巨大潛力。 PubMed DOI

知識圖譜(KGs)改變了知識的表現方式,將實體及其關係以圖形結構組織,提升了推薦系統和問答系統的效能。像是Expert.AI的Sensigrafo,專注於透過機器導向的詞彙來增進自然語言理解。不過,維護知識圖譜仍然面臨挑戰,通常需要手動輸入。近期大型語言模型(LLMs)的進展,為自動化知識圖譜的豐富提供了新機會,本文探討了基於LLM的最新技術,並針對數據質量、經濟性、隱私等問題提供見解。 PubMed DOI

這項調查探討了基礎模型(FMs)在人工智慧中的影響,特別是它們如何與聯邦學習(FL)結合應用於生物醫學研究。像ChatGPT、LLaMa和CLIP等模型透過無監督預訓練和人類反饋強化學習,提升了機器學習的能力,能處理臨床報告和診斷影像等多種數據。結合基礎模型與聯邦學習,不僅能分析數據,還能保護醫療數據隱私,改善醫療診斷和個性化治療。調查也指出了當前的挑戰,並建議未來的研究方向,以促進醫療保健的創新。 PubMed DOI

基礎模型(FMs)是大型深度學習模型,透過自我監督學習在廣泛數據集上訓練,已在醫療領域取得成功。這項調查提供FMs在醫療中的歷史、學習策略、主要模型及應用的深入分析,特別是BERT和GPT如何影響臨床語言處理、醫學影像分析等領域。儘管FMs帶來許多機會,但也面臨挑戰,調查指出未解的研究問題,為研究人員和實務工作者提供見解,以促進FMs的應用並應對潛在風險。 PubMed DOI

大型語言模型(LLMs)如ChatGPT已經改變了人機互動和語言分析。這些模型基於自然語言處理和機器學習的進步,特別是變壓器模型的引入,能更有效理解上下文。 LLMs的訓練過程分為預訓練和監督式微調,讓模型學習語法和推理能力。然而,它們也有缺陷,常生成聽起來合理但不正確的資訊,可能誤導使用者。因此,在使用LLMs時,特別是在敏感領域如放射學,必須謹慎評估其輸出。 PubMed DOI

這篇文章探討了工業基礎模型(IFMs)的出現,作為對通用基礎模型在專業環境中限制的回應。文章介紹了IFMsys系統架構,包含三個主要部分:模型訓練、模型適應和模型應用。模型訓練透過多模態工業數據進行預訓練並微調;模型適應則進一步微調以符合特定任務;模型應用則建立以代理為中心的協作系統,增強工業產品的生命周期。此外,還提到MetaIndux原型系統及其在工業任務中的應用,並強調未來研究方向及未解決問題。 PubMed DOI

這篇論文探討大型語言模型(LLMs),如GPT-4o,對科學發現的影響,特別是在假設生成方面。作者展望未來,學術界將更多利用這些模型來提升研究效率。文章提出的核心問題是如何加速科學發現,並識別了兩個挑戰:有效利用模型知識及評估其研究效能。作者提出知識驅動的想法鏈(KG-CoI)來生成假設,以及IdeaBench進行可自訂的基準測試,目的是激發創新,促進人類與人工智慧的合作。 PubMed DOI

這篇論文強調地理空間基礎模型在公共與環境健康中的潛力,特別是在數位健康監測方面。傳統模型多集中於文本,卻忽略了地理空間特徵如空間關係和流動性。作者討論了最新進展,指出這些模型能提升健康監測與評估的機會,同時也提到納入地理空間背景的挑戰及倫理考量。最後,論文主張發展多模態地理空間基礎模型,以開啟數位健康研究的新可能性。 PubMed DOI

基礎模型像 ChatGPT 這類 AI,現在也被用在化學領域,幫忙解決材料發現、結構和性質預測等難題。這些模型能克服資料不足和泛化能力差的問題,展現很大潛力。這篇綜述整理了最新進展、趨勢,還有未來在化學研究上的發展方向。 PubMed DOI

大型語言模型正帶動材料科學革新,讓自動化材料發現成真,像是資料擷取、性質預測都更有效率。不過,目前還有專業知識整合不夠、資源消耗大等問題。未來要加強LLM的適應性、效率和可信度,才能讓這些技術在實際應用上更可靠、更公平。 PubMed DOI