原始文章

這項研究提出了一個新框架,結合本體知識與抽象文本摘要,提升新聞文章的摘要質量與相關性。傳統的提取式摘要常常內容過於一般化且不準確,因為缺乏專業知識。這個新方法透過本體知識微調摘要過程,產生更準確且具上下文的摘要。評估結果顯示,這個框架的表現超越了BART、BERT和GPT-3.5,ROUGE-1分數提高5.1%,ROUGE-L改善9.8%。整體來看,將本體見解融入摘要過程是一個有效的策略,能生成高質量的新聞摘要。 PubMed DOI


站上相關主題文章列表

研究指出,GPT-3.5和GPT-4處理臨床數據時,只需少量訓練數據即可提取有價值資訊。透過改進提示策略,可增進模型在臨床命名實體識別任務表現,減少大量標註數據需求。雖GPT模型在臨床應用有潛力,仍需進一步改進。研究結果凸顯了量身定制的提示框架重要性,以提高大型語言模型在臨床環境性能。 PubMed DOI

研究發現,大型語言模型在醫療保健領域有潛力,尤其在識別轉移性癌症患者方面。GPT-4表現最佳,提示和推理步驟清晰簡潔效果更好。即使改變輸入標記,GPT-4仍保持高準確性。建議透過策略性提示設計,GPT-4或許可取代專門模型,提升醫療應用。 PubMed DOI

研究發現,使用解凍的LLMs進行軟提示在GatorTron上表現最佳,勝過傳統微調和硬提示模型。當LLMs規模擴大時,凍結的LLMs也具競爭力,展現出良好少樣本學習和泛化能力。凍結模型不僅計算成本更低,還能跨機構應用。 PubMed DOI

OpenMedLM是一個開源的醫學語言模型,在醫學基準測試中表現優異,且無需大量微調。透過提示策略,OpenMedLM在三個醫學語言模型基準測試中取得領先地位,超越其他模型。這顯示開源基礎模型在提升醫療任務表現方面具有潛力,同時也凸顯提示工程對於醫學應用中易用的語言模型的重要性。 PubMed DOI

從生物醫學文獻中提取準確資訊相當複雜,因為這個領域跨學科且術語專業。早期的自然語言處理(NLP)方法常常無法掌握語言的細微差別,導致錯誤答案。隨著變壓器模型的出現,大型語言模型(LLMs)在問答任務中表現改善,但仍面臨挑戰,經常產生「幻覺」信息。我們的研究透過增強檢索架構來提升LLMs在生物醫學問答中的表現,並開發了問答機器人WeiseEule,強調用戶查詢信號的重要性,改善了回應的準確性和相關性。 PubMed DOI

最近大型語言模型和提示工程的進展,讓自訂聊天機器人變得更容易,不再需要程式設計技能。不過,進行大規模的提示評估仍然很具挑戰性。我們的研究確定了五個關鍵挑戰,並提出了一個以特徵為導向的提示評估工作流程,特別針對文本摘要,強調根據摘要特徵來評估提示,而非僅依賴傳統指標。為了支持這個流程,我們推出了Awesum,一個視覺分析系統,幫助用戶識別最佳提示改進。我們的測試顯示,Awesum能有效幫助非技術用戶進行系統性評估,並可應用於其他自然語言生成任務。未來建議專注於大型語言模型的特徵導向評估。 PubMed DOI

這項研究探討了創建有效摘要的挑戰,目的是在細節與可讀性之間取得平衡。研究提出了一種名為「密度鏈」(CoD)的方法,利用GPT-4生成初步摘要,然後逐步添加重要資訊,卻不增加整體長度。這樣的摘要更具抽象性,且對引導性資訊的偏見較少。針對100篇CNN DailyMail文章的研究顯示,讀者更偏好密度較高的CoD摘要,認為其效果接近人類撰寫的摘要。研究提供了500個註解的CoD摘要及5,000個未註解的摘要,資料可在HuggingFace上使用。 PubMed DOI

這篇摘要介紹了一種名為語義知識調整(SK-Tuning)的方法,旨在提升大型語言模型(LLMs)的表現。SK-Tuning專注於有意義的詞彙,利用模型的語義理解來改善任務表現。這種方法不僅訓練速度更快,還減少了參數需求,並在文本分類和理解等任務中表現優異,顯示出相較於傳統調整方法的潛在優勢。這項創新策略有望顯著提升LLMs在各種語言處理應用中的效率與效果。 PubMed DOI

這項研究評估了六種不同的少量樣本提示方法,針對大型語言模型在Spider4SPARQL基準測試中的表現,該測試專注於複雜的SPARQL知識圖譜問答。實驗分為兩組,第一組檢視基於樣本數量或類型的提示方法,第二組則探討如何透過LLM生成的解釋來優化提示。結果顯示,商業模型在KGQA的準確率不超過51%,顯示處理複雜查詢的挑戰。最有效的方法是結合簡單提示與本體,並使用五個隨機樣本。 PubMed DOI

資訊保障和網路安全隨著科技進步和威脅複雜化而不斷演變。本研究利用大型語言模型和自然語言處理技術,分析1967年至2024年的文獻,資料來自62,000多份Scopus文件。研究分為兩個階段:主題檢測和自動摘要,並針對不同時間區間進行分析。結果顯示,綜合方法在關鍵字定義任務中有顯著改進,生成的摘要在多項指標上表現優異,並保持書目參考的邏輯完整性,突顯資訊保障的焦點轉變及未來趨勢。 PubMed DOI