大型語言模型（LLMs）從它們的訓練數據中學習模式，例如開放的互聯網，讓研究人員能夠探索人類溝通中存在的文化細微差異。 PubMed DOI

研究指出，使用大型語言模型（LLMs）取代人類受試者進行數據收集，引入了新方法「number needed to beat」（NNB），用來評估人類數據質量與頂尖LLM如GPT-4相比的差距。實驗結果顯示，在英語任務中，NNB大於1，但各任務有所不同。結合LLM和人類數據的「centaur」方法被證實比單獨使用更有效。研究考量了數據成本和質量的權衡，建議此框架可協助判斷何時以及如何運用LLM生成的數據。 PubMed DOI

LLMs在社交網絡中可能造假，影響社會。為了解決問題，提出一方法模擬和量化LLMs散播虛假資訊情況。考慮個人行為、網絡結構和社群關係等因素。透過真實數據和不同情境評估，協助制定對抗LLMs散播虛假資訊策略。 PubMed DOI

這項研究的重點在於將大型語言模型的推理能力壓縮成參數較少的小型語言模型，讓它們更容易使用且不影響性能。作者提出了一種新方法，稱為思維方程蒸餾，透過方程式捕捉推理過程，並建立微調小型模型的數據集。此外，他們還提出集成思維蒸餾框架，結合多種思維過程來提升小型模型的推理能力。實驗結果顯示，這些方法顯著提升了小型模型的推理表現。 PubMed DOI

目前增強大型語言模型的策略主要是透過擴大模型規模、數據量和計算能力，並進行後處理和微調。然而，這樣的調整可能會影響模型的可靠性。我們的研究發現，雖然模型在簡單任務上表現不錯，但在低難度領域的準確性卻不穩定，特別是人類監督能夠發現的錯誤。早期模型常避免回答，而新模型則可能給出看似合理但實際錯誤的回應。這顯示出對通用人工智慧的重新設計是必要的，尤其是在需要可預測錯誤的應用中。 PubMed DOI

大型語言模型（LLMs）因應用廣泛而受到重視，但其訓練和部署的計算需求也隨之增加。記憶電阻交叉陣列（memristor crossbars）因其小巧和高能效，成為解決方案，特別適合計算機視覺任務。然而，將LLMs部署在此技術上面臨三大挑戰：1. LLM增長超出記憶電阻晶片能力；2. 多頭注意力區塊需非靜態乘法，傳統技術無法處理；3. 複雜非線性運算表現不佳。為解決這些問題，我們提出新架構，能在單晶片上部署LLMs，測試顯示準確度損失極小，並顯著降低能量消耗。 PubMed DOI

大型語言模型（LLMs）能生成類似人類的高品質文本，對資訊生態系統影響深遠。為了防止濫用，水印技術可用於識別合成文本，但因質量和檢測性等挑戰，尚未普遍應用。這篇論文介紹了SynthID-Text，一種專為生產設計的水印方案，能在不影響文本質量的情況下，實現高檢測準確率。實驗顯示，SynthID-Text在可檢測性上優於其他方法，並保持LLM性能，作者希望能推動水印技術的發展，促進負責任的LLM使用。 PubMed DOI

大型語言模型（LLMs）在研究和商業應用中越來越受重視，現在的趨勢是使用參數高效微調（PEFT）方法來開發較小的專用模型，而不需完全微調。研究發現，LoRA在各種任務中表現優異，常與完全微調的模型相當，顯示PEFT方法在臨床決策中有效，特別適合低成本運算。小型模型的優勢如快速處理和低訓練成本，超越大型LLMs的性能。此外，領域特定的預訓練對小型模型也相當重要。完整代碼可在GitHub上找到。 PubMed DOI

大型語言模型（LLMs）的環境影響引發了不同看法。一些研究指出，訓練和使用LLMs會產生顯著的碳足跡，而另一些則認為LLMs可能比傳統方法更可持續。我們的分析顯示，儘管LLMs對環境有影響，但在美國，它們的效率可能高於人力勞動。經濟考量可能促使人類與LLMs共同工作，而非單純取代。隨著LLMs規模增長，能源消耗可能上升，這凸顯了持續研究以確保其可持續性的重要性。 PubMed DOI

這項研究探討如何提升大型語言模型（LLMs）在處理表格數據的表現，重點在三個策略：小數截斷、多數據集混合和隨機排列JSON鍵值對。結果顯示，小數截斷能減少噪音，提高學習效率；混合數據集增強模型的泛化能力和穩定性；隨機排列鍵值對則提升模型對不同數據結構的適應性。這些策略顯著改善了LLMs的穩健性和有效性，為未來的研究提供了重要的見解和方法。 PubMed DOI