A neural network solves, explains, and generates university math problems by program synthesis and few-shot learning at human level.
神經網絡通過程序合成和少樣本學習以人類水平解決、解釋和生成大學數學問題。 Proc Natl Acad Sci U S A 2022-09-27

神經網路經過預先訓練後微調，可以像人一樣解數學問題、解釋答案並出題。使用少量樣本學習和OpenAI的Codex transformer，在解決課程問題上達到81%的自動準確率。數據集包含麻省理工和哥倫比亞大學的數學問題，以及各種高級數學主題的MATH數據。這種方法在解決大學級問題上優於GPT-3，顯著提高了自動解決準確性。透過評估，展示了自動解決、解釋和出題大學級數學問題的能力，是高等教育的一大進展。 PubMed DOI

Emergent analogical reasoning in large language models.
大型語言模型中的緊急類比推理。 Nat Hum Behav 2023-09-27

這項研究比較了人類推理與一個大型語言模型（GPT-3）在類比任務上的表現，發現GPT-3在抽象模式歸納方面表現出色，有時甚至超越了人類。研究結果顯示，像GPT-3這樣的模型已經發展出解決類比問題的能力，而無需直接訓練。 PubMed DOI

Inductive reasoning in minds and machines.
心智與機器中的歸納推理。 Psychol Rev 2023-09-21

歸納能力對智慧至關重要，但現有模型僅適用於簡單問題。結合大型語言模型與認知心理學理論，有助於更深入理解人類的歸納能力。研究顯示這種整合方法有潛力複製人類對各種歸納論證的反應。結果凸顯結合心理學理論與人工智慧方法，能有效模擬複雜的人類認知。 PubMed DOI

Dissociating language and thought in large language models.
大型語言模型中語言和思維的分離。 Trends Cogn Sci 2024-03-20

大型語言模型（LLMs）在理解語言方面有進展，但在語言能力和認知方面看法不同。研究評估LLMs的形式語言能力和功能語言能力，人類神經科學顯示這兩種能力依賴不同神經機制。LLMs在形式能力表現優異，但在功能任務上表現不穩，可能需要額外調整或外部模組。為了達到人類般的語言使用，模型可能需掌握兩種能力，並提供專門機制。 PubMed DOI

Generative Retrieval-Augmented Ontologic Graph and Multiagent Strategies for Interpretive Large Language Model-Based Materials Design.
生成檢索增強本體圖和多智能體策略用於解釋基於大型語言模型的材料設計。 ACS Eng Au 2024-04-22

Transformer神經網絡，特別是大型語言模型(LLMs)，在材料分析、設計和製造上很有效。它們能處理各種數據，支持工程分析，像MechGPT在材料力學領域表現出理解能力。檢索增強的本體知識圖表等策略可提高生成性能，解決困難。這些方法在材料設計探索中有優勢，並提供見解。非線性取樣和基於代理的建模增強生成能力，改進內容生成和評估。例如，問答、代碼生成和自動生成力場開發。 PubMed DOI

Language models, like humans, show content effects on reasoning tasks.
語言模型，就像人類一樣，在推理任務上展現出內容效應。 PNAS Nexus 2024-07-17

推理對智慧系統很重要。大型語言模型在抽象推理上表現不錯，但也有缺陷。人類推理受現實世界影響，當問題支持邏輯時，推理更可靠。語言模型和人類展現相似推理模式。研究顯示兩者在準確性和信心上相似，但在某些任務上有差異，如Wason選擇。了解這些可提供對人類認知和語言模型的洞察。 PubMed DOI

A functional contextual, observer-centric, quantum mechanical, and neuro-symbolic approach to solving the alignment problem of artificial general intelligence: safe AI through intersecting computational psychological neuroscience and LLM architecture for emergent theory of mind.
一個功能性背景、觀察者中心、量子力學及神經符號學的方法來解決人工通用智慧的對齊問題：透過交叉計算心理神經科學和LLM架構實現安全AI，以促進心智理論的出現。 Front Comput Neurosci 2024-08-23

最近，自然語言處理（NLP）領域的進展主要受到變壓器模型的影響，這些模型透過注意力機制分析標記間的關係，生成回應。然而，關於這些模型是否能促進人工通用智慧（AGI）及解決對齊問題仍有爭論。研究人員認為AGI需具備可解釋的價值觀、效用函數及動態情境理解。為此，提出一種神經符號模型，結合進化理論與神經科學，探索AI的意識與同理心，並可能為對齊問題提供解決方案。 PubMed DOI

Studying and improving reasoning in humans and machines.
研究與改善人類和機器的推理能力。 Commun Psychol 2024-09-06

這項研究探討大型語言模型（LLMs）與人類的推理能力，使用有限理性的認知心理學工具進行比較。實驗中，我們分析了人類參與者和不同預訓練LLMs在經典認知任務上的表現。結果顯示，許多LLMs的推理錯誤與人類相似，且受到啟發式影響。然而，深入分析後發現，人類與LLMs的推理存在顯著差異，較新的LLMs表現出更少的限制。雖然可以提升表現的策略存在，但人類和LLMs對提示技術的反應卻不同。我們討論了這些發現對人工智慧及認知心理學的意義，特別是在比較人類與機器行為的挑戰上。 PubMed DOI

Untrained neural networks can demonstrate memorization-independent abstract reasoning.
未訓練的神經網絡可以展現不依賴記憶的抽象推理。 Sci Rep 2024-11-08

這項研究探討了人工神經網絡（ANNs）在沒有先前訓練的情況下進行抽象推理的潛力，並針對其依賴過去數據的問題進行分析。研究人員利用問題數據來優化簡單網絡的權重，並應用於視覺推理任務。結果顯示，該模型能有效解決問題，無需依賴過去範例。此外，研究還探討了ANNs解題與知識積累的關係，提出了一種新機制，說明這些網絡如何在推理任務中即時適應與學習。 PubMed DOI

Exploring the reversal curse and other deductive logical reasoning in BERT and GPT-based large language models.
探索 BERT 和 GPT 基礎的大型語言模型中的逆轉詛咒及其他演繹邏輯推理。 Patterns (N Y) 2024-11-21

「反轉詛咒」突顯了自回歸解碼器模型（如GPT）的限制，這些模型在推斷關係時常常遇到困難，例如從「A是B」推斷「B是A」。這引發了對它們在知識圖譜構建等任務中的有效性擔憂。相對而言，雙向模型如BERT則不會面臨這個問題。我們的研究進一步探討了演繹推理，發現雖然這兩種模型在處理兩個集合時表現良好，但在三個集合的運算上卻有困難。因此，選擇BERT或GPT應根據具體任務需求，利用各自的優勢。 PubMed DOI

原始文章

站上相關主題文章列表