機器學習在社會扮演重要角色，推動技術進步如Alphago和ChatGPT，已整合到消費品如智慧手機和自駕車。儘管人工神經網路廣泛使用，但因模型配置和數據嘈雜，理解仍有挑戰。新數學框架將神經網路表現與特性聯繫，可用早期數據預測模型表現。框架引入神經容量指標，評估模型泛化能力，優於現有方法。 PubMed DOI

討論了大型AI模型和龐大數據的崛起，摩爾定律接近極限，需求替代計算，以及受到大腦啟發的神經形態計算潛力。透過光電子器件推動光子計算增長，實現低延遲和高並行性的超快AI神經網絡。檢視了神經形態光子AI加速器中的PCSEL激光等技術，提出創新途徑增強計算速度和能源效率。光子神經形態系統有望改變AI和科學計算。 PubMed DOI

大型語言模型（LLMs）因應用廣泛而受到重視，但其訓練和部署的計算需求也隨之增加。記憶電阻交叉陣列（memristor crossbars）因其小巧和高能效，成為解決方案，特別適合計算機視覺任務。然而，將LLMs部署在此技術上面臨三大挑戰：1. LLM增長超出記憶電阻晶片能力；2. 多頭注意力區塊需非靜態乘法，傳統技術無法處理；3. 複雜非線性運算表現不佳。為解決這些問題，我們提出新架構，能在單晶片上部署LLMs，測試顯示準確度損失極小，並顯著降低能量消耗。 PubMed DOI

這篇論文介紹了ChatDiff，一種新穎的信息增強方法，旨在解決深度學習中的長尾數據問題。長尾分佈會導致某些類別數據稀缺，影響模型學習。ChatDiff透過從ChatGPT-3.5提取知識，增強這些類別的特徵，並利用條件擴散模型生成多樣化的正樣本，同時過濾掉負樣本以提升分類性能。實驗結果顯示，ChatDiff在多個長尾數據集上有效改善了代表性不足類別的分類效果。 PubMed DOI

大型語言模型（LLMs）在藥物傳遞材料設計中展現潛力。我們使用Hugging Face的Transformers套件，透過BigBird、Gemma和GPT NeoX等架構進行預訓練和微調，並結合化學家的指導進行優化。研究結果顯示，整合化學見解對於提升模型性能至關重要。我們設計了光響應藥物傳遞分子，並探討了人類反饋在強化學習中的角色。最終，我們建立了一個高效的設計流程，但缺乏專門數據集仍是挑戰。 PubMed DOI

大型語言模型（LLMs）在各領域表現出色，但其龐大的參數數量帶來了可擴展性挑戰，如高訓練成本和能量消耗。本文探討「專家混合」（MoEs）網路，透過條件計算來管理計算需求，並保持大量參數。重點在於將MoEs應用於基於三維非揮發性記憶體的類比內存計算硬體上，解決傳統模型的瓶頸。模擬結果顯示，MoEs的條件計算機制能降低推理成本，提升可及性和能量效率。 PubMed DOI

深度神經網絡（DNNs）如卷積神經網絡和變壓器模型的進展，雖然提升了人工智慧的應用能力，但也增加了計算和數據需求，對脈衝陣列加速器造成挑戰。傳統上，這些加速器採用擴大和擴展兩種策略，但無法同時達到高性能和能源效率。為了解決這個問題，我們提出了一種混合方法，結合兩者優勢，能在多租戶環境中優化DNN操作。實驗結果顯示，這種混合加速器能將能耗降低8%，吞吐量提高57%，相較於TPUv3表現更佳。 PubMed DOI

PRIME 是一種模仿大腦運作的神經網路技術，結合脈衝神經網路和 memristor 硬體，能有效提升能源效率和適應力。它會根據輸入內容自動提早停止運算，減少延遲和運算量，同時維持準確度。跟傳統方法比，PRIME 更省電，也更能抵抗硬體雜訊。 PubMed DOI

**重點摘要：** 大型語言模型（LLMs）可以協助非專業人士設計奈米光子元件，例如多層薄膜和超表面，透過對話互動來模擬光學反應並產生最佳化設計。將LLMs用相關資料進行微調後，能進一步提升它們依照需求產生設計的能力，讓奈米光子設計變得更快速、更容易上手。 PubMed DOI

這項研究開發出全新近感測邊緣運算（NSEC）硬體，利用雙層AlN/Si光子平台，能在裝置端即時又省電地跑AI。系統結合AlN微環共振器做特徵擷取，Si光子電路跑神經網路，手勢和步態辨識都很準，延遲超低（小於10奈秒）、能耗極省（小於0.34皮焦耳）。這突破傳統AI高耗能限制，對醫療穿戴、機器人等應用很有幫助，也更重視隱私。 PubMed DOI