A GPT-based EHR modeling system for unsupervised novel disease detection.
基於 GPT 的電子健康紀錄建模系統用於無監督新疾病檢測。 J Biomed Inform 2024-08-09

這項研究開發了一個基於人工智慧的異常檢測模型，幫助醫療人員識別新型疾病並防止疫情擴散。模型使用來自麻薩諸塞州一所醫院的120,714名住院病人數據，基於生成預訓練變壓器（GPT）架構，並透過經驗風險最小化進行訓練。它分析電子健康紀錄，檢測不尋常的病人特徵，並在COVID-19疫情初期成功預測住院情況，達到92.2%的準確率。該模型在異常檢測和死亡預測上表現優異，顯示出在現代醫療中的潛力。 PubMed DOI

Large Language Models for Synthetic Tabular Health Data: A Benchmark Study.
合成表格健康數據的大型語言模型：基準研究。 Stud Health Technol Inform 2024-08-23

這篇論文探討基於變壓器的大型語言模型（LLMs）在生成合成表格健康數據的有效性，並與生成對抗網絡（GANs）進行比較，這對遵循隱私法規的醫療研究非常重要。研究分析了Pythia LLM Scaling Suite，模型參數從1400萬到10億，結果顯示較大的LLM在性能上優於GAN，甚至最小的LLM也能達到相似效果。此外，訓練數據集大小與模型性能呈正相關。論文還討論了在醫療領域實施LLM的挑戰與考量。 PubMed DOI

AdversaFlow: Visual Red Teaming for Large Language Models with Multi-Level Adversarial Flow.
AdversaFlow：針對大型語言模型的多層對抗流可視化紅隊測試。 IEEE Trans Vis Comput Graph 2024-09-16

這篇論文介紹了AdversaFlow，一個視覺分析系統，旨在提升大型語言模型（LLMs）對抗攻擊的安全性。它探討了LLMs可能生成誤導性資訊及促進不道德活動的問題。傳統的AI漏洞識別方法過於依賴專業知識，限制了效果。 AdversaFlow透過人機協作和對抗性訓練來增強識別能力，並具備創新的視覺化功能，幫助專家理解對抗動態。論文中提供了定量評估和案例研究，顯示AdversaFlow能有效提升LLM的安全性，特別在社交媒體監管等應用上，能幫助檢測和減輕有害內容。 PubMed DOI

Harnessing AI and analytics to enhance cybersecurity and privacy for collective intelligence systems.
利用人工智慧和分析技術增強集體智慧系統的網絡安全與隱私。 PeerJ Comput Sci 2024-09-24

這項研究探討人工智慧、大數據分析與網路安全的交集，特別是如何透過創新方法增強安全性與隱私。研究強調自然語言處理在提升資訊安全的潛力，並評估平衡數據效用與個人隱私的技術。重要貢獻是提出一種新穎的惡意軟體檢測方法，利用深度學習技術，將惡意檔案轉換為灰階圖像進行分析，達到99.86%的檢測準確率。研究結果顯示深度學習在揭示複雜系統隱藏模式的有效性，推進計算安全領域的發展。 PubMed DOI

CIPHER: Cybersecurity Intelligent Penetration-Testing Helper for Ethical Researcher.
CIPHER：為倫理研究者提供的網絡安全智能滲透測試助手。 Sensors (Basel) 2024-11-09

CIPHER是一款專為滲透測試設計的AI語言模型，旨在協助網路安全領域的專業人士，特別是初學者。它基於300多個高品質資源進行訓練，並採用FARR流程來提升自動化滲透測試的準確性。CIPHER在性能評估中表現優於其他開源模型，尤其在複雜的環境中更顯優勢，顯示出大型語言模型在滲透測試中的局限性。透過進一步擴展和精煉基準，CIPHER的效能還有望持續提升。 PubMed DOI

Investigating generative AI models and detection techniques: impacts of tokenization and dataset size on identification of AI-generated text.
探討生成式 AI 模型及檢測技術：標記化和數據集大小對識別 AI 生成文本的影響。 Front Artif Intell 2024-12-04

這項研究探討了生成式 AI 模型（如 ChatGPT、Gemini 和 Claude）在 K-12 教育中的應用，強調其在各科目的優勢，並討論學術不誠實的倫理問題。研究使用傳統機器學習模型和大型語言模型來檢測高風險寫作評估中的 AI 生成內容，並評估檢測方法的效果，考慮改寫工具的影響。研究還引入新方法，利用同義詞資訊識別人性化的 AI 文字，並探討數據集大小對模型表現的影響，以指導未來的數據收集。 PubMed DOI

Mitigating adversarial manipulation in LLMs: a prompt-based approach to counter Jailbreak attacks (Prompt-G).
減輕大型語言模型中的對抗性操控：一種基於提示的對策以應對 Jailbreak 攻擊 (Prompt-G)。 PeerJ Comput Sci 2024-12-09

大型語言模型（LLMs）雖然在文本生成和對話式AI上帶來革命，但也伴隨著安全風險，如越獄攻擊，可能被惡意利用來散播錯誤資訊。為了解決這些問題，Prompt Guarding（Prompt-G）利用向量資料庫和嵌入技術來評估生成文本的可信度，並即時檢測有害內容。經過分析自我提醒攻擊的數據集，Prompt-G 成功降低了越獄攻擊的成功率至 2.08%。該模型的源代碼可在這裡找到：https://doi.org/10.5281/zenodo.13501821。 PubMed DOI

Obfuscated Malware Detection and Classification in Network Traffic Leveraging Hybrid Large Language Models and Synthetic Data.
利用混合大型語言模型和合成數據進行網絡流量中的模糊惡意軟體檢測與分類。 Sensors (Basel) 2025-01-11

這篇論文探討Android惡意軟體檢測的挑戰，特別是因為Android系統普及和隱私問題導致的流量數據不足。它提出了一個名為Syn-detect的兩步驟智慧感知模型，利用大型語言模型（LLMs）來生成和分類網路流量中的惡意軟體。首先，使用GPT-2生成合成的TCP惡意流量數據，然後用微調過的BERT模型進行分類。Syn-detect在CIC-AndMal2017和CIC-AAGM2017數據集上表現優異，準確率分別達99.8%和99.3%，顯示出其在行動安全上的有效性。 PubMed DOI

Enhancing Security Operations Center: Wazuh Security Event Response with Retrieval-Augmented-Generation-Driven Copilot.
增強安全運營中心：Wazuh 安全事件響應與檢索增強生成驅動的助手。 Sensors (Basel) 2025-02-13

隨著網路威脅越來越複雜，安全運營中心（SOCs）需要更先進的工具來應對事件。我們開發了安全事件回應助手（SERC），幫助分析師更有效地處理安全漏洞。SERC結合了檢索增強生成（RAG）方法和大型語言模型（LLM）來指導事件回應。透過Wazuh這個開源SIEM平台，SERC能即時收集安全事件數據，並從事件回應知識、MITRE ATT&CK框架及NIST網路安全框架中提取見解，提升對手識別與風險管理的準確性。研究顯示，結合結構化威脅情報與AI模型能有效應對當前的網路安全挑戰。 PubMed DOI

Large scale summarization using ensemble prompts and in context learning approaches.
大型摘要生成：使用集成提示和上下文學習方法。 Sci Rep 2025-03-26

資訊保障和網路安全隨著科技進步和威脅複雜化而不斷演變。本研究利用大型語言模型和自然語言處理技術，分析1967年至2024年的文獻，資料來自62,000多份Scopus文件。研究分為兩個階段：主題檢測和自動摘要，並針對不同時間區間進行分析。結果顯示，綜合方法在關鍵字定義任務中有顯著改進，生成的摘要在多項指標上表現優異，並保持書目參考的邏輯完整性，突顯資訊保障的焦點轉變及未來趨勢。 PubMed DOI

原始文章

站上相關主題文章列表