Large Language Models in Otolaryngology Residency Admissions: A Random Sampling Analysis.
大型語言模型在耳鼻喉科住院醫師招生中的應用：隨機抽樣分析。 Laryngoscope 2024-08-19

這項研究探討耳鼻喉科住院醫師選拔中，人工智慧模擬的決策是否受到人口統計偏見影響。研究使用OpenAI的GPT-4和GPT-4o模擬選拔委員會的決策，結果顯示RSC成員在種族、性別和性取向上存在偏見，特別偏好與自己相似的申請者。最新的ChatGPT-4o則顯示出對黑人女性和LGBTQIA+申請者的偏好，強調在選拔過程中需注意和減少這些偏見，以確保未來醫療人力的多樣性和代表性。 PubMed DOI

Cultural bias and cultural alignment of large language models.
大型語言模型的文化偏見與文化對齊。 PNAS Nexus 2024-09-18

這項研究探討生成式人工智慧模型中的文化偏見，特別是五個版本的OpenAI語言模型如何影響使用者表達並強化主導文化價值觀。研究發現，這些模型多反映英語系和新教歐洲國家的文化。為解決這問題，研究人員測試了一種叫做文化提示的方法，結果顯示這方法能改善後期模型（如GPT-4）在71-81%的評估地區的文化一致性。研究建議持續使用文化提示和評估，以減少生成式人工智慧中的文化偏見。 PubMed DOI

Explicitly unbiased large language models still form biased associations.
明確無偏的大型語言模型仍然形成偏見聯想。 Proc Natl Acad Sci U S A 2025-02-20

這項研究指出，雖然大型語言模型（LLMs）在明確的社會偏見測試中表現良好，但它們仍可能隱藏著類似人類的偏見。研究人員提出了兩種新方法來測量這些隱性偏見：LLM詞彙聯想測試和LLM相對決策測試。結果顯示，在種族、性別、宗教和健康等四個社會類別中，八個價值對齊的模型仍存在顯著的刻板印象偏見，顯示這些模型雖然在標準評估中看似無偏，但實際上反映了社會偏見。 PubMed DOI

Exploring Biases of Large Language Models in the Field of Mental Health: Comparative Questionnaire Study of the Effect of Gender and Sexual Orientation in Anorexia Nervosa and Bulimia Nervosa Case Vignettes.
探索大型語言模型在心理健康領域的偏見：針對厭食症和暴食症案例小品中性別和性取向影響的比較問卷研究。 JMIR Ment Health 2025-03-20

大型語言模型（LLMs）在心理健康評估中的應用日益普遍，但對其準確性和公平性仍有疑慮，特別是社會偏見和某些族群的代表性不足。本研究聚焦於厭食症和暴食症，特別是男性，尤其是同性戀男性在這方面的研究常被忽視。研究發現，ChatGPT-4在健康相關生活品質的評估中對男性存在顯著性別偏見，男性分數低於女性，卻缺乏實證支持。這些結果顯示LLM在心理健康評估中可能存在偏見，強調需理解並減少這些偏見，以確保診斷和治療的負責任使用。 PubMed DOI

Comparing diversity, negativity, and stereotypes in Chinese-language AI technologies: an investigation of Baidu, Ernie and Qwen.
比較中文AI技術中的多樣性、負面性和刻板印象：對百度、Ernie和Qwen的調查。 PeerJ Comput Sci 2025-03-26

這項研究探討了中國的人工智慧工具偏見，特別是百度搜尋引擎及兩個大型語言模型（LLMs）Ernie和Qwen。研究分析了240個社交群體的數據，發現LLMs的觀點比百度更廣泛，但百度和Qwen產生負面內容的頻率高於Ernie。結果顯示語言模型中存在中等程度的刻板印象，可能會助長有害的看法。研究強調在推動全球人工智慧發展時，公平性和包容性的重要性。 PubMed DOI

Measuring gender and racial biases in large language models: Intersectional evidence from automated resume evaluation.
測量大型語言模型中的性別和種族偏見：來自自動化履歷評估的交叉證據。 PNAS Nexus 2025-03-27

研究顯示，基於人工智慧的決策，特別是大型語言模型（LLMs），在評估求職者時存在顯著偏見。約361,000份履歷被評估後發現，女性候選人通常獲得較高評分，而黑人男性則常被低估，儘管他們的資格相似。這導致聘用機率出現1-3個百分點的差異，且在不同職位和群體中一致。這突顯了進一步調查偏見成因及發展減輕策略的必要性，以促進社會公平。 PubMed DOI

Detecting implicit biases of large language models with Bayesian hypothesis testing.
使用貝葉斯假設檢驗檢測大型語言模型的隱性偏見。 Sci Rep 2025-04-11

這篇論文探討大型語言模型（LLMs）中的社會偏見問題，提出一個新框架，將偏見檢測視為假設檢驗。虛無假設表示沒有隱性偏見，並使用二元選擇問題來評估開源和專有LLMs的偏見。研究涵蓋ChatGPT、DeepSeek-V3和Llama-3.1-70B等模型，使用的數據集包括BBQ和CrowS-Pairs。結果顯示，貝葉斯因子能更有效地量化偏見，並且LLMs在英法數據集中的偏見行為通常一致，微小變異可能源於文化差異。 PubMed DOI

Evaluation and Bias Analysis of Large Language Models in Generating Synthetic Electronic Health Records: Comparative Study.
大型語言模型在生成合成電子健康紀錄的評估與偏誤分析：比較性研究 J Med Internet Res 2025-05-12

這項研究評估7種大型語言模型產生的14萬筆合成電子健康紀錄，發現模型越大，資料越完整，但性別和種族偏見也越明顯。性別偏見多反映現實疾病分布，種族偏見則不一致，部分模型高估White或Black患者，低估Hispanic和Asian族群。研究強調AI健康資料需兼顧準確性與公平性，並呼籲建立更完善的偏見評估標準。 PubMed DOI

Potential to perpetuate social biases in health care by Chinese large language models: a model evaluation study.
中國大型語言模型在醫療保健中延續社會偏見的潛在風險：一項模型評估研究 Int J Equity Health 2025-07-15

三款中國熱門大型語言模型（Qwen、Erine、Baichuan）在臨床應用時，對性別、族群、收入和健保狀態都有明顯偏見，常高估男性、高收入和有保險者，低估少數族群及低收入者。這些偏見會影響醫療教育、診斷和治療建議，因此持續檢視並減少偏見非常重要。 PubMed DOI

What social stratifications in bias blind spot can tell us about implicit social bias in both LLMs and humans.
偏見盲點中的社會階層化對於隱性社會偏見在人類與大型語言模型（LLMs）中的啟示 Sci Rep 2025-08-19

TL;DR：大型語言模型（像ChatGPT）不只會有明顯的社會偏見，也會出現像人類一樣的隱性偏見，這些偏見常常不容易被發現。研究發現，AI和人類都會對社經地位較低的人有負面看法，而且AI的偏見更嚴重。大家也比較難察覺AI的偏見，卻比較容易發現自己的。要讓AI負責任地使用，這些偏見問題一定要正視。 PubMed DOI

原始文章

站上相關主題文章列表