参考文献リストが嘘をつくとき：AIが「ハルシネーション」で生成した引用が、出版された研究論文に入り込んでいる

When Bibliographies Lie: AI “Hallucinated” Citations Are Infecting Published Research

AIが生成した架空の引用文献が学術論文に大量流入し、研究の信頼性を揺るがしている。出版社や研究者が迫られる対応とは。

分からないところをタップすると
↓日本語訳が表示されます↓

For years, the reference list was treated as the most mechanical part of a paper: tedious, technical, and faintly boring. In 2026, it has become a forensic crime scene. In an April 1, 2026, Nature feature, reporters described how AI-generated “hallucinated” citations — references that look scholarly but do not actually exist or are badly corrupted — are now appearing not only in drafts, but in published research itself. Nature’s analysis, conducted with Grounded AI, suggested that at least tens of thousands of 2025 scholarly publications probably contained invalid references generated by AI; one rough extrapolation put the figure above 110,000, though that estimate is necessarily tentative. (nature.com)

What makes the problem alarming is that it is no longer anecdotal. A January 2026 preprint examining ACL, NAACL, and EMNLP proceedings from 2024–25 found nearly 300 papers with at least one hallucinated citation, with more than 100 such papers in EMNLP 2025 alone. A February 2026 study of four major high-performance-computing conferences reported that 2–6% of 2025 papers contained “mysterious citations,” whereas none of the 2021 proceedings did. Another February 2026 preprint focused on NeurIPS 2025 identified 100 fabricated citations spread across 53 accepted papers, roughly 1% of all accepted submissions. (doi.org)

This is more than a bibliographic nuisance. Citations are the load-bearing beams of academic argument: they tell readers what evidence exists, whose work is being built upon, and whether a claim deserves trust. Once fake references seep into journals, conference proceedings, and books, they threaten to create a feedback loop in which later researchers cite ghosts, reviewers miss the fraud, and the literature slowly becomes harder to verify. That is why publishers are now exploring automated screening tools, while Springer Nature says that some papers with isolated AI-related reference errors may be corrected, but only if authors can clearly document what happened and show that the rest of the work remains reliable. (nature.com)

The emerging consensus is blunt: humans, not chatbots, bear responsibility. Springer Nature’s guidance says authors must verify and reference any AI-assisted output, and the ICMJE likewise states that authors are responsible for accurate citations and that AI-generated material should not be treated as a primary source. The age of effortless machine-written scholarship has arrived; the age of effortless trust, it seems, is over. (group.springernature.com)

会員登録して
読んだ語数を記録する

長年にわたり、参考文献リストは論文の中で最も機械的な部分として扱われてきた。退屈で、技術的で、どこか面白みのないものだと。2026年、それは科学捜査の犯罪現場となった。2026年4月1日のNature特集記事で、記者たちはAIが生成した「ハルシネーション」引用——学術的に見えるが実際には存在しない、あるいはひどく改変された参考文献——が、下書きだけでなく、出版された研究論文そのものにも現れていることを報じた。Grounded AIと共同で行われたNatureの分析によると、2025年の学術出版物のうち少なくとも数万件が、AIによって生成された無効な参考文献を含んでいる可能性が高く、ある大まかな外挿では11万件を超えるという数字が示されたが、この推計はあくまで暫定的なものである。(nature.com)

この問題を深刻にしているのは、もはや個別の逸話にとどまらないという点である。2026年1月のプレプリントでは、2024〜25年のACL、NAACL、EMNLPの会議論文を調査し、少なくとも1件のハルシネーション引用を含む論文が約300件見つかり、EMNLP 2025だけでも100件以上のそうした論文があった。2026年2月の研究では、主要な高性能コンピューティング関連の4つの学会を調査し、2025年の論文の2〜6%が「謎の引用」を含んでいたのに対し、2021年の会議論文にはそのようなものは一切なかったと報告された。さらに別の2026年2月のプレプリントでは、NeurIPS 2025に焦点を当て、採択された53本の論文にまたがる100件の捏造された引用が特定され、これは全採択論文のおよそ1%に相当する。(doi.org)

これは単なる書誌上の厄介事ではない。引用は学術的議論を支える耐荷重の梁である。それは読者に、どのような証拠が存在するのか、誰の研究の上に構築されているのか、そしてある主張が信頼に値するかどうかを伝えるものだ。偽の参考文献がジャーナル、学会論文集、書籍に浸透すると、後の研究者が幽霊を引用し、査読者が不正を見逃し、文献の検証がじわじわと困難になるというフィードバックループが生まれる恐れがある。だからこそ出版社は現在、自動スクリーニングツールの導入を模索しており、一方でSpringer Natureは、AI関連の参考文献エラーが個別的なものであれば修正が認められる場合もあるが、それは著者が何が起きたかを明確に記録し、残りの研究内容が信頼できるものであることを示せる場合に限ると述べている。(nature.com)

形成されつつあるコンセンサスは率直なものである。責任を負うのはチャットボットではなく、人間だということだ。Springer Natureのガイダンスでは、著者はAI支援による出力をすべて検証し、適切に参照しなければならないとされており、ICMJEも同様に、正確な引用に対する責任は著者にあり、AIが生成した素材を一次情報源として扱うべきではないと述べている。手間いらずの機械による学術執筆の時代は到来した。しかし、手間いらずの信頼の時代は、どうやら終わりを迎えたようだ。(group.springernature.com)

文法

●Shifted tense for present relevance: “For years, X was treated…” → “In 2026, it has become…” (past state vs. present-result perfect for a current situation that now holds).
●Hedging + evidentiality in academic prose: “suggested that…”, “probably contained…”, “one rough extrapolation put…”, “that estimate is necessarily tentative” (modals/adverbs + reporting verbs to manage certainty).
●Subordinate/cleft-style framing for emphasis: “What makes the problem alarming is that…” + causal sequencing with “Once…, they threaten to…” (fronting + ‘threaten to’ for projected consequence).

語彙

●forensic (adj.) — relating to scientific investigation (often of crime); here: treating references like evidence
●hallucinated (adj.) — (AI) generated content that appears plausible but is false
●corrupted (adj.) — damaged/garbled so it’s unreliable or unusable (e.g., corrupted references/data)
●extrapolation (n.) — estimating beyond known data; projecting a larger figure from a sample
●tentative (adj.) — provisional; not definite because evidence is incomplete
●preprint (n.) — a paper shared publicly before peer review
●proceedings (n.) — the published collection of conference papers
●fabricated (adj.) — invented; made up (esp. with intent to deceive)
●feedback loop (n.) — a self-reinforcing cycle where effects become causes and amplify the problem
●screening (n./adj.) — systematic checking to detect problems (e.g., automated screening tools)

表現・慣用句

●a forensic crime scene — metaphor: a situation requiring meticulous investigation and evidence-tracing
●anecdotal — used idiomatically in research discourse: “no longer anecdotal” = no longer based on isolated stories; now supported by data
●load-bearing beams (of academic argument) — extended metaphor: citations as structural supports; if they fail, the argument collapses
●seep into — metaphor: to enter gradually and unnoticed (like liquid), suggesting stealthy spread through publications
●cite ghosts — vivid metaphor: referencing non-existent sources, implying a haunted/illusory scholarly record

by EigoBoxAI
作成:2026/04/04 09:03
レベル:超上級 (語彙目安:8000語以上)

# 参考文献リストが嘘をつくとき：AIが「ハルシネーション」で生成した引用が、出版された研究論文に入り込んでいる
## When Bibliographies Lie: AI “Hallucinated” Citations Are Infecting Published Research

![thumbnail](https://eigobox.s3.ap-northeast-1.amazonaws.com/g/8216f951f62302e9f8cc4c752054ac94ebe73fe7.png)

---

[["For years,","長年にわたり"],["the reference list","参考文献リストは"],["was treated as","～として扱われていた"],["the most mechanical part","最も機械的な部分"],["of a paper:","論文の中で："],["tedious, technical,","退屈で、技術的で、】【"],["and faintly boring.","そしてどこか退屈なものと。"],["In 2026,","2026年には"],["it has become","それは～になった"],["a forensic crime scene.","法医学的な犯罪現場に。"],["In an April 1, 2026,","2026年4月1日の"],["Nature feature,","Nature誌の特集記事で"],["reporters described","記者たちは述べた"],["how AI-generated","AI生成による"],["\"hallucinated\" citations —","「幻覚」引用が——"],["references that look scholarly","学術的に見える参考文献で"],["but do not actually exist","しかし実際には存在しないか"],["or are badly corrupted —","あるいは著しく破損しているものが——"],["are now appearing","今や出現していると"],["not only in drafts,","草稿だけでなく"],["but in published research itself.","出版された研究そのものにも。"],["Nature’s analysis,","Nature誌の分析は"],["conducted with Grounded AI,","Grounded AIと共同で行われ、"],["suggested that","示唆した"],["at least tens of thousands","少なくとも数万の"],["of 2025 scholarly publications","2025年の学術出版物が"],["probably contained","おそらく含んでいたと"],["invalid references","無効な参考文献を"],["generated by AI;","AIによって生成された。"],["one rough extrapolation","ある大まかな外挿は"],["put the figure","その数字を"],["above 110,000,","11万以上としたが"],["though that estimate","その推定値は"],["is necessarily tentative.","あくまで暫定的である。"],["([nature.com](","（[nature.com]("],["https://www.nature.com/articles/d41586-026-00969-z","https://www.nature.com/articles/d41586-026-00969-z"],["))","）"],["What makes the problem alarming","この問題を憂慮すべきものにしているのは"],["is that it is","それがもはや"],["no longer anecdotal.","逸話的ではないということだ。"],["A January 2026 preprint","2026年1月のプレプリントは"],["examining ACL, NAACL,","ACL、NAACL、"],["and EMNLP proceedings","およびEMNLPの論文集を"],["from 2024–25","2024～25年の"],["found nearly 300 papers","約300本の論文を見つけた"],["with at least one","少なくとも1つの"],["hallucinated citation,","幻覚引用があるものを。"],["with more than 100","100本以上の"],["such papers","そのような論文が"],["in EMNLP 2025 alone.","EMNLP 2025だけで見つかった。"],["A February 2026 study","2026年2月の研究は"],["of four major","4つの主要な"],["high-performance-computing conferences","高性能計算（HPC）の学会について"],["reported that 2–6%","2～6%が含むと報告した"],["of 2025 papers contained","2025年の論文の"],["\"mysterious citations,\"","「不可解な引用」を"],["whereas none of","一方で～には一つもなかった"],["the 2021 proceedings did.","2021年の論文集には。"],["Another February 2026 preprint","別の2026年2月のプレプリントは"],["focused on NeurIPS 2025","NeurIPS 2025に焦点を当て"],["identified 100 fabricated citations","100件の捏造引用を特定した"],["spread across 53 accepted papers,","53本の採択論文にわたり、"],["roughly 1%","およそ1%"],["of all accepted submissions.","全採択投稿の。"],["([doi.org](","（[doi.org]("],["https://doi.org/10.48550/arXiv.2601.18724","https://doi.org/10.48550/arXiv.2601.18724"],["))","）"],["This is more than","これは単なる"],["a bibliographic nuisance.","書誌的な厄介事ではない。"],["Citations are","引用は"],["the load-bearing beams","耐荷重の梁である"],["of academic argument:","学術的議論の："],["they tell readers","読者に伝える"],["what evidence exists,","どのような証拠が存在するか、"],["whose work","誰の研究の上に"],["is being built upon,","構築されているのか、"],["and whether a claim","そしてある主張が"],["deserves trust.","信頼に値するかを。"],["Once fake references","偽の参考文献がいったん"],["seep into journals,","学術誌に浸透し、"],["conference proceedings, and books,","学会論文集や書籍に入り込むと、】【"],["they threaten to create","生み出す恐れがある"],["a feedback loop","フィードバックループを"],["in which later researchers","そこでは後続の研究者が"],["cite ghosts,","幽霊を引用し、"],["reviewers miss the fraud,","査読者が不正を見逃し、"],["and the literature","そして文献が"],["slowly becomes","徐々に"],["harder to verify.","検証しにくくなる。"],["That is why","それゆえ"],["publishers are now exploring","出版社は現在模索している"],["automated screening tools,","自動スクリーニングツールを。"],["while Springer Nature says","一方Springer Nature社は述べている"],["that some papers","一部の論文は"],["with isolated AI-related","AI関連の孤立した"],["reference errors","参考文献エラーを持つ場合"],["may be corrected,","修正され得ると"],["but only if authors","ただし著者が"],["can clearly document","明確に記録できる場合に限り"],["what happened","何が起こったかを"],["and show that","そして示せること"],["the rest of the work","残りの研究が"],["remains reliable.","信頼性を保っていると。"],["([nature.com](","（[nature.com]("],["https://www.nature.com/articles/d41586-026-00969-z?utm_source=openai","https://www.nature.com/articles/d41586-026-00969-z?utm_source=openai"],["))","）"],["The emerging consensus","浮上しつつあるコンセンサスは"],["is blunt:","率直だ："],["humans, not chatbots,","チャットボットではなく人間が"],["bear responsibility.","責任を負う。"],["Springer Nature’s guidance says","Springer Natureのガイダンスは述べている"],["authors must verify","著者は検証しなければならない"],["and reference","そして参照しなければならない"],["any AI-assisted output,","あらゆるAI支援の出力を。"],["and the ICMJE","またICMJEも"],["likewise states that","同様に述べている"],["authors are responsible","著者は責任を負うと"],["for accurate citations","正確な引用に対して"],["and that AI-generated material","そしてAI生成物は"],["should not be treated","扱われるべきではないと"],["as a primary source.","一次資料として。"],["The age of","～の時代は"],["effortless machine-written scholarship","手間いらずの機械執筆学術の"],["has arrived;","到来した。"],["the age of effortless trust,","手間いらずの信頼の時代は"],["it seems, is over.","どうやら終わったようだ。"],["([group.springernature.com](","（[group.springernature.com]("],["https://group.springernature.com/gp/group/ai/ai-guidance-for-our-researchers-and-communities?utm_source=openai","https://group.springernature.com/gp/group/ai/ai-guidance-for-our-researchers-and-communities?utm_source=openai"],["))","）"]]