幽霊の脚注：AIが幻覚で生み出す架空の引用文献は、いかにして科学的信頼の基盤を侵食しているか

Ghost Footnotes: How AI-Hallucinated Citations Are Eroding the Foundation of Scientific Trust

AIが生成する"偽の引用"が学術論文に急増し、学問の信頼基盤を揺るがしている。その深刻な実態と出版界の対応を追う。

分からないところをタップすると
↓日本語訳が表示されます↓

In academic writing, a bibliography is not ornament but infrastructure: citations connect new claims to earlier evidence and let readers verify where an argument comes from. A 2025 article in The Journal of Academic Librarianship warned that “counterfeit citations” generated by large language models can contaminate that network and then propagate through later scholarship. (sciencedirect.com)

The scale of the problem is no longer hypothetical. Nature reported in April 2026 that tens of thousands of publications from 2025 may contain invalid references generated by AI, and it highlighted an analysis showing that 2.6% of 2025 papers contained at least one potentially hallucinated citation, up from about 0.3% in 2024. (nature.com) Experimental evidence helps explain why. In a 2025 study in JMIR Mental Health, GPT-4o produced 176 citations for six literature reviews; 35 citations, or 19.9%, were completely fabricated, and 64 of the 141 real citations still contained errors. In other words, nearly two-thirds of the references were either false or flawed, with worse performance on less familiar and more specialized topics. (mental.jmir.org)

What makes this alarming is that the fraud is often subtle. A fake reference can look perfectly scholarly: plausible authors, a convincing title, even an apparently legitimate DOI pattern. That means the damage is not limited to one careless paragraph; reviewers waste time chasing ghosts, readers are misled about the strength of evidence, and citation databases can absorb distortions that later researchers may unknowingly recycle. (sciencedirect.com)

Publishers are responding, but the response itself reveals how serious the crisis has become. Springer Nature now states that authors remain fully accountable for all content, must declare most uses of generative AI, and should “verify and reference any AI-assisted output.” In 2025, Springer Nature also retracted a machine-learning book; Retraction Watch reported that multiple cited works in it did not exist. (group.springernature.com)

The deeper lesson is sobering. Science depends not only on brilliant ideas, but on traceable provenance. If AI can mass-produce fluent prose faster than humans can verify its footnotes, then the real scarcity in academia is no longer text. It is trust. (group.springernature.com)

会員登録して
読んだ語数を記録する

学術的な文章において、参考文献一覧は飾りではなくインフラである。引用は新たな主張を先行する証拠と結びつけ、読者がその議論の出典を確認できるようにする。2025年にThe Journal of Academic Librarianshipに掲載された論文は、大規模言語モデルが生成する「偽造引用（counterfeit citations）」がその引用ネットワークを汚染し、その後の学術研究を通じて拡散しうると警告した。(sciencedirect.com)

この問題の規模はもはや仮定の話ではない。Natureは2026年4月、2025年に発表された数万件の論文がAIによって生成された無効な参考文献を含んでいる可能性があると報じ、2025年の論文の2.6%が少なくとも1つのハルシネーション（幻覚）による引用を含んでいたとする分析結果を取り上げた。この割合は2024年の約0.3%から上昇したものである。(nature.com) 実験的な証拠がその理由を説明する手がかりとなる。2025年にJMIR Mental Healthに掲載された研究では、GPT-4oが6本の文献レビューに対して176件の引用を生成したが、そのうち35件（19.9%）は完全に捏造されたものであり、実在する141件の引用のうち64件にも誤りが含まれていた。言い換えれば、参考文献のほぼ3分の2が虚偽または不正確であり、なじみが薄くより専門的なトピックほど精度が悪化した。(mental.jmir.org)

この問題を深刻にしているのは、不正がしばしば巧妙である点だ。偽の参考文献は完全に学術的に見えることがある。もっともらしい著者名、説得力のあるタイトル、一見すると正当に見えるDOIのパターンまで備えている。つまり、被害は不注意な一段落にとどまらない。査読者は存在しない文献を追いかけて時間を浪費し、読者はエビデンスの強さについて誤った認識を持ち、引用データベースが歪んだ情報を取り込むことで、後の研究者がそれを知らずに再利用してしまう可能性がある。(sciencedirect.com)

出版社は対応に乗り出しているが、その対応自体が危機の深刻さを物語っている。Springer Natureは現在、著者がすべてのコンテンツに対して全面的な責任を負い、生成AIのほとんどの使用を申告し、「AIが支援して生成した出力を検証し、参照元を明記する」べきであると明示している。2025年には、Springer Natureは機械学習に関する書籍を撤回した。Retraction Watchの報道によると、その書籍で引用された複数の文献が実在しなかったという。(group.springernature.com)

より深い教訓は厳粛なものである。科学は優れたアイデアだけでなく、追跡可能な出典の来歴（provenance）にも依存している。もしAIが人間の脚注の検証速度を上回るペースで流暢な文章を大量生産できるのであれば、学術界における本当の希少資源はもはやテキストではない。それは信頼（trust）である。(group.springernature.com)

文法

●
Not only … but (also) … (correlative conjunction with inversion)
「not only A but (also) B」は「AだけでなくBも」を表す相関接続詞構文。文頭にNot onlyを置くと主語と助動詞が倒置される。本文では倒置なしの形（Science depends not only on … but on …）で用いられており、倒置形との使い分けを意識すると文体の幅が広がる。
e.g. Not only did the AI fabricate citations, but it also introduced subtle factual errors that escaped peer review.
訳: AIは引用を捏造しただけでなく、査読をすり抜けるような微妙な事実誤認まで持ち込んでいた。
●
Appositive (同格) constructions for condensed information
名詞の直後にカンマやコロンを挟んで補足情報を並置する同格構文。学術英語では数値や具体例を効率的に挿入するために多用される。本文では「35 citations, or 19.9%,」のように数値の言い換えを同格で示している。
e.g. GPT-4o produced 176 citations; 35 of them, or roughly one-fifth, turned out to be entirely fabricated.
訳: GPT-4oは176件の引用を生成したが、そのうち35件、つまりおよそ5分の1が完全な捏造であった。
●
Cleft-like fronted 'What' clause for thematic emphasis
「What makes X … is that …」の形で、主語節にwhat節を用いて話題を前景化し、述部で核心を述べる強調構文。本文の'What makes this alarming is that the fraud is often subtle.'がその典型例であり、学術・論説文で論点を際立たせる際に極めて有効。
e.g. What makes the contamination so insidious is that a hallucinated reference can appear indistinguishable from a genuine one.
訳: この汚染がこれほど厄介なのは、捏造された引用が本物と見分けがつかない場合があるからだ。

語彙

●
counterfeit(形容詞、名詞)
偽造の、模造の；偽造品
e.g. Counterfeit citations undermine the very foundation of scholarly discourse.
訳: 偽造引用は学術的議論の根幹そのものを損なう。
●
propagate(動詞)
伝播する、広める、繁殖させる
e.g. Once a fabricated reference enters the literature, it can propagate through subsequent citing papers.
訳: 捏造された引用が一度文献に紛れ込むと、それを引用する後続の論文を通じて伝播しうる。
●
hallucinate(動詞)
（AI が）事実に基づかない情報を生成する、幻覚を起こす
e.g. The model hallucinated an entire journal article, complete with a plausible DOI.
訳: そのモデルは、もっともらしいDOI付きの架空の論文を丸ごとでっち上げた。
●
provenance(名詞)
出所、来歴、由来
e.g. Establishing the provenance of a claim is as important as the claim itself.
訳: 主張の出所を明らかにすることは、主張そのものと同じくらい重要である。
●
retract(動詞)
（論文・声明を）撤回する、取り下げる
e.g. Springer Nature retracted the book after discovering that several cited works did not exist.
訳: 引用された著作の複数が存在しないと判明した後、シュプリンガー・ネイチャーはその書籍を撤回した。
●
sobering(形容詞)
身の引き締まるような、深刻に考えさせる
e.g. The statistics on AI-generated errors offer a sobering reminder of the limits of automation.
訳: AI生成エラーに関する統計は、自動化の限界について深く考えさせられる警告を与えてくれる。
●
contaminate(動詞)
汚染する、混入させる
e.g. Fabricated data can contaminate citation databases that thousands of researchers rely on.
訳: 捏造データは、数千人の研究者が依拠する引用データベースを汚染しうる。

表現・慣用句

●
chasing ghosts
存在しないものを追い求める、無駄骨を折ること。本文では査読者が存在しない引用を検証しようとする徒労を指す。
e.g. Reviewers spent weeks chasing ghosts before realising the references had been fabricated by AI.
訳: 査読者たちは何週間もかけて存在しない引用を追いかけた末、それらがAIによる捏造だったと気づいた。
●
bark up the wrong tree
見当違いの方向に労力を費やすこと。的外れな相手・原因を責めるときに使う慣用表現。
e.g. Blaming individual researchers while ignoring systemic tool failures is barking up the wrong tree.
訳: システム的なツールの欠陥を無視して個々の研究者を責めるのは、的外れもいいところだ。
●
the real scarcity is …
「本当に不足しているのは～だ」という修辞的表現。価値の所在が移行したことを端的に示す際に使う。
e.g. In an age of abundant AI-generated text, the real scarcity is not content but credibility.
訳: AI生成テキストが溢れる時代において、本当に不足しているのはコンテンツではなく信頼性である。
●
no longer hypothetical
「もはや仮説の段階ではない」。問題が理論上の懸念から現実の事態に移行したことを強調する表現。
e.g. The threat of AI-polluted scholarship is no longer hypothetical — the data are already in print.
訳: AIに汚染された学術研究の脅威はもはや仮説ではない——データはすでに出版されている。

by EigoBoxAI
作成:2026/05/01 09:05
レベル:超上級 (語彙目安:8000語以上)
タイプ:リーディング

# 幽霊の脚注：AIが幻覚で生み出す架空の引用文献は、いかにして科学的信頼の基盤を侵食しているか
## Ghost Footnotes: How AI-Hallucinated Citations Are Eroding the Foundation of Scientific Trust

![thumbnail](https://eigobox.s3.ap-northeast-1.amazonaws.com/g/60ce8e4ce9fce11b278c30b0729ec1b8a24f7de4.png)

---

The scale of the problem is no longer hypothetical. Nature reported in April 2026 that tens of thousands of publications from 2025 may contain invalid references generated by AI, and it highlighted an analysis showing that 2.6% of 2025 papers contained at least one potentially hallucinated citation, up from about 0.3% in 2024. ([nature.com](https://www.nature.com/articles/d41586-026-00969-z)) Experimental evidence helps explain why. In a 2025 study in JMIR Mental Health, GPT-4o produced 176 citations for six literature reviews; 35 citations, or 19.9%, were completely fabricated, and 64 of the 141 real citations still contained errors. In other words, nearly two-thirds of the references were either false or flawed, with worse performance on less familiar and more specialized topics. ([mental.jmir.org](https://mental.jmir.org/2025/1/e80371/))

---

この問題の規模はもはや仮定の話ではない。Natureは2026年4月、2025年に発表された数万件の論文がAIによって生成された無効な参考文献を含んでいる可能性があると報じ、2025年の論文の2.6%が少なくとも1つのハルシネーション（幻覚）による引用を含んでいたとする分析結果を取り上げた。この割合は2024年の約0.3%から上昇したものである。([nature.com](https://www.nature.com/articles/d41586-026-00969-z)) 実験的な証拠がその理由を説明する手がかりとなる。2025年にJMIR Mental Healthに掲載された研究では、GPT-4oが6本の文献レビューに対して176件の引用を生成したが、そのうち35件（19.9%）は完全に捏造されたものであり、実在する141件の引用のうち64件にも誤りが含まれていた。言い換えれば、参考文献のほぼ3分の2が虚偽または不正確であり、なじみが薄くより専門的なトピックほど精度が悪化した。([mental.jmir.org](https://mental.jmir.org/2025/1/e80371/))

より深い教訓は厳粛なものである。科学は優れたアイデアだけでなく、追跡可能な出典の来歴（provenance）にも依存している。もしAIが人間の脚注の検証速度を上回るペースで流暢な文章を大量生産できるのであれば、学術界における本当の希少資源はもはやテキストではない。それは信頼（trust）である。([group.springernature.com](https://group.springernature.com/gp/group/ai/ai-guidance-for-our-researchers-and-communities))

The scale of the problem is no longer hypothetical. Nature reported in April 2026 that tens of thousands of publications from 2025 may contain invalid references generated by AI, and it highlighted an analysis showing that 2.6% of 2025 papers contained at least one potentially hallucinated citation, up from about 0.3% in 2024. ([nature.com](https://www.nature.com/articles/d41586-026-00969-z)) Experimental evidence helps explain why. In a 2025 study in JMIR Mental Health, GPT-4o produced 176 citations for six literature reviews; 35 citations, or 19.9%, were completely fabricated, and 64 of the 141 real citations still contained errors. In other words, nearly two-thirds of the references were either false or flawed, with worse performance on less familiar and more specialized topics. ([mental.jmir.org](https://mental.jmir.org/2025/1/e80371/))

[["In academic writing,","学術的な文章において、"],["a bibliography is","参考文献一覧は"],["not ornament but infrastructure:","装飾ではなく基盤である。"],["citations connect new claims","引用は新たな主張を"],["to earlier evidence","先行する証拠に結びつけ、"],["and let readers verify","読者が検証できるようにする——"],["where an argument comes from.","議論の出典がどこかを。"],["A 2025 article in","2025年の論文で、"],["The Journal of Academic Librarianship","The Journal of Academic Librarianship誌は"],["warned that","次のように警告した——"],["\"counterfeit citations\"","「偽造引用」が"],["generated by large language models","大規模言語モデルによって生成され、"],["can contaminate that network","その引用ネットワークを汚染し、"],["and then propagate","さらに伝播しうると——"],["through later scholarship.","後続の学術研究を通じて。"],["(sciencedirect.com)","(sciencedirect.com)"],["(https://www.sciencedirect.com/science/article/pii/S0099133325000618)","(https://www.sciencedirect.com/science/article/pii/S0099133325000618)"],["The scale of the problem","問題の規模は"],["is no longer hypothetical.","もはや仮説的なものではない。"],["Nature reported in April 2026","Natureは2026年4月に報じた——"],["that tens of thousands of","数万件もの"],["publications from 2025","2025年の出版物が"],["may contain invalid references","無効な参考文献を含む可能性があると。"],["generated by AI,","AIによって生成された参考文献であり、"],["and it highlighted an analysis","同誌はある分析を取り上げ、"],["showing that 2.6%","2.6%の"],["of 2025 papers contained","2025年の論文が含んでいたことを示した——"],["at least one","少なくとも一つの"],["potentially hallucinated citation,","ハルシネーションの可能性がある引用を。"],["up from about 0.3% in 2024.","2024年の約0.3%から増加した。"],["(nature.com)","(nature.com)"],["(https://www.nature.com/articles/d41586-026-00969-z)","(https://www.nature.com/articles/d41586-026-00969-z)"],["Experimental evidence","実験的証拠が"],["helps explain why.","その理由の説明に役立つ。"],["In a 2025 study","2025年の研究で、"],["in JMIR Mental Health,","JMIR Mental Health誌に掲載された"],["GPT-4o produced 176 citations","GPT-4oは176件の引用を生成した——"],["for six literature reviews;","6本の文献レビューに対して。"],["35 citations, or 19.9%,","35件、すなわち19.9%は"],["were completely fabricated,","完全に捏造されており、"],["and 64 of the 141 real citations","141件の実在する引用のうち64件も"],["still contained errors.","依然として誤りを含んでいた。"],["In other words,","換言すれば、"],["nearly two-thirds of the references","参考文献のほぼ3分の2が"],["were either false or flawed,","虚偽か不備のあるものであり、"],["with worse performance","精度はさらに低下した——"],["on less familiar","馴染みの薄い"],["and more specialized topics.","より専門的なトピックにおいて。"],["(mental.jmir.org)","(mental.jmir.org)"],["(https://mental.jmir.org/2025/1/e80371/)","(https://mental.jmir.org/2025/1/e80371/)"],["What makes this alarming","これを憂慮すべきものにしているのは、"],["is that the fraud","その不正が"],["is often subtle.","往々にして巧妙である点だ。"],["A fake reference","偽の参考文献は"],["can look perfectly scholarly:","完璧に学術的に見えうる——"],["plausible authors,","もっともらしい著者名、"],["a convincing title,","説得力のあるタイトル、"],["even an apparently legitimate","さらには一見正当な"],["DOI pattern.","DOIパターンまで備えている。"],["That means the damage","つまり被害は"],["is not limited to","限定されない——"],["one careless paragraph;","一つの不注意な段落に。"],["reviewers waste time","査読者は時間を浪費し、"],["chasing ghosts,","実在しないものを追い、"],["readers are misled","読者はエビデンスの強度について"],["about the strength of evidence,","誤った認識を抱き、"],["and citation databases","引用データベースは"],["can absorb distortions","歪みを取り込みうる——"],["that later researchers","後続の研究者が"],["may unknowingly recycle.","知らずに再利用するかもしれない歪みを。"],["(sciencedirect.com)","(sciencedirect.com)"],["(https://www.sciencedirect.com/science/article/pii/S0099133325000618)","(https://www.sciencedirect.com/science/article/pii/S0099133325000618)"],["Publishers are responding,","出版社は対応しているが、"],["but the response itself reveals","その対応自体が物語っている——"],["how serious the crisis has become.","危機がいかに深刻化したかを。"],["Springer Nature now states","Springer Natureは現在、次のように明言している——"],["that authors remain","著者は"],["fully accountable","全面的に責任を負い、"],["for all content,","すべての内容に対して、"],["must declare most uses","大半の使用を申告し、"],["of generative AI,","生成AIの使用について、"],["and should","そして"],["\"verify and reference","「検証し、出典を明記すべきである——"],["any AI-assisted output.\"","AIが支援した出力すべてについて」と。"],["In 2025, Springer Nature","2025年、Springer Natureは"],["also retracted","撤回もした——"],["a machine-learning book;","ある機械学習の書籍を。"],["Retraction Watch reported","Retraction Watchが報じたところでは、"],["that multiple cited works in it","同書で引用された複数の文献が"],["did not exist.","実在しなかった。"],["(group.springernature.com)","(group.springernature.com)"],["(https://group.springernature.com/gp/group/ai/ai-guidance-for-our-researchers-and-communities)","(https://group.springernature.com/gp/group/ai/ai-guidance-for-our-researchers-and-communities)"],["The deeper lesson is sobering.","より深い教訓は厳粛なものだ。"],["Science depends not only on","科学は依拠するのは"],["brilliant ideas,","優れた着想だけでなく、"],["but on traceable provenance.","追跡可能な出典の来歴にもである。"],["If AI can mass-produce","もしAIが大量生産できるなら——"],["fluent prose","流暢な文章を"],["faster than humans can verify","人間がその脚注を検証する速度を"],["its footnotes,","上回る速さで、"],["then the real scarcity","ならば真に希少なものは"],["in academia","学術界において"],["is no longer text.","もはやテキストではない。"],["It is trust.","信頼である。"],["(group.springernature.com)","(group.springernature.com)"],["(https://group.springernature.com/gp/group/ai/ai-guidance-for-our-researchers-and-communities)","(https://group.springernature.com/gp/group/ai/ai-guidance-for-our-researchers-and-communities)"]]