大規模言語モデル（LLM）は、人間と同様の認知機能を獲得するため、インターネット上の膨大なデータから学習します。しかし、その訓練プロセスにおいて、人間社会で問題視されている「Brain Rot（脳の腐敗）」と類似の現象が発生する可能性が指摘されています。

Brain Rotとは、ジャンクデータを大量に消費することで、人間の認知機能が損なわれる現象です。これは、注意力の持続能力や記憶プロセス、社会性の認知などに悪影響を及ぼすことが知られています。

では、同じインターネットデータを取り込むLLMにも、同様の現象が起こるのでしょうか？ この記事で焦点を当てるのは、この知見をLLMに転用した「LLM Brain Rot 仮説」 です。この仮説は、ジャンクなWebテキストに継続的にさらされることが、LLMに推論能力、安全性、およびロバスト性 の永続的な認知機能の低下を引き起こす というものです。

これは、継続的な事前学習における、データ品質に起因する訓練時の安全性 として再認識されるべき重要な課題です。今回は、この仮説を検証した研究論文「LLMs Can Get “Brain Rot”!」をもとに、LLMの「腐敗」の実態と、エンジニアリングにおける対策の必要性について見ていきます。

LLM Brain Rot 仮説

LLM Brain Rot 仮説、ジャンクなWebテキストへの継続的な事前学習が、LLMの認知機能低下を引き起こすというものです。この仮説を検証するため、Twitter/Xの投稿データが使用されました。実験では、ジャンクデータと対照データ（コントロールデータ）を構築し、LLMの挙動を比較することで、データ品質がLLMの能力低下の因果的な駆動要因であることを明らかにしました。

ジャンクデータの2つの測定基準

この研究におけるジャンクデータは、「単純な方法でユーザーの関心を高めるコンテンツ」として定義されています。そして、この定義に基づいて、以下の2つの、互いに直交する測定基準が提案されました。

1. M1: エンゲージメントの度合い（Engagement Degree） M1は、内容の意味的側面を考慮せず、人気度（リツイート、いいね、返信などの総数）が高く、かつトークン長が短い投稿をジャンクデータとしています。これは、従来のデータ品質の定義（意味的品質）とは直交する、新しいデータ品質の次元を捉えるものです。人気の高さと短さという非意味論的な指標が、エンゲージメントを最大化するという原理に基づいています。
2. M2: 意味的品質（Semantic Quality） M2は、内容の意味的側面に焦点を当てています。具体的には、陰謀論、誇張された主張、クリックベイト的な見出しといった、注意を引くだけで熟慮を促さないスタイル、あるいは表面的なライフスタイルコンテンツを含む投稿がジャンクと定義されました。

LLMの認知機能の低下

ジャンクデータを継続的に学習させたLLMは、対照グループと比較して認知能力が低下しました（Hedges’ g > 0.3）。特に、エンゲージメントの度合い（M1）によって操作されたジャンクコンテンツは、機能的認知や安全性に、意味的品質（M2）よりも深刻なダメージを与えることが分かりました。

• 推論能力（Reasoning）の低下: 特に、思考の連鎖（Chain Of Thoughts: CoT）を伴う推論タスク（ARC-Challenge）において、ジャンクデータの比率が高まるにつれてスコアが大幅に低下しています。例えば、M1介入では、CoTを利用したARC-Challengeのスコアが74.9から57.2へと大きく落ち込みました。
• 長文コンテキスト理解/検索（Long-Context Understanding）の劣化: RULERベンチマークでは、長文コンテキストからの情報検索能力（Needle-In-A-Haystackなど）や変数追跡能力が著しく低下しました。
• 安全性の問題と人格の変化: 安全性ベンチマーク（HH-RLHF, AdvBench）におけるリスクの増加に加え、M1介入では、LLMの人格に悪影響が現れました。特に、ナルシシズムやサイコパシーといった社会的望ましくない「ダーク・トレイト」が増幅されるという、深刻な安全性の問題が浮き彫りになっています。

この結果は、データキュレーションを継続的な事前学習における訓練時の安全性の問題として捉え直す必要性を示しています。

エンジニアリング視点の考察

LLM Brain Rot によって引き起こされる認知機能の低下は、抽象的な現象に留まりません。詳細なエラー分析を通じて、モデルがタスクを解決する際の具体的な推論パターンの変化として現れることが明らかになっています。

推論失敗の主要因：「思考スキップ（Thought-skipping）」

LLMの能力低下の主要な原因は「思考スキップ（Thought-skipping）」であることが判明しています。これは、モデルが推論の連鎖を省略したり、途中で打ち切ったりする現象を指します。

具体的な失敗モードとしては、回答前に一切思考プロセスを生成しない「No Thinking」、問題をステップバイステップで分解する計画を立てない「No Plan」、計画は立てたものの途中の重要なステップをスキップする「Skipping Steps in Plan」 などがあります。特に「No Thinking」は、すべての失敗事例の70%以上、M1ジャンク介入下では 84% を占める主要な要因です。

この現象のメカニズムは、訓練に使用されたジャンクデータの特性に由来します。ジャンクデータは通常、短く、セグメント化され、注目を優先させるデータ特性を持っています。これにより、LLMはより簡潔に反応しようとする傾向が強くなり、結果として思考、計画、中間ステップといった熟慮のプロセスをスキップするようになります。

データ要素の重要性の違い

エンゲージメントの度合い（M1）によって定義されたジャンクデータは、「人気度」と「トークン長」という2つの要素から構成されています。これらの要素がLLMの認知機能に与える影響を分離して分析した結果、タスクによって重要度が異なることが示されました。

• 人気度（Popularity）: 推論（Reasoning）タスク、特にARCチャレンジにおいて、比較的より重要な役割を果たします。
• トークン長（Length）: 長文コンテキスト理解（Long-Context Understanding）タスクにおいて、より重要であることが判明。

この違いは、「人気」という非意味的な指標が、単に短いデータとしてではなく、LLMに特有の方法で影響を与え、推論構造を歪めていることを示唆しています。

永続的な影響と修復の限界

LLM Brain Rot 効果は、訓練後の緩和策を施しても完全に除去できず、ベースラインの能力を完全に回復することは困難です。この永続性は、フォーマットの不一致ではなく、モデル内部の表現の持続的なドリフトが示唆されるものです。

緩和策として、指示チューニング（Instruction Tuning: IT）は、継続的なコントロールデータでの事前学習（CCT）よりもLLM Brain Rot 効果を除去のに有効な方法です。しかし、その効果には限界があります。ジャンク介入で使用したトークンの4.8倍に相当する大量の訓練データを使用しても、推論（ARC-C CoT）で17.3%、安全性（AdvBench）で17.4%という大きな差がベースラインとの間に残りました。

この修復の限界は、LLMを継続的に改良・更新する実務上の重要な示唆を与えます。すなわち、事前学習段階で一度認知機能が損傷を受けると、その後のチューニングで完全に修復することは非常に難しく、データセットの品質を慎重にキュレーションし、損傷を未然に防ぐことが不可欠となります。

おわりに

今回は、「LLM Brain Rot 仮説」を検証した研究結果を紹介しました。この研究は、エンゲージメント重視のコンテンツや、意味的に低品質な（扇動的な）コンテンツといったジャンクデータへの継続的な曝露が、LLMに体系的な認知機能の低下を引き起こすことを実証しました。

この「腐敗」は、推論能力の劣化、長文コンテキスト理解の悪化、倫理規範の低下、そして社会的望ましくない人格特性の出現といった多岐にわたる機能に影響を及ぼします。特に、モデルが推論の連鎖を省略する「思考スキップ（thought-skipping）」が、認知機能低下の主要な病変として特定されました。

さらに深刻なのは、このダメージが永続的であるという点です。大量の指示チューニング（Instruction Tuning: IT）などの訓練後の緩和策を講じても、ベースラインの能力を完全に回復させることは困難でした。

この結果は、インターネットからのデータ収集や継続的な事前学習の慣行を再検討し、データの慎重なキュレーションと品質管理が必須であることを強く示唆しています。LLMが今後も健全に進化していくためには、データ品質を訓練時の安全性の問題として捉え直し、認知機能の損傷を未然に防ぐことが不可欠です。

More Information

• arXiv:2510.13928, Shuo Xing et al., 「LLMs Can Get “Brain Rot”!」, https://www.arxiv.org/abs/2510.13928