AI技術、とくに深層学習（ディープラーニング）は、画像認識や自然言語処理、自動運転など幅広い分野で活用されています。
しかし、AIには「新しいことを学ぶと、以前に学習した内容を忘れてしまう」という課題があります。
この現象は「破滅的忘却（Catastrophic Forgetting）」と呼ばれ、継続学習やマルチタスク学習における大きな研究テーマとなっています。
本記事では、破滅的忘却の仕組みや原因、実際にどのような場面で問題になるのか、さらに代表的な対策手法までわかりやすく解説します。
破滅的忘却（Catastrophic Forgetting）とは
破滅的忘却とは、AIモデルが新しいデータやタスクを追加学習した際に、過去に学習した知識を失ってしまう現象のことです。
たとえば、以下のようなケースを考えてみましょう。
- AIが「犬」と「猫」を識別できるように学習した
- その後、「車」と「バイク」の画像だけを追加学習した
- 結果として、以前は正確だった犬・猫の識別精度が低下した
これは、新しい学習によって内部パラメータ（重み）が更新され、過去の知識が上書きされてしまうためです。
人間であれば、新しい知識を覚えても以前の知識を完全に失うことは少ないですが、一般的なニューラルネットワークはそのような柔軟な学習が苦手です。
なぜ破滅的忘却が起こるのか
深層学習モデルは「重み」を共有しているため
ニューラルネットワークでは、多くの入力データに対して同じパラメータ（重み）が共有されています。
新しいタスクを学習すると、誤差を減らすために重みが更新されます。
しかし、その更新によって、以前のタスクに最適化されていた情報が失われてしまうのです。
特にディープラーニングでは、以下の特徴から影響が大きくなります。
- パラメータ数が非常に多い
- 複雑な内部表現を持つ
- タスク間で重みを共有している
そのため、新しい学習が過去の知識を壊しやすい構造になっています。
破滅的忘却が問題になる分野
継続学習（Continual Learning）
継続学習とは、AIが運用中に新しい知識を継続的に学習していく仕組みです。
たとえば：
- ロボットが新しい環境を学ぶ
- 音声認識AIが新しい話し方に対応する
- セキュリティAIが新しい攻撃パターンを学習する
このような場面では、古い知識を維持したまま新しい知識を追加する必要があります。
オンライン学習
オンライン学習では、データがリアルタイムで流入します。
たとえばECサイトの推薦システムでは、ユーザー行動の変化に応じてモデルを更新します。
しかし、新しい傾向ばかりを学習すると、以前の重要なパターンを忘れてしまう可能性があります。
マルチタスク学習
複数のタスクを同時または順番に学習する際にも、破滅的忘却は発生します。
例：
- 翻訳AIが複数言語を扱う
- 自動運転AIが標識認識と歩行者検出を行う
- 生成AIが異なるジャンルの文章を学習する
タスク間で知識が干渉し合うことで、性能低下が起きることがあります。
破滅的忘却を防ぐ代表的な手法
現在、AI研究ではさまざまな対策手法が提案されています。
1. 正則化手法（Regularization）
重要なパラメータの変更を抑える方法です。
代表例としては「EWC（Elastic Weight Consolidation）」があります。
これは、
- 過去タスクで重要だった重み
- 新タスクで更新したい重み
のバランスを取りながら学習する仕組みです。
人間で言えば、「重要な記憶は簡単に書き換えない」イメージに近いでしょう。
2. リハーサル（Replay）手法
過去データを一部保存し、新しい学習時に再利用する方法です。
新しいデータだけで学習するのではなく、
- 過去のデータ
- 新しいデータ
を混ぜて再学習することで、忘却を抑えます。
これは人間の復習に似ています。
たとえば英語学習でも、新しい単語だけを覚えるのではなく、以前学んだ単語を定期的に復習することで記憶を維持できます。
3. アーキテクチャベース手法
タスクごとにネットワーク構造を分割する方法です。
具体的には：
- タスク専用の層を追加する
- 一部のネットワークを固定する
- 新タスク専用のパラメータを増設する
などの方法があります。
既存知識を保持しやすい一方で、モデルサイズが大きくなりやすいという課題もあります。
生成AI時代における破滅的忘却の重要性
近年は、大規模言語モデル（LLM）や生成AIの発展により、継続学習の重要性がさらに高まっています。
たとえば：
- 最新ニュースを学習するAI
- ユーザーごとに最適化されるAI
- 長期間運用される業務AI
では、古い知識を維持しながら新しい情報を学ぶ必要があります。
もし破滅的忘却が深刻化すると、
- 過去の知識が不安定になる
- 回答品質が低下する
- 一貫性が失われる
といった問題につながります。
そのため、現在のAI研究では「継続的に学習し続けられるAI」の実現が大きなテーマになっています。
人間の学習との違い
人間は通常、新しいことを学んでも、以前の知識を完全には失いません。
これは脳が、
- 記憶を整理する
- 重要度を調整する
- 長期記憶として保存する
といった複雑な仕組みを持っているためです。
一方、一般的なAIモデルは、大量のパラメータ更新によって知識を保持しているため、新しい学習による影響を受けやすい特徴があります。
この違いを埋めることが、今後のAI進化の重要課題のひとつです。
まとめ
破滅的忘却（Catastrophic Forgetting）は、AIが新しい知識を学習する際に、以前の知識を失ってしまう現象です。
特に以下の分野で大きな課題となっています。
- 継続学習
- オンライン学習
- マルチタスク学習
- 生成AI
主な対策としては、
- 正則化手法
- リハーサル手法
- アーキテクチャベース手法
などがあります。
AIを「一度学習して終わり」ではなく、「継続的に成長する存在」に進化させるためには、破滅的忘却の克服が欠かせません。
今後の生成AIやロボティクスの発展においても、非常に重要なテーマとして研究が進められています。
