何が起きたのか
MIT News によると、MITの情報・意思決定システム研究所(LIDS)のチームが、天気、気候、乱流といったカオス系の機械学習モデルが物理的にあり得ない予測を出すのを防ぐ手法を開発した。論文は学術誌 Proceedings of the National Academy of Sciences に掲載され、大学院生の Sunbochen Tang 氏と、Navid Azizan 教授、Themistoklis Sapsis 教授による共著である。
この手法では、モデルがエネルギーに似た関数と、カオス的な挙動を抑え込むための境界を同時に学習する。追加された射影層がエネルギー散逸を厳格な制約として課すため、その境界を超えるとエネルギー様の量は必ず減少し、シミュレーションは境界の内側へ引き戻される。チームは、これにより予測が任意の長さの予測期間にわたって有界であることが理論的に保証されると説明している。
教科書的な単純な例から複雑な多次元系まで、よく知られた物理系で試したところ、この手法は真の結果をほぼ正確に追跡した一方、従来手法はすぐに乖離した。論文とあわせてオープンソースのコードも公開されている。Azizan 氏は、この層は特定のモデルに依存しないと述べた。Tang 氏は、次のステップとして現実的な気象のデータ駆動型モデルで試す計画だと語った。チームのメンバーによる続報の論文は、今年の Learning for Dynamics and Control 会議で最優秀論文賞を受賞した。
背景
カオス系は初期条件に非常に敏感で、学習済みモデルの小さな誤差が積み重なり、出力が際限なく膨れ上がることがある。Tang 氏によると、従来の対策は学習時のペナルティやインセンティブに頼っており、モデルが新しい入力に出会った場合には何の保証もない。さらに、値を恣意的な上限で単純に頭打ちにすると、モデルがデータから複雑な特徴を学べなくなるおそれがあると付け加えた。
ブリーフィング
1週間のテックニュースを1通のメールで。
読む価値のある記事を毎週お届けします。配信停止はいつでも可能です。
