何が起きたのか
マイクロソフトのサティア・ナデラCEOは、AIツールがセキュリティ上の弱点を企業が安全に修復できる速度より速く見つけ出すようになったため、ソフトウェア障害は今後増えるとの見通しを示した。TNW | Microsoftが報じた。水曜日にニューヨークで開かれたニューヨーク・タイムズ主催のDealBook Summitで、アンドリュー・ロス・ソーキン氏との対談に臨んだナデラ氏は、Outlookの障害について謝罪したが、この障害はこの傾向とは直接関係がなかったと述べた。その後CNBCのジム・クレイマー氏との番組では、マイクロソフトはもっとテストを行い、障害が世界に広がる前に切り分けるべきだったと語った。
ナデラ氏によると、かつては重要な銀行システムの修正に約1週間のテストをかけていた。しかし、攻撃者が弱点の出現と同時に悪用するようになったため、現在はパッチが直接本番環境に投入され、それが不安定さを招いているという。同氏は、発言した当日にも重要なオープンソースのパッチが3件届いたと指摘した。さらに、AIモデルのおかげで、ほぼ誰でも国家レベルの能力を持つ執拗な攻撃者のように動けるようになったとも述べた。
AIの安全性について、ナデラ氏は、スケーリングは成果を上げたが、アライメントや信頼できるモデルのデバッグはそれに伴って実現しなかったと述べた。同氏は「トラスト・アーキテクチャ」と呼ぶ構想を提案した。人間が読めない略記で推論するモデルを禁止し、他のモデルが検証できる改ざん不能な推論記録を義務づけるというものだ。現在はAIシステムの行動について導入企業が責任を負っているとし、保険会社がそのリスクに値付けをして、ログの提示を求めるようになると予想していると語った。
背景
マイクロソフトはOpenAIとAnthropicの双方に出資している。ナデラ氏は、OpenAIとの契約に基づき、マイクロソフトは2032年までロイヤリティを支払わずに最先端モデルを利用できると述べた。これにより、最先端から3〜6カ月遅れで、計算資源はわずか5%〜20%という自社のMAIモデルを開発できるという。マイクロソフトはまた、6万人の従業員に早期退職の募集を行っており、同社のエージェント「Cowork」は11人の開発者チームが構築している。
ブリーフィング
1週間のテックニュースを1通のメールで。
読む価値のある記事を毎週お届けします。配信停止はいつでも可能です。
