Was passiert ist
Microsoft-Chef Satya Nadella rechnet mit mehr Software-Ausfällen, weil KI-Tools Sicherheitslücken inzwischen schneller aufdecken, als Unternehmen sie sicher beheben können, berichtete TNW | Microsoft. In einem Gespräch am Mittwoch in New York mit Andrew Ross Sorkin beim DealBook Summit der New York Times entschuldigte er sich für den Ausfall von Outlook, der nach seinen Worten keinen direkten Zusammenhang mit diesem Trend hatte. Später sagte er bei CNBC im Gespräch mit Jim Cramer, Microsoft hätte mehr testen und den Fehler isolieren sollen, bevor er sich weltweit ausbreitete.
Nadella sagte, ein Fix für ein kritisches Banksystem sei früher rund eine Woche lang getestet worden. Da Angreifer Schwachstellen heute ausnutzen, sobald sie auftauchen, würden Patches direkt in den Produktivbetrieb gespielt, was Instabilität mit sich bringe. Er merkte an, dass am Tag seines Auftritts drei kritische Open-Source-Patches eingetroffen seien. Außerdem sagte er, KI-Modelle ermöglichten es nahezu jedem, wie ein hartnäckiger Angreifer mit staatlichen Fähigkeiten zu agieren.
Zur KI-Sicherheit sagte Nadella, die Skalierung habe Ergebnisse geliefert, doch Alignment und zuverlässiges Debugging von Modellen seien nicht mitgekommen. Er schlug eine von ihm so genannte Vertrauensarchitektur vor. Sie würde Modelle ausschließen, die in einer für Menschen unlesbaren Kurzschrift schlussfolgern, und manipulationssichere Aufzeichnungen der Schlussfolgerungen verlangen, die andere Modelle prüfen könnten. Er sagte, derzeit hafteten die Betreiber für das, was ihre KI-Systeme tun, und er erwarte, dass Versicherer dieses Risiko bepreisen und die Protokolle einsehen wollen.
Kontext
Microsoft hält Beteiligungen an OpenAI und Anthropic. Nadella sagte, nach der Vereinbarung mit OpenAI könne Microsoft bis 2032 ein Spitzenmodell ohne Lizenzgebühren nutzen. Dadurch könne das Unternehmen eigene MAI-Modelle entwickeln, die der Spitze nur drei bis sechs Monate hinterherhinken und dafür lediglich 5 % bis 20 % der Rechenleistung benötigen. Microsoft hat außerdem 60.000 Beschäftigten Abfindungsangebote unterbreitet, und sein Agent Cowork wird von einem Team aus 11 Entwicklern gebaut.
Das Briefing
Die Tech-Woche in einer E-Mail.
Die lesenswerten Beiträge der Woche. Jederzeit abbestellbar.
