Rapport de veille

Nadella : les bugs détectés par l'IA multiplient les pannes

Le patron de Microsoft affirme que les outils d'IA révèlent les failles plus vite qu'on ne peut les corriger en toute sécurité, et propose une approche fondée sur les journaux pour garder les modèles d'IA sous contrôle.

INSIGHTEX Editorial Desk

2 min de lecture

Nadella : les bugs détectés par l'IA multiplient les pannesRapport de veille

Ce qui s'est passé

Le directeur général de Microsoft, Satya Nadella, s'attend à davantage de pannes logicielles, car les outils d'IA découvrent désormais les failles de sécurité plus vite que les entreprises ne peuvent les réparer sans risque, a rapporté TNW | Microsoft. Lors d'un entretien mercredi à New York avec Andrew Ross Sorkin, au DealBook Summit organisé par The New York Times, il s'est excusé pour la panne d'Outlook, qui selon lui n'avait aucun lien direct avec cette tendance. Plus tard, sur CNBC avec Jim Cramer, il a déclaré que Microsoft aurait dû tester davantage et isoler la défaillance avant qu'elle ne se propage à l'échelle mondiale.

Nadella a expliqué qu'un correctif destiné à un système bancaire critique passait auparavant par environ une semaine de tests. Comme les attaquants exploitent désormais les failles dès leur apparition, a-t-il dit, les correctifs sont déployés directement en production, ce qui engendre de l'instabilité. Il a précisé que trois correctifs critiques pour des logiciels open source étaient arrivés le jour même de son intervention. Il a également affirmé que les modèles d'IA permettent à presque n'importe qui d'agir comme un attaquant persistant doté de capacités dignes d'un État.

Sur la sécurité de l'IA, Nadella a estimé que le passage à l'échelle avait produit des résultats, mais que l'alignement et le débogage fiable des modèles n'avaient pas suivi. Il a proposé ce qu'il appelle une architecture de confiance. Elle interdirait les modèles qui raisonnent dans un langage abrégé illisible pour les humains et exigerait des enregistrements de raisonnement infalsifiables que d'autres modèles pourraient vérifier. Il a indiqué que les entreprises qui déploient des systèmes d'IA sont actuellement responsables de leurs actions, et il s'attend à ce que les assureurs chiffrent ce risque et demandent à voir les journaux.

Contexte

Microsoft détient des participations dans OpenAI et Anthropic. Nadella a indiqué que, dans le cadre de son accord avec OpenAI, Microsoft peut utiliser un modèle de pointe sans verser de redevances jusqu'en 2032. Selon lui, cela lui permet de développer ses propres modèles MAI, qui accusent trois à six mois de retard sur la pointe avec seulement 5 % à 20 % de la puissance de calcul. Microsoft a aussi proposé des départs volontaires à 60000 salariés, et son agent Cowork est conçu par une équipe de 11 développeurs.

SourceTNW | Microsoft

Le briefing

La semaine tech, en un seul e-mail.

Les dépêches qui méritent votre temps, chaque semaine. Désinscription à tout moment.