Informe de inteligencia

Nadella: la IA detecta fallos y obliga a parchear a la carrera

El consejero delegado de Microsoft afirma que las herramientas de IA destapan fallos más rápido de lo que se pueden corregir con seguridad, y propone un enfoque basado en registros para controlar los modelos.

INSIGHTEX Editorial Desk

2 min de lectura

Nadella: la IA detecta fallos y obliga a parchear a la carreraInforme de inteligencia

Qué ha ocurrido

El consejero delegado de Microsoft, Satya Nadella, afirmó que prevé más caídas de software porque las herramientas de IA descubren ahora vulnerabilidades de seguridad más rápido de lo que las empresas pueden repararlas con seguridad, según informó TNW | Microsoft. En una conversación mantenida el miércoles en Nueva York con Andrew Ross Sorkin en el DealBook Summit, organizado por The New York Times, pidió disculpas por la caída de Outlook, que según dijo no guardaba una relación directa con esta tendencia. Más tarde, en CNBC con Jim Cramer, dijo que Microsoft debería haber hecho más pruebas y haber aislado el fallo antes de que se extendiera a todo el mundo.

Nadella explicó que la corrección de un sistema bancario crítico solía pasar por cerca de una semana de pruebas. Como los atacantes ahora explotan las vulnerabilidades en cuanto aparecen, dijo, los parches se envían directamente a producción, lo que genera inestabilidad. Señaló que el mismo día en que hablaba habían llegado tres parches críticos de código abierto. Añadió que los modelos de IA permiten que casi cualquiera actúe como un atacante persistente con capacidades propias de un Estado.

Sobre la seguridad de la IA, Nadella afirmó que el escalado había dado resultados, pero que la alineación y la depuración fiable de los modelos no habían avanzado al mismo ritmo. Propuso lo que denominó una arquitectura de confianza. Esta prohibiría los modelos que razonan en una especie de taquigrafía que los humanos no pueden leer y exigiría registros de razonamiento a prueba de manipulaciones que otros modelos pudieran verificar. Dijo que quienes despliegan sistemas de IA son hoy responsables de lo que estos hacen, y prevé que las aseguradoras pongan precio a esa exposición y pidan ver los registros.

Contexto

Microsoft tiene participaciones en OpenAI y Anthropic. Nadella dijo que, según su acuerdo con OpenAI, Microsoft puede usar un modelo de frontera sin pagar regalías hasta 2032. Afirmó que esto le permite desarrollar sus propios modelos MAI, que van entre tres y seis meses por detrás de la vanguardia con solo entre el 5% y el 20% de la capacidad de cómputo. Microsoft también ha ofrecido bajas incentivadas a 60,000 empleados, y su agente Cowork lo ha creado un equipo de 11 desarrolladores.

FuenteTNW | Microsoft

El boletín

La semana tecnológica, en un solo correo.

Las crónicas que merecen su tiempo, cada semana. Cancele la suscripción cuando quiera.