Qué ocurrió
Dan Hendrycks, director del Center for AI Safety, defendió el miércoles una suspensión indefinida de los mayores entrenamientos de IA de frontera durante el DealBook Summit, el evento de The New York Times celebrado en Nueva York, según informó TNW | Agi. Max Hodak, cofundador de Neuralink y actual responsable de Science Corporation, replicó que vigilar el cumplimiento de una prohibición así exigiría una vigilancia generalizada de internet. Michael Barbaro, de The Daily, moderó el panel sobre AGI.
Hendrycks dijo que su plan eximiría a los sistemas especializados, por ejemplo los modelos de voz y AlphaFold de DeepMind. Según explicó, los laboratorios podrían seguir vendiendo inferencia y aprovechar ese tiempo para hacer los modelos más fiables y seguros y para cerrar vulnerabilidades de jailbreak y puertas traseras. Contó que antes prefería normas técnicas específicas, pero que optó por un enfoque más contundente después de que las empresas se resistieran a ellas durante años. Mati Staniszewski, de ElevenLabs, afirmó que una pausa podría funcionar si hubiera alineación global, aunque dudó de que eso sea alcanzable.
Hodak dijo que los principales modelos actuales ya cumplen con su definición de AGI. Sostuvo que la legislación antimonopolio debería limitar a los laboratorios de frontera a vender inteligencia y mantenerlos fuera de sectores como los medicamentos y los automóviles. Lila Ibrahim, directora de preparación en IA de Google DeepMind, señaló que no había que elegir entre una cosa y la otra y que la seguridad no puede añadirse al final. Clem Delangue, de Hugging Face, dijo que su principal preocupación es que la IA concentre talento, capacidad de cómputo y riqueza.
Contexto
El panel tuvo lugar un día antes de que Anthropic empezara a cotizar. Hendrycks repitió las críticas de una declaración organizada por su grupo contra la compañía, que no tenía ningún representante en el panel. El folleto de salida a bolsa de Anthropic dice que no prevé permitir que Claude desarrolle por completo a sus sucesores sin una supervisión humana significativa. Hugging Face, que Nvidia está comprando, sufrió recientemente una brecha de cuatro días provocada por los agentes de investigación de OpenAI.
El boletín
La semana tecnológica, en un solo correo.
Las crónicas que merecen su tiempo, cada semana. Cancele la suscripción cuando quiera.
