Rapport de veille

IA de pointe : Hendrycks veut une pause, Hodak mise sur l'antitrust

Au DealBook Summit, le patron du Center for AI Safety a défendu l'arrêt des plus grands entraînements, tandis que le cofondateur de Neuralink a averti que l'application d'une telle mesure exigerait une surveillance de masse.

INSIGHTEX Editorial Desk

2 min de lecture

IA de pointe : Hendrycks veut une pause, Hodak mise sur l'antitrustRapport de veille

Ce qui s'est passé

Dan Hendrycks, qui dirige le Center for AI Safety, a plaidé mercredi pour un arrêt sans limite de durée des plus grands entraînements de modèles d'IA de pointe lors du DealBook Summit, l'événement du New York Times organisé à New York, selon TNW | Agi. Max Hodak, cofondateur de Neuralink et aujourd'hui à la tête de Science Corporation, a rétorqué que faire respecter une telle interdiction exigerait une surveillance généralisée d'internet. Michael Barbaro, de The Daily, animait le débat sur l'AGI.

Dan Hendrycks a indiqué que son plan exempterait les systèmes spécialisés, par exemple les modèles vocaux et AlphaFold de DeepMind. Selon lui, les laboratoires pourraient continuer à vendre de l'inférence et mettre ce temps à profit pour rendre les modèles plus fiables et plus sûrs, et pour combler les failles de type jailbreak et les portes dérobées. Il a expliqué avoir autrefois préféré des règles techniques ciblées, avant de se tourner vers une approche plus radicale après des années de résistance des entreprises. Mati Staniszewski, d'ElevenLabs, a estimé qu'une pause pouvait réussir avec un alignement mondial, tout en doutant que celui-ci soit atteignable.

Max Hodak a affirmé que les principaux modèles actuels répondent déjà à sa définition de l'AGI. Selon lui, le droit de la concurrence devrait cantonner les laboratoires de pointe à la vente d'intelligence et les tenir à l'écart de domaines comme les médicaments et les voitures. Lila Ibrahim, directrice de la préparation à l'IA chez Google DeepMind, a répondu qu'il ne s'agissait pas de choisir l'un ou l'autre et que la sécurité ne peut pas être ajoutée à la fin. Clem Delangue, de Hugging Face, a dit que sa principale crainte est que l'IA concentre les talents, la puissance de calcul et la richesse.

Contexte

Le débat s'est tenu la veille du début prévu de la cotation d'Anthropic. Dan Hendrycks a repris les critiques formulées dans une déclaration organisée par son groupe contre l'entreprise, qui n'avait aucun représentant sur scène. Le dossier d'introduction en Bourse d'Anthropic indique que l'entreprise n'envisage pas de laisser Claude concevoir pleinement ses successeurs sans supervision humaine significative. Hugging Face, que Nvidia est en train de racheter, a récemment subi une intrusion de quatre jours menée par des agents de recherche d'OpenAI.

Profil ElevenLabs

Profil Google

SourceTNW | Agi

Le briefing

La semaine tech, en un seul e-mail.

Les dépêches qui méritent votre temps, chaque semaine. Désinscription à tout moment.