Intelligence-Bericht

KI-Pause oder Kartellrecht? Hendrycks und Hodak im Streit

Beim DealBook Summit sprach sich der Chef des Center for AI Safety für einen Stopp der größten Trainingsläufe aus. Der Neuralink-Mitgründer warnte, die Durchsetzung erfordere Massenüberwachung.

INSIGHTEX Editorial Desk

2 Min. Lesezeit

KI-Pause oder Kartellrecht? Hendrycks und Hodak im StreitIntelligence-Bericht

Was passiert ist

Dan Hendrycks, der das Center for AI Safety leitet, plädierte am Mittwoch beim DealBook Summit, der in New York stattfindenden Veranstaltung der New York Times, für einen unbefristeten Stopp der größten Trainingsläufe für Frontier-KI, wie TNW | Agi berichtete. Max Hodak, Mitgründer von Neuralink und heute Chef von Science Corporation, hielt dagegen, dass die Durchsetzung eines solchen Verbots eine umfassende Überwachung des Internets erfordern würde. Michael Barbaro von The Daily moderierte das AGI-Panel.

Hendrycks sagte, sein Plan würde spezialisierte Systeme ausnehmen, etwa Sprachmodelle und AlphaFold von DeepMind. Die Labore könnten weiterhin Inferenz verkaufen und die Zeit nutzen, um Modelle zuverlässiger und sicherer zu machen und Jailbreaks und Backdoors zu schließen. Er habe früher enge technische Vorgaben bevorzugt, sei aber zu einem gröberen Ansatz übergegangen, nachdem sich Unternehmen jahrelang dagegen gewehrt hätten. Mati Staniszewski von ElevenLabs sagte, eine Pause könne bei globaler Abstimmung gelingen, bezweifelte aber, dass sich diese erreichen lässt.

Hodak sagte, die derzeit führenden Modelle erfüllten bereits seine Definition von AGI. Er argumentierte, das Kartellrecht solle Frontier-Labore darauf beschränken, Intelligenz zu verkaufen, und sie aus Bereichen wie Medikamenten und Autos heraushalten. Lila Ibrahim, Chief AI Readiness Officer von Google DeepMind, sagte, es gehe nicht um ein Entweder-oder, und Sicherheit lasse sich nicht erst am Ende hinzufügen. Clem Delangue von Hugging Face sagte, seine Hauptsorge sei, dass KI Talente, Rechenleistung und Vermögen konzentriere.

Kontext

Das Panel fand einen Tag vor dem geplanten Handelsstart von Anthropic statt. Hendrycks wiederholte Kritik aus einer von seiner Gruppe organisierten Erklärung gegen das Unternehmen, das auf dem Panel nicht vertreten war. In Anthropics Börsenprospekt heißt es, man rechne nicht damit, Claude ohne wirksame menschliche Aufsicht seine Nachfolger vollständig entwickeln zu lassen. Hugging Face, das Nvidia übernimmt, war zuletzt vier Tage lang von einem Einbruch durch Forschungsagenten von OpenAI betroffen.

ElevenLabs-Profil

Google-Profil

QuelleTNW | Agi

Das Briefing

Die Tech-Woche in einer E-Mail.

Die lesenswerten Beiträge der Woche. Jederzeit abbestellbar.