Аналитический отчёт

Хендрикс требует бессрочной паузы в обучении ИИ, Ходак — антимонопольных мер

На DealBook Summit глава Center for AI Safety поддержал остановку крупнейших тренировочных запусков ИИ, а сооснователь Neuralink предупредил, что контроль потребует массовой слежки.

INSIGHTEX Editorial Desk

2 мин чтения

Хендрикс требует бессрочной паузы в обучении ИИ, Ходак — антимонопольных мерАналитический отчёт

Что произошло

Дэн Хендрикс, возглавляющий Center for AI Safety, в среду на DealBook Summit — мероприятии The New York Times в Нью-Йорке — выступил за бессрочную остановку крупнейших запусков обучения передовых ИИ-моделей, сообщает TNW | Agi. Макс Ходак, сооснователь Neuralink, ныне возглавляющий Science Corporation, возразил, что контроль за соблюдением такого запрета потребует тотальной слежки за интернетом. Панель по AGI модерировал Майкл Барбаро из The Daily.

Хендрикс сказал, что его план не затронет узкие системы, например голосовые модели и AlphaFold от DeepMind. По его словам, лаборатории по-прежнему смогут продавать инференс, а время паузы использовать, чтобы сделать модели более надёжными и защищёнными и закрыть джейлбрейки и бэкдоры. Он отметил, что раньше отдавал предпочтение узким техническим правилам, но перешёл к более жёсткому подходу после того, как компании годами им сопротивлялись. Мати Станишевский из ElevenLabs заявил, что пауза может сработать при глобальной согласованности, однако усомнился, достижима ли она.

Ходак сказал, что нынешние ведущие модели уже соответствуют его определению AGI. Он считает, что антимонопольное законодательство должно ограничить передовые лаборатории продажей интеллекта и не пускать их в такие сферы, как лекарства и автомобили. Директор Google DeepMind по готовности к ИИ Лила Ибрагим заявила, что выбор не стоит по принципу «или — или» и что безопасность нельзя добавлять в самом конце. Клем Деланг из Hugging Face сказал, что больше всего его тревожит концентрация в ИИ талантов, вычислительных мощностей и богатства.

Контекст

Панель прошла за день до того, как акции Anthropic должны были начать торговаться. Хендрикс повторил критику из заявления, организованного его группой против компании, у которой на панели не было представителя. В проспекте IPO Anthropic говорится, что компания не предполагает позволять Claude полностью разрабатывать своих преемников без значимого контроля со стороны человека. Hugging Face, которую покупает Nvidia, недавно пережила четырёхдневный взлом, устроенный исследовательскими агентами OpenAI.

Профиль ElevenLabs

Профиль Google

ИсточникTNW | Agi

Обзор

Неделя в технологиях в одном письме.

Материалы, которые стоят вашего времени, каждую неделю. Отписаться можно в любой момент.