Аналитический отчёт

OpenAI допустила четырёх внешних аудиторов к закрытым моделям

Apollo Research, METR, Transluce и Goodfire получили доступ к коду, обучающим данным и инструментам мониторинга, но OpenAI сохраняет право скрывать части отчётов и откладывать их публикацию.

INSIGHTEX Editorial Desk

2 мин чтения

OpenAI допустила четырёх внешних аудиторов к закрытым моделямАналитический отчёт

Что произошло

OpenAI начала допускать четыре внешние аудиторские группы к очной проверке своих внутренних ИИ-систем в офисах компании, сообщило издание The Decoder. Это организации Apollo Research, METR, Transluce и Goodfire. По словам OpenAI, программа расширяет прежнюю очную проверку того, как компания осуществляет мониторинг своих систем, и выполняет обязательства, взятые в рамках White House Accord on Super Intelligence.

В зависимости от задачи аудиторы могут работать с ещё не выпущенными моделями, а также с исходным кодом, обучающими данными и инструментами мониторинга и вправе конфиденциально беседовать с разработчиками. Apollo Research изучает, не действуют ли модели скрытно вопреки намерениям разработчиков, METR анализирует нежелательное поведение моделей во время крупнейшего в OpenAI запуска обучения с подкреплением, Goodfire исследует внутренние процессы моделей, а Transluce оценивает проверки безопасности после обучения.

Программу курирует независимый совет по безопасности: он получает отчёты без редактирования и разрешает споры. Аудиторы публикуют свои выводы самостоятельно, однако OpenAI может удалить из них конфиденциальные материалы и придержать отчёты, пока устраняет риски. OpenAI и Transluce планируют провести восьминедельную повторную проверку в начале 2027 года, а компания рассматривает дополнительные проверки, охватывающие корпоративную культуру и внутренние процессы.

Контекст

Программа продолжает более раннюю очную проверку систем мониторинга OpenAI, на которой, по словам компании, строится новая инициатива. Она также связана с обязательствами по White House Accord on Super Intelligence. OpenAI заявила, что на начальных этапах ожидает определённых трений, а положения о скрытии и задержке отчётов оставляют открытым вопрос о том, насколько независимым окажется надзор на практике.

ИсточникThe Decoder

Обзор

Неделя в технологиях в одном письме.

Материалы, которые стоят вашего времени, каждую неделю. Отписаться можно в любой момент.