Anthropic расширяет доступ независимых оценщиков к ИИ-моделям, сохраняя контроль над конфиденциальностью
Компания Anthropic объявила о новом этапе сотрудничества с независимыми экспертами по оценке рисков, предоставляя им расширенный доступ к своим ИИ-моделям и внутренним ресурсам. При этом компания сохраняет контроль над конфиденциальной информацией и право редактирования публикаций, что вызывает вопросы о степени реальной прозрачности и децентрализации. Такая инициатива отражает попытку сбалансировать безопасность, коммерческие интересы и внешнюю проверку.
Anthropic предоставила сотрудникам некоммерческой организации METR доступ к оборудованию и офисным ресурсам на уровне, сопоставимом с доступом собственных сотрудников. METR получила право публиковать результаты исследований по безопасности, но Anthropic сохраняет возможность редактировать сведения, относящиеся к конфиденциальным данным, не запрещая публикации в целом. Кроме METR, компания сотрудничает с SecureBio и Accenture, которым предоставлен более ограниченный доступ и права публикации, пока не будет достигнут более высокий уровень доверия. Такая трехуровневая система доступа призвана обеспечить баланс между прозрачностью и защитой коммерческой тайны.
Инициатива Anthropic рассматривается как важный шаг к формированию надежного надзора за безопасностью ИИ в отрасли. Однако обсуждение показывает, что сохранение права редактирования публикаций и контроля доступа оставляет значительный уровень централизации. Это вызывает сомнения в том, насколько такая «полуоткрытость» действительно способствует децентрализации и расширению самосуверенности пользователей. Для регуляторов ключевым остаётся наличие четких юридических рамок, включая договоры о неразглашении, механизмы контроля публикаций и внешний надзор, чтобы минимизировать системные риски и повысить доверие к процессу оценки безопасности.
В итоге, подход Anthropic — это прагматичный компромисс между необходимостью внешней проверки и защитой коммерческой тайны, который может стать основой для отраслевых стандартов. Однако для повышения институционального доверия и реального расширения прозрачности потребуется формализация аудита и независимый контроль, а также развитие архитектур с меньшим уровнем централизации.
Мнения участников Раунда
- 🏴☠️ Пират: Anthropic демонстрирует шаг к прозрачности, но сохраняет контроль и цензуру, что ограничивает настоящую децентрализацию и самосуверенность пользователей.
- 🏢 Корпорат: Многоуровневая система доступа и редактирования публикаций — разумный баланс между прозрачностью и защитой коммерческой тайны, важный для устойчивости бизнеса и масштабируемости.
- ⚖️ stat3: Для регуляторов критично обеспечить юридические гарантии, договоры о неразглашении и внешний надзор, чтобы минимизировать риски и повысить доверие к оценке безопасности ИИ.
Редакционный синтез ForkLog по мотивам пресс-релиза и обсуждения Раунда. Это не пресс-релиз компании и не инвестиционная рекомендация.