Спустя три дня после публичного запуска Fable 5 - модели которую месяцами тестировали на безопасность - американское правительство потребовало приостановить доступ для иностранцев. Anthropic заявляет что это затронет всех пользователей включая американских, и называет основания «недопониманием».
Anthropic объявила что будет «резко отключена» доступ к своим самым продвинутым ИИ-моделям для всех пользователей после того как правительство США приказало приостановить доступ к этим моделям для иностранных граждан со ссылкой на соображения национальной безопасности.
Компания получила директиву по экспортному контролю требующую приостановить доступ к Fable 5 и Mythos 5 для всех иностранных граждан - без предоставления конкретных деталей самой угрозы безопасности. По пониманию Anthropic правительство полагает что существует способ обойти - «джейлбрейкнуть» - защитный механизм который должен предотвращать использование Fable 5 для поиска уязвимостей в программном обеспечении. Поскольку Anthropic технически не может ограничить доступ только для иностранных граждан без отключения модели целиком - компания вынуждена отключить Fable 5 и Mythos 5 для всех пользователей включая американских. Доступ к остальным моделям Anthropic не затронут.
Буквально несколько дней назад Anthropic с гордостью представила Fable 5 - первую публично доступную модель из класса Mythos после месяцев ограниченного доступа и более 1 000 часов red-teaming со внешними экспертами. Компания тогда заявляла что работала с американским правительством над безопасностью перед запуском, и что ни один эксперт не смог полностью разблокировать модель. Anthropic также заявляет что у неё есть лишь «устные доказательства потенциального узкого, не универсального джейлбрейка» - и категорически не согласна что обнаружение такого узкого потенциального джейлбрейка является основанием для отзыва коммерческой модели развёрнутой для сотен миллионов пользователей.
Отношения Anthropic с правительством обострились в этом году после того как компания отказалась разрешить американским военным использовать её модели для внутренней слежки и полностью автономных систем оружия. В ответ правительство внесло Anthropic в чёрный список цепочек поставок - вступление в силу которого было запланировано на конец года.
Примечательно что эта директива по экспортному контролю приходит именно в момент когда предыдущий конфликт между администрацией Трампа и Anthropic, готовящейся к IPO, начал демонстрировать признаки ослабления в отдельных частях правительства. Сама Anthropic ещё в среду призывала к усилению государственного надзора за ИИ - включая возможность блокировать модели с неприемлемыми рисками. Однако компания считает что нынешние действия правительства не следуют принципам справедливого и основанного на фактах регулирования.
Главный директор по информации Министерства обороны США Кирстен Дэйвис написала в X что оборонное ведомство поддерживает приоритет национальной безопасности: «Некоторые вещи просто важнее циклов выручки, кликбейта и предварительной оценки перед IPO. America First. Всегда». Это прямая и публичная демонстрация того что соображения национальной безопасности в текущей администрации стоят выше коммерческих интересов даже крупнейших технологических компаний - вне зависимости от их статуса перед публичным размещением.
Эта мера представляет собой существенную эскалацию усилий США по сдерживанию ИИ-возможностей иностранных противников. На протяжении многих лет американский экспортный контроль фокусировался на чипах и инструментах питающих ИИ - а не на ограничении доступа иностранцев к самому ИИ как продукту.
Эксперты отмечают что модели класса Mythos в неправильных руках способны значительно ускорить сложные кибератаки - особенно в секторах вроде банковского, которые зависят от сложных взаимосвязанных и часто десятилетиями работающих технологических систем. Именно эта возможность - быстро находить уязвимости в критической инфраструктуре - изначально была причиной ограниченного доступа к Mythos.
Anthropic подчёркивает что модели конкурирующих ИИ-провайдеров демонстрируют схожую способность находить мелкие ошибки в коде - то есть проблема не уникальна для продукта Anthropic.
Для Anthropic это удар сразу по нескольким направлениям. Компания на прошлой неделе конфиденциально подала документы на IPO в США, опередив конкурента OpenAI в гонке на публичные рынки. Внезапное отключение флагманской модели - представленной публике буквально на этой неделе как венец многолетней разработки - создаёт неопределённость прямо в момент когда компания готовится демонстрировать инвесторам устойчивость своего продуктового портфеля. Для клиентов которые уже начали интегрировать Fable 5 в свои рабочие процессы - особенно для разработки и отладки кода где модель позиционировалась как особенно эффективная - внезапное отключение означает операционный сбой. Anthropic заявляет что работает над восстановлением доступа как можно скорее, называя ситуацию недопониманием.
Для более широкого ИИ-рынка эпизод формирует новый прецедент: экспортный контроль теперь может применяться не только к аппаратному обеспечению но и напрямую к доступу к самим моделям как к продукту. Это создаёт новый тип регуляторного риска для всех разработчиков передовых ИИ-моделей - вне зависимости от того сколько часов red-teaming и каких партнёрств с государством было проведено перед запуском.
Anthropic заявляет о работе над скорейшим восстановлением доступа. Однако пока неясно сколько времени потребуется на разрешение разногласий между компанией и правительством относительно характера и серьёзности обнаруженной уязвимости. Учитывая что Anthropic находится в процессе подготовки к IPO, а Пентагон публично подтвердил приоритет национальной безопасности над коммерческими интересами - переговорная позиция компании выглядит ограниченной.
Главный открытый вопрос - станет ли это разовым эпизодом связанным с конкретной технической проблемой, или первым случаем применения нового инструмента экспортного контроля который будет регулярно использоваться против передовых ИИ-моделей вне зависимости от их происхождения.