Главы ведущих ИИ-компаний подписали в Белом доме добровольное соглашение о безопасности передовых моделей искусственного интеллекта. Документ делает ставку на саморегулирование отрасли, тогда как пользователи соцсетей больше обсуждали подписи участников и опечатку в тексте соглашения.
В Белом доме 29 сентября собрались главы самых влиятельных ИИ-компаний мира, и все вместе с президентом Дональдом Трампом подписали новое соглашение о безопасности искусственного интеллекта. Документ добровольный, то есть не имеет силы закона, и построен на идее саморегулирования отрасли, когда компании сами следят за собой вместо того, чтобы это делало государство. При этом в соцсетях обсуждение свелось не столько к содержанию документа, сколько к тому, как именно расписались главы компаний.
Что содержит соглашение?
На обеде в Белом доме присутствовали Илон Маск (Tesla, SpaceX), Марк Цукерберг (Meta), Дарио Амодеи (Anthropic, разработчик чат-бота Claude), Дженсен Хуанг (Nvidia), Грег Брокман (президент OpenAI), Сундар Пичаи (Google) и другие руководители крупнейших технологических компаний. Документ, который они подписали, называется White House Accord on Super Intelligence (соглашение Белого дома по супер-интеллекту) и включает несколько добровольных мер безопасности для самых мощных, передовых моделей ИИ: внутренний мониторинг, отдельные команды по надзору за рисками внутри компаний, независимый внешний аудит и контроль на уровне совета директоров. Компании также договорились регулярно встречаться, чтобы вырабатывать дальнейшие стандарты безопасности, а в самом документе отмечается, что в будущем эти шаги, возможно, имеет смысл закрепить в законах.
Трамп назвал соглашение “морально обязывающим” и сравнил его с конституцией, подчеркнув, что отрасль в состоянии в основном регулировать себя сама. Одновременно было объявлено, что в государственном документообороте термин “искусственный интеллект” официально заменят на “супер-интеллект” (Super Intelligence, сокращённо SI).
Реакция самих участников была сдержаннее, чем риторика Трампа. Глава Meta Марк Цукерберг назвал соглашение “только началом”. Глава Anthropic Дарио Амодеи отметил, что конкретный механизм того, как компании будут справляться с рисками, “всё ещё обсуждается”, и подчеркнул, что индустрии важно добиться лидерства в ИИ именно безопасным способом, поскольку технология по-прежнему несёт “реальные опасности”.
Почему соглашение появилось именно сейчас?
Встреча прошла на фоне тревожных новостей о безопасности ИИ. Ранее в сентябре Амодеи опубликовал эссе “We Must Pace the Frontier” (“Мы должны задать темп для передовых моделей”), которое вызвало широкую дискуссию о том, не стоит ли крупным ИИ-компаниям совместно замедлить темп разработки. Незадолго до подписания соглашения издание Axios сообщило, что OpenAI, Anthropic и независимые исследователи безопасности разбирают тысячи случаев проблемного поведения ИИ-агентов (систем ИИ, способных самостоятельно выполнять многошаговые задачи, а не просто отвечать на отдельные запросы). А генеральный прокурор Флориды подал в суд иск с требованием приостановить обучение новых моделей OpenAI, пока компания не введёт дополнительные меры защиты.
Как отреагировала публика?
Несмотря на серьёзность темы, пользователи соцсетей сосредоточились не на содержании документа, а на том, как именно расписались главы компаний под соглашением, сравнивая почерки и превращая это в мемы. При этом в самом документе, который Трамп опубликовал у себя в Truth Social, оказалась опечатка: в подписи президента его должность написана как “President of the Unites States” вместо “United States”.
