Глава британской контрразведки MI5 предупредил, что ИИ может «изменить ставки» в разработке биологического оружия. Эксперты сходятся в том, что технология способна усилить тех, у кого уже есть знания и ресурсы, но главные барьеры по-прежнему лежат за пределами чат-ботов.
Глава британской контрразведки MI5 сэр Кен Маккаллум в ежегодном выступлении об угрозах национальной безопасности заявил, что искусственный интеллект может «изменить ставки» как в отношении уже известного биологического оружия, так и в отношении новых его видов. Как пишет The Guardian, заявление прозвучало на фоне серии исследований и инцидентов, показавших, что ИИ-инструменты могут выдавать потенциально опасную информацию. Эксперты выделяют три уровня угрозы. Первый связан с неподготовленными одиночками и террористическими группами: чат-боты могут помочь им собрать разрозненную информацию и спланировать работу, но речь, скорее всего, будет идти об уже существующих патогенах и токсинах. Второй и, по мнению экспертов, более актуальный риск исходит от хорошо обеспеченных организаций и государств, у которых есть квалифицированные учёные, лаборатории высокого уровня защиты и всё необходимое оборудование. «Здесь ИИ не отменяет необходимость экспертизы, а усиливает уже существующую», - говорит Филиппа Ленцос из Королевского колледжа Лондона. Третий, более отдалённый сценарий предполагает, что высококвалифицированные группы используют ИИ для создания принципиально новых патогенов, устойчивых к лекарствам или не имеющих противоядий.
В прошлом году полиция Индии раскрыла предполагаемый заговор, участники которого, включая врача, якобы использовали запросы к чат-ботам и ИИ-поиск, чтобы получить рицин в домашних условиях. Насколько ответы ИИ им действительно помогли, неясно. В сентябре Anthropic сообщила о пяти случаях, когда учёные из неназванных стран пытались использовать чат-бот Claude для потенциально опасной работы с вирусами и токсинами. Тревожным сигналом компания назвала то, что после блокировки они искали обходные пути. В ходе учений в MIT студенты без научной подготовки менее чем за час получили от чат-ботов информацию о потенциально пандемических патогенах, хотя специалисты подчёркивают, что на практике воспользоваться ею гораздо сложнее. Главная трудность в том, что одно и то же исследование может служить как защите здоровья, так и созданию оружия. В 2025 году учёные Лос-Аламосской национальной лаборатории обучили ИИ предсказывать, как нейротоксины морских улиток связываются с клетками человека, что могло помочь в создании противоядий. Однако правительство США встревожилось, когда китайские исследователи на основе этой работы создали собственный инструмент для проектирования новых токсинов, хотя сами они утверждали, что речь идёт только о разработке лекарств. А в апреле учёные впервые создали вирусы, спроектированные ИИ. Эти вирусы поражают только бактерии и могут лечь в основу новых препаратов, но эксперты предупредили, что работа поднимает «срочные вопросы биобезопасности».
Большинство работ в этой области недоступно неподготовленным группам: они крайне сложны технически и опасны для самих исполнителей. «Информация - лишь одна часть проблемы, - говорит Ленцос. - Неявные знания, доступ к биологическим материалам и оборудованию, экспериментальная проверка, масштабирование и доставка остаются серьёзными барьерами». Соня Бен Уаграм-Гормли из Университета Джорджа Мейсона напоминает, что именно неформализованный практический опыт, с которым ИИ вряд ли поможет, был ключом к успеху исторических государственных программ биологического оружия. Профессор Цюрихского университета Мартин Пачеса проводит параллель с ядерным оружием: любой выпускник-физик может набросать чертёж бомбы, но где он возьмёт уран? По его словам, если у кого-то уже есть доступ к материалам и мощностям, ИИ мало что изменит.
По словам Тома Инглсби, директора Центра безопасности здравоохранения Университета Джонса Хопкинса, часть ИИ-компаний принимает меры против злоупотреблений, но большинство не раскрывает, делает ли оно хоть что-то, а государственной политики на этот счёт пока нет ни в одной стране. Он выступает за обязательную независимую оценку новых моделей до их выпуска, ограничение доступа к высокорисковым биологическим данным и обязательную проверку заказов у компаний, синтезирующих генетический материал. Сейчас такая проверка в основном добровольная, и её можно обойти, если опасные последовательности спроектированы с помощью ИИ и не входят в списки, по которым ведётся контроль. Для ИИ-индустрии биобезопасность становится одним из ключевых регуляторных рисков: обязательные проверки моделей перед релизом могут замедлить вывод новых продуктов на рынок и повысить издержки разработчиков, а добровольный скрининг заказов у компаний, синтезирующих ДНК, может стать обязательным. Пока же баланс выглядит так: ИИ заметно облегчает доступ к информации, но не к материалам, оборудованию и практическому опыту, а именно они по-прежнему отделяют намерение от реальной угрозы.