В своей ежегодной речи об угрозах нации сэр Кен МакКаллум, глава британской разведывательной службы МИ5, предупредил, что ИИ может «изменить ставки» в отношении существующего и даже нового биологического оружия. Здесь мы рассмотрим, как ИИ может помочь в разработке биологического оружия, и препятствия, которые остаются.
Как ИИ может помочь людям создавать биологическое оружие?
Это зависит от того, кто хочет их сделать. Одним из рисков является мошенник, неквалифицированный злодей или террористическая группа, которая работает в гаражной лаборатории. Чат-боты с искусственным интеллектом могут помочь им повысить свои навыки, собирая соответствующую информацию, планируя эксперименты и устраняя проблемы. Вполне вероятно, что работа будет сосредоточена на использовании существующих патогенов и токсинов.
Другой риск исходит от хорошо обеспеченных ресурсами организаций и национальных государств, которые располагают множеством квалифицированных ученых, лабораториями с высокими требованиями к сдерживанию и всем оборудованием и реагентами, необходимыми для безопасной работы над биологическим оружием. Например, инструменты искусственного интеллекта могут помочь исследователям выявить генетические изменения, которые сделают существующие патогены более смертоносными. По мнению доктора Филиппы Ленцоса, преподавателя кафедры науки и международной безопасности Королевского колледжа Лондона, это более насущная проблема. «Здесь ИИ не устраняет необходимость в экспертных знаниях, а усиливает уже имеющиеся», — говорит она.
Более отдаленный риск исходит от высококвалифицированных групп, использующих ИИ для разработки совершенно новых патогенов и токсинов, устойчивых к лекарствам или не имеющих противоядий.
Пробовали ли люди использовать ИИ для создания биологического оружия?
В прошлом году полиция Индии раскрыла предполагаемый заговор с целью биотерроризма, в ходе которого врач и несколько других людей использовали запросы чат-ботов и поиск с помощью ИИ, предположительно, чтобы помочь им производить рицин, смертельный токсин, с помощью кухонных инструментов. Неясно, помогли ли ответы ИИ, но другие источники предполагают, что инструменты могут предоставлять важную и опасную информацию.
Компания Anthropic, занимающаяся искусственным интеллектом, выразила дополнительную обеспокоенность в сентябре, когда сообщила о пяти случаях, когда ученые в неназванных странах пытались использовать ее чат-бота Claude для, возможно, опасной работы с вирусами или токсинами. По словам компании, одним из тревожных сигналов было то, что после блокировки ученые нашли обходные пути.
В одном случае, по словам Anthropic, исследователи использовали чат-бота для планирования экспериментов, которые могли бы внести мутации в высокопатогенный вирус птичьего гриппа, чтобы облегчить его адаптацию и распространение среди млекопитающих. Эта работа и другие случаи могут означать попытки сделать патогены более опасными, но такие исследования также проводятся в законных лабораториях, чтобы помочь исследователям выявлять будущие пандемии и разрабатывать вакцины и лекарства для лечения болезней.
Что еще вызвало беспокойство?
Множество исследований показало, как инструменты ИИ могут предоставлять потенциально опасную информацию о биологическом оружии. В недавнем упражнении в Массачусетском технологическом институте студентов, не являющихся научными работниками, спросили, могут ли они получить чат-бота с искусственным интеллектом, который поможет им развязать пандемию. В течение часа чат-боты перечислили четыре потенциальных пандемических патогена, объяснили, как их получить из синтетической ДНК, и назвали названия компаний, занимающихся синтезом ДНК, которые вряд ли будут проверять их заказы. Однако это легче сказать, чем сделать.
В другом случае исследователь из Стэнфордского университета доктор Дэвид Релман описал, как ИИ объяснил, как модифицировать патоген, чтобы сделать его устойчивым к лечению. Другой учёный рассказал, что чат-бот с искусственным интеллектом объяснил, как использовать метеозонд для сброса биологического оружия с неба.
Двойной характер биологических исследований может затруднить выделение ценной работы, которая могла бы защитить здоровье, от попыток разработать биологическое оружие. В 2025 году ученые из Национальной лаборатории Лос-Аламоса обучили ИИ предсказывать, как исключительно мощные нейротоксины морских улиток захватываются клетками человека, и эта работа может помочь в разработке противоядий. Но правительство США забеспокоилось, когда китайские исследователи обратились к работе по разработке собственного инструмента для создания новых токсинов. Китайские исследователи заявили, что работа была направлена исключительно на разработку лекарств.
В апреле ученые выразили еще большую обеспокоенность, когда создали первые вирусы, созданные с помощью ИИ. Вирусы представляют собой особый тип, который поражает только бактерии, и эта работа может привести к созданию новых лекарств, но эксперты предупредили, что она поднимает «срочные вопросы биобезопасности и биозащиты».
Какие препятствия усложняют задачу?
Большая часть работ по биологическому оружию недоступна для неквалифицированных групп: помимо того, что они высокотехнологичны, они чрезвычайно опасны. Хотя чат-ботам с искусственным интеллектом может быть предложено предоставить информацию о биологическом оружии, одного списка инструкций недостаточно. «Информация — это только одна часть проблемы», — говорит Ленцос. «Негласный опыт, доступ к биологическим материалам и оборудованию, экспериментальная проверка, масштабирование и доставка — все это остается серьезными препятствиями».
Соня Бен Уаграм-Гормли, заместитель директора программы биозащиты в Университете Джорджа Мейсона в Вирджинии, говорит, что негласное знание – неписаное ноу-хау, с которым ИИ вряд ли поможет – было ключом к успеху исторических государственных программ биологического оружия.
Профессор Мартин Пачеса из Цюрихского университета сказал, что доступ к материалам имеет решающее значение. “Любой дипломированный физик мог бы набросать планы потенциально более эффективной ядерной бомбы, но где он возьмет кусок урана? То же самое и с биологическим оружием. Если у вас есть доступ к материалам и объектам, способным его производить, то ИИ не будет иметь большого значения, если вы хотите причинить вред”.
Некоторые компании, занимающиеся искусственным интеллектом, предпринимают шаги, чтобы помешать людям использовать их инструменты для разработки биологического оружия, но большинство из них не объявляют, что именно они делают, говорит профессор Том Инглесби, директор Центра безопасности здоровья Джонса Хопкинса. «Ни в одной стране у нас еще нет официальной государственной политики, которая могла бы защитить от такого рода злоупотреблений», — говорит он.
Он хочет, чтобы новые модели ИИ прошли формальную независимую оценку перед их выпуском и чтобы все опасности были устранены до того, как модели будут обнародованы. А биологические данные высокого риска, такие как информация о том, как патогены могут легче распространяться, должны быть ограничены. Между тем, компании, производящие генетический материал для исследователей, должны проверять заказы, чтобы убедиться, что они не предназначены для создания новых, очень опасных вирусов. Некоторый скрининг уже проводится, но он в основном добровольный, и его можно обойти, если исследователи будут использовать ИИ для разработки новых, вредных генетических последовательностей, которые компании не проверяют.
