Чем умнее становится искусственный интеллект, тем сложнее провести границу между полезной научной помощью и информацией, способной причинить серьезный вред. Anthropic сообщила, что обнаружила и заблокировала ряд попыток использовать ее модели Claude для кибератак, слежки, скрытых информационных кампаний и исследований, потенциально применимых при создании биологического оружия. Особенно важен вывод самой компании: возможности новых моделей растут настолько быстро, что прежних механизмов безопасности уже недостаточно.
Речь не идет о том, что Claude самостоятельно пытался создать опасный патоген. Проблема тоньше. Современный ИИ способен анализировать научную литературу, связывать данные из разных областей, предлагать последовательность исследований и помогать решать задачи, для которых еще недавно требовалась серьезная профессиональная подготовка. Это огромный плюс для науки, но одновременно возникает эффект двойного назначения: знания, ускоряющие разработку лекарства, иногда могут помочь сделать биологический агент опаснее.
Показательный случай Anthropic обнаружила при попытке использовать Claude для подготовки заявки на финансирование исследования вируса чикунгунья. Этот переносимый комарами вирус вызывает лихорадку и сильную боль в суставах. Предлагаемая работа относилась к исследованиям усиления функций и предполагала изучение изменений, способных влиять на передачу вируса и уклонение от иммунного ответа. Подобные эксперименты могут иметь законные медицинские цели, например помогать понять эволюцию патогена или создавать средства защиты, однако полученные знания потенциально применимы и в противоположных целях.
Именно здесь фильтрация запросов становится необычайно сложной. Вопрос о структуре вируса сам по себе не опасен. Анализ мутации тоже является обычной частью биологии. Но длинная последовательность внешне безобидных запросов способна постепенно превратиться в практическое руководство по проведению рискованного эксперимента. Системе безопасности приходится оценивать не отдельное слово, а контекст, намерение пользователя и потенциальный результат помощи.
Anthropic признает, что с прежними поколениями моделей проблема выглядела иначе. Возможностей Claude Opus 4 и Claude Sonnet 4.5, выпущенных в 2025 году, по оценке компании, было недостаточно, чтобы существенно расширить возможности уже квалифицированного специалиста при проведении опасных биологических исследований. Поэтому ограничения в основном должны были мешать новичкам получать инструкции по воспроизведению известных угроз.
С более мощными моделями такая уверенность исчезает. Если ИИ начинает действительно помогать профессионалам решать сложные научные задачи, нельзя одновременно предполагать, что он никогда не окажется полезным человеку с опасными намерениями. Поэтому Anthropic расширяет защиту для биологических исследований двойного назначения. Фактически меняется сама модель безопасности: защищаться приходится уже не только от очевидного запроса на создание оружия, но и от интеллектуальной помощи, которая может стать одним из элементов опасного проекта.
Биология при этом оказалась лишь одним направлением. Компания описала использование ИИ для вредоносных киберопераций, разработки шпионских инструментов и политических информационных кампаний. Здесь искусственный интеллект меняет прежде всего стоимость и скорость работы. То, для чего раньше требовалась команда специалистов, может частично автоматизироваться: поиск информации, написание программного кода, подготовка сообщений, создание множества вариантов контента и управление цифровыми персонажами.
Особенно интересен пример с социальными сетями. Anthropic обнаруживала операции, при которых создавались аккаунты, имитирующие обычных пользователей, а затем в течение недель формировалась история публикаций с определенной политической направленностью. Для общества опасность здесь заключается не в одном убедительном тексте, созданном ИИ, а в масштабировании. Один оператор потенциально способен управлять количеством цифровых персонажей, которое раньше потребовало бы работы целой группы людей.
Подобная ситуация возникает и в кибербезопасности. Модель не превращает неопытного пользователя мгновенно в выдающегося хакера, однако может выполнять часть интеллектуальной работы: разбирать код, искать ошибки, писать скрипты и объяснять устройство программных систем. По мере повышения качества моделей планка знаний, необходимая для некоторых атак, способна снижаться.
Anthropic утверждает, что выявленные ею наиболее серьезные операции были заблокированы, а полученная информация использована для совершенствования защитных механизмов и передана другим участникам системы безопасности. Но возникает более фундаментальный вопрос: должны ли сами разработчики ИИ единолично определять границу допустимого?
Это особенно трудно в науке. Слишком жесткая блокировка может лишить исследователей полезнейшего инструмента. Слишком слабая — открыть опасные возможности. Причем универсального перечня запрещенных вопросов недостаточно, потому что одна и та же информация может использоваться для создания вакцины, изучения эпидемии или разработки угрозы.
В этом смысле новый отчет Anthropic интересен не только перечислением злоупотреблений. Он показывает момент, когда безопасность ИИ начинает меняться вместе с самой технологией. Пока модели были преимущественно генераторами текста, главными проблемами казались ошибки, предвзятость и дезинформация. Теперь системы постепенно превращаются в интеллектуальные инструменты, способные помогать в программировании и научной работе.
И чем полезнее они становятся для хорошего исследователя, тем потенциально полезнее могут оказаться для злоумышленника. Это один из главных парадоксов современного ИИ: нельзя резко увеличить способность машины решать сложные задачи, оставив неизменным потенциальный масштаб неправильного применения. Поэтому следующая гонка в искусственном интеллекте будет идти не только за более умными моделями. Не менее важным становится вопрос, успеют ли системы контроля развиваться с той же скоростью.
А затем «Добавить на главный экран».
