В 2016 году печально известное «Агентство интернет-исследований» (IRA) в Санкт-Петербурге стало символом вмешательства в выборы. Сотни его сотрудников вручную создавали фейковые аккаунты и разжигали споры в социальных сетях. Но по факту, несмотря на огромные деньги и ресурсы, влитые в IRA, их влияние было минимальным. Особенно если сравнивать с другой, связанной с Россией кампанией, когда электронные письма Hilary Clinton слили в сеть прямо перед выборами [1]. Сегодня, спустя почти десятилетие, этот подход выглядит архаично. Новая статья, опубликованная в журнале Science в четверг, предсказывает скорый и резкий скачок в том, как будут проводиться такие кампании [2]. На смену «фабрикам троллей» приходит новая, куда более грозная сила: один оператор, командующий «роями» из тысяч автономных ИИ-агентов. Эти системы способны не только генерировать уникальный контент, но и самообучаться, координируя свои действия для достижения цели. Это ставит под угрозу не просто исход отдельных выборов, а сами основы демократического общества.

• Анатомия угрозы: что такое ИИ-рои и из чего они состоят
• Механизмы влияния: самообучающаяся пропаганда в реальном времени
• Невидимый враг: почему ИИ-рои почти невозможно обнаружить
• Решения и препятствия: битва за цифровое будущее
• Три сценария будущего в войне с дезинформацией

Анатомия угрозы: что такое ИИ-рои и из чего они состоят

Эпоха «фабрик троллей», подобных печально известному «Агентству интернет-исследований», где сотни сотрудников вручную создавали провокационный контент, безвозвратно уходит в прошлое. Это ключевое отличие при сравнении ИИ-роев и фабрик троллей: переход от человеческого труда к автономным, самообучающимся системам. На смену пришли куда более изощренные и масштабируемые методы, основанные на последних достижениях в области искусственного интеллекта. Сегодня злоумышленникам уже не нужны офисы, заполненные людьми; достаточно доступа к мощным ИИ-инструментам для создания фейковых новостных сайтов и убедительных deepfake-видео, несущих прямую угрозу для честности выборов. Под последними понимаются синтетические медиафайлы (видео или аудио), созданные с помощью алгоритмов глубокого обучения, которые реалистично подделывают внешность или голос человека. Они используются для создания убедительной, но ложной информации, например, для имитации публичных выступлений политиков. Этот технологический сдвиг знаменует собой новую эру информационного противостояния, где главной угрозой становятся не люди, а автономные системы.

Центральным элементом этой новой угрозы является концепция, которую эксперты называют «ИИ-рои». Это скоординированные группы из тысяч автономных аккаунтов в социальных сетях, управляемых искусственным интеллектом. В отличие от старых ботнетов, рои способны генерировать уникальный контент, имитировать человеческое поведение и адаптироваться в реальном времени без постоянного контроля человека. Искусственный интеллект позволяет создавать эти автономные «рои», способные генерировать неотличимый от человеческого и скоординированный дезинформационный контент в промышленных масштабах. Один оператор, вооруженный такими технологиями, может управлять армией цифровых аватаров, чья мощь многократно превосходит возможности любой «фабрики троллей» образца 2016 года.

Фундаментальными строительными блоками этих систем являются так называемые «ИИ-агенты». Это продвинутые программные сущности, основанные на ИИ, которые способны поддерживать устойчивую личность, обладать памятью и координироваться для достижения общих целей, симулируя правдоподобные онлайн-идентичности. Именно эти новые ИИ-агенты, о потенциале которых мы уже писали в статье «Давос-2026: ИИ, Трамп и геополитика — что обсуждали на ВЭФ» [1], обладают устойчивыми личностями и памятью, что делает их более правдоподобными и неуловимыми по сравнению с классическими ботнетами. Если старые боты действовали по примитивным скриптам и легко выявлялись, то современные агенты способны вести осмысленные диалоги, помнить предыдущие взаимодействия и выстраивать долгосрочные отношения с реальными пользователями.

Ключевое преимущество ИИ-роев заключается в их способности к сложной координации при сохранении индивидуальности каждого агента. Обладая общей целью — например, дискредитацией политического кандидата — рой может действовать как единый организм. Агенты могут ссылаться друг на друга, поддерживать дискуссии, создавая иллюзию массовой поддержки. При этом каждый отдельный аккаунт ведет себя уникально: у него своя история публикаций, стиль общения и круг «друзей». Эта децентрализованная и адаптивная модель поведения делает их чрезвычайно сложными для обнаружения существующими системами модерации, которые настроены на поиск скоординированного неаутентичного поведения по старым лекалам.

Как отмечает Йонас Кунст, профессор коммуникаций в Норвежской бизнес-школе BI, мы вступаем в новую фазу информационной войны. «Мы переходим в новую фазу информационной войны на платформах социальных сетей, где технологический прогресс сделал классический подход с ботами устаревшим», — утверждает он. Эта оценка подчеркивает качественный скачок: угроза сместилась от грубой силы к интеллектуальному, адаптивному и практически невидимому воздействию, способному манипулировать общественным мнением в беспрецедентных масштабах.

Механизмы влияния: самообучающаяся пропаганда в реальном времени

Ключевое отличие и главная опасность ИИ-роев заключается не столько в способности генерировать правдоподобный контент, сколько в их революционных операционных механизмах. Эти системы превращают кампании по дезинформации из статичного вещания в динамичную, самообучающуюся и адаптивную войну за общественное мнение, ведущуюся в реальном времени. Их эффективность строится на двух фундаментальных технологических прорывах, недоступных ранее.

Во-первых, это способность к масштабному картированию социальных сетей. Прежде чем начать действовать, рой анализирует цифровую среду, выстраивая подробную карту сообществ, их взаимосвязей, неформальных лидеров и культурных особенностей. Это позволяет операторам кампаний не распылять усилия, а наносить точечные удары, направляя ИИ-агентов в те узлы социальной сети, где их сообщения вызовут наибольший резонанс и получат органическое распространение. Вместо ковровых бомбардировок пропагандой применяется хирургически точное воздействие.

Во-вторых, и это самое грозное оружие в их арсенале, — проведение миллионов «micro A/B тестов» для оттачивания пропаганды в реальном времени. Основная угроза заключается в способности этих роев адаптировать сообщения для максимального воздействия на конкретные сообщества и убеждения. Рой не предполагает, какой аргумент сработает лучше, — он проверяет это эмпирически. Система одновременно запускает тысячи вариаций одного и того же нарратива, незначительно меняя формулировки, тон или визуальное сопровождение. Реакция пользователей — лайки, комментарии, репосты — служит мгновенной обратной связью. Наиболее «вирусные» и убедительные версии сообщения немедленно идентифицируются и масштабируются, в то время как неэффективные отбрасываются. Этот непрерывный цикл позволяет им распространять самые действенные варианты пропаганды со скоростью машины и итерировать стратегии гораздо быстрее, чем любая команда людей, превращая общественное сознание в гигантский полигон для оттачивания манипулятивных техник.

Невидимый враг: почему ИИ-рои почти невозможно обнаружить

Ключевая проблема, которая превращает ИИ-рои в экзистенциальную угрозу, заключается в их способности оставаться невидимыми для существующих систем защиты. Вопрос о том, как обнаружить ИИ-рои дезинформации, становится центральным для специалистов по кибербезопасности, но однозначного ответа на него пока нет. Эксперты предупреждают, что стандартные инструменты, разработанные для отслеживания «скоординированного неаутентичного поведения», попросту не способны засечь эти новые сущности. Сам этот термин используется социальными медиа-платформами для описания и выявления организованных операций по манипулированию общественным мнением, включая использование фальшивых аккаунтов или ботов, работающих вместе, чтобы ввести пользователей в заблуждение. Однако ИИ-рои действуют на совершенно ином уровне. В отличие от примитивных ботов, они не просто публикуют однотипный контент, а имитируют сложное человеческое поведение, адаптируются к обсуждениям в реальном времени и создают уникальные, неотличимые от человеческих сообщения. Это делает их распространенность практически неизвестной.

Из-за этой способности к мимикрии и растущей закрытости данных со стороны технологических платформ исследователи сталкиваются с серьезными трудностями в оценке реальных масштабов проблемы. «Очень сложно обнаружить их и оценить, в какой степени они уже присутствуют», — отмечает Йонас Кунст, один из соавторов доклада. По его прогнозам, хотя рои вряд ли окажут решающее влияние на промежуточные выборы в США в 2026 году, они, скорее всего, станут мощным инструментом для вмешательства в президентскую гонку 2028 года. Эту тревогу разделяет и Нина Янкович, бывший руководитель отдела по борьбе с дезинформацией в администрации Байдена, которая описывает эту угрозу как «российские «фабрики троллей» на стероидах» — метафора, ярко иллюстрирующая скачок в масштабе и изощренности.

Тем не менее, существует и более сдержанная точка зрения. Некоторые критики полагают, что угроза может быть отчасти преувеличена экспертами для привлечения внимания регуляторов и дополнительного финансирования исследований. Кроме того, нельзя сбрасывать со счетов и чисто технические барьеры. Фактическая сложность поддержания тысяч автономных ИИ-личностей, которые должны действовать когерентно, сохранять свои «воспоминания» и убедительно взаимодействовать друг с другом и с людьми, остается чрезвычайно высокой. Создание и управление такой сложной системой требует значительных вычислительных ресурсов и передовых инженерных решений, которые пока не являются общедоступными.

Более того, вопреки мнению, что платформы заинтересованы в любом виде вовлеченности, у них есть весомые стимулы для противодействия этой угрозе. Крупные технологические компании, несмотря на приоритет удержания пользователей, имеют сильные репутационные и юридические мотивы для разработки передовых ИИ-инструментов обнаружения. Потенциальные скандалы, связанные с массовым манипулированием, и риск жесткого регуляторного давления заставляют их инвестировать в защитные технологии, чтобы не допустить превращения своих площадок в рассадники неконтролируемой дезинформации.

Решения и препятствия: битва за цифровое будущее

Надвигающаяся эра ИИ-роев ставит перед обществом комплексную угрозу, выходящую далеко за рамки технологических вызовов. Эксперты выделяют несколько ключевых рисков, способных подорвать основы демократических институтов. Во-первых, это массовая эрозия общественного доверия к любой онлайн-информации, поскольку грань между человеческим и сгенерированным контентом стирается до неузнаваемости. Во-вторых, возникает прямой политический риск: успешное манипулирование ключевыми выборами, такими как президентская гонка в США 2028 года, может привести к полной делегитимизации власти. Наконец, технологический аспект проблемы создает порочный круг: оборонительные системы, предназначенные для обнаружения дезинформации, постоянно отстают от наступательных ИИ-технологий, что порождает непрерывную гонку вооружений. Эта ситуация превращается в новый фронт борьбы за кибербезопасность, где ставки высоки как никогда, о чем мы писали в статье «ИИ-хакерство: как искусственный интеллект становится взломщиком» [2]. Как отмечает Lukasz Olejnik, приглашенный старший научный сотрудник Департамента военных исследований King’s College London и автор книги Propaganda: From Disinformation and Influence to Operations and Information Warfare [3], мы вступаем в «чрезвычайно сложную среду для демократического общества».

В ответ на эти экзистенциальные угрозы, «чтобы бороться с угрозой, исходящей от ИИ-роев, исследователи предлагают создать «Обсерваторию влияния ИИ» (AI Influence Observatory)» [4]. Идея заключается в формировании независимого консорциума из академических и неправительственных организаций. Цель такого органа — стандартизировать сбор доказательств, улучшить ситуационную осведомленность о скоординированных кампаниях влияния и обеспечить более быструю коллективную реакцию на возникающие угрозы. Принципиально важно, что в состав этой группы не предлагается включать представителей самих социальных сетей.

Однако именно в этом решении кроется его фундаментальная слабость. Платформы исключены из-за прямого конфликта интересов: их бизнес-модели построены на максимизации вовлеченности пользователей, а ИИ-рои, генерирующие бесконечный поток провокационного контента, идеально служат этой цели. Как объясняет соавтор исследования Йонас Кунст, для платформы рост активности означает больше просмотров рекламы и, как следствие, рост капитализации. Раскрытие информации о деятельности ИИ-роев противоречит их коммерческим интересам. В результате «Обсерватория влияния ИИ» рискует оказаться беззубым инструментом — без доступа к закрытым данным платформ и без реальных полномочий по наложению санкций ее эффективность в борьбе с глобальной угрозой будет минимальной.

К этому добавляется и регуляторный паралич. Эксперты, включая Олейника и бывшего координатора по борьбе с дезинформацией в администрации Байдена Нину Янкович, указывают на почти полное отсутствие политической воли у правительств для эффективного противодействия. Геополитическая напряженность делает международное сотрудничество в этой сфере маловероятным, а внутри стран законодатели не спешат вводить жесткие меры, которые могли бы ограничить как технологические компании, так и потенциальные инструменты политической борьбы. Таким образом, предлагаемое решение, будучи концептуально верным, наталкивается на непреодолимую стену из коммерческих интересов и политического бездействия, позволяя угрозе ИИ-роев беспрепятственно масштабироваться.

Три сценария будущего в войне с дезинформацией

Мы прошли долгий путь от примитивной «фабрики троллей» на улице Савушкина до порога новой эры, где автономные рои ИИ-агентов готовы вести информационную войну в планетарном масштабе. Центральная дилемма очевидна: мы столкнулись с мощнейшим оружием, способным подорвать демократические институты, но наши защитные механизмы и политическая воля к действию критически отстают. Будущее этого противостояния не предопределено и может развиваться по одному из трех вероятных сценариев. В позитивном варианте глобальное сотрудничество правительств, академии и IT-компаний приведет к быстрому внедрению стандартов аутентификации контента и эффективных ИИ-детекторов, нейтрализуя угрозу на корню. Более реалистичный, нейтральный сценарий предполагает, что ИИ-рои будут развернуты, но останутся частично обнаруживаемыми, а платформы введут лишь минимальные меры. Это приведет к постоянной, но управляемой информационной войне, медленно разрушающей доверие к онлайн-дискурсу. Наконец, в негативном исходе ИИ-рои достигают полной автономии, успешно манипулируя выборами и провоцируя глубокую политическую нестабильность, общественную фрагментацию и коллапс доверия к информации в сети. Какой из этих путей станет нашей реальностью, зависит от решений, которые принимаются уже сегодня.

Часто задаваемые вопросы

Что такое «ИИ-рои» и чем они принципиально отличаются от старых «фабрик троллей»?

ИИ-рои — это скоординированные группы из тысяч автономных аккаунтов в социальных сетях, управляемых искусственным интеллектом. В отличие от старых «фабрик троллей», где контент создавался вручную, рои способны генерировать уникальный контент, самообучаться и координировать действия без постоянного контроля человека. Этот переход от человеческого труда к автономным системам знаменует собой куда более изощренный и масштабируемый метод информационного противостояния.

Какие революционные операционные механизмы делают ИИ-рои такими эффективными в распространении пропаганды?

Их эффективность основана на двух прорывах: масштабном картировании социальных сетей для нанесения точечных ударов и проведении миллионов «micro A/B тестов» в реальном времени. Рой одновременно запускает тысячи вариаций одного нарратива, используя реакцию пользователей как мгновенную обратную связь. Это позволяет системе быстро идентифицировать и масштабировать самые «вирусные» и убедительные версии пропаганды.

Почему существующие системы модерации не могут обнаружить ИИ-рои?

Стандартные инструменты, настроенные на поиск «скоординированного неаутентичного поведения», неэффективны против ИИ-роев, поскольку те имитируют сложное человеческое поведение. Агенты способны вести осмысленные диалоги, обладать устойчивыми личностями с памятью и адаптироваться в реальном времени. Эта децентрализованная и адаптивная модель поведения делает их чрезвычайно сложными для выявления существующими системами.

Что представляют собой «ИИ-агенты», являющиеся строительными блоками ИИ-роев?

ИИ-агенты — это продвинутые программные сущности, основанные на ИИ, которые симулируют правдоподобные онлайн-идентичности. Они способны поддерживать устойчивую личность, обладать памятью и координироваться для достижения общих целей. Благодаря этим качествам, они могут выстраивать долгосрочные отношения с реальными пользователями, что делает их более правдоподобными, чем классические ботнеты.

Какое решение предлагается для борьбы с угрозой ИИ-роев и в чем его главная слабость?

Исследователи предлагают создать «Обсерваторию влияния ИИ» (AI Influence Observatory) — независимый консорциум для стандартизации сбора доказательств и улучшения ситуационной осведомленности. Однако его фундаментальная слабость заключается в исключении представителей социальных сетей. Это лишает Обсерваторию доступа к закрытым данным платформ, чьи коммерческие интересы противоречат раскрытию информации о деятельности ИИ-роев.