Беларуский интернет под ботом. Почему наши соцсети стали токсичными и что с этим делать
Как диктатуры пользуются искусственным интелектом и ботофермами и к чему это может привести
Представьте, что вы в кинотеатре. Перед вами сидит человек, который частично заслоняет вам экран. Чтобы видеть лучше, вы встаете со своего места и начинаете смотреть кино стоя. Однако человек за вашей спиной, соответственно, вообще перестает видеть кино. Тогда и ему приходится подняться. И человеку за ним. Таким образом, в скором времени придется встать со своих мест всем, кто за вами, а возможно и не только.
Как следствие эгоистичного шага фильм не увидит никто, кроме тех, кто сидит перед вами.
Подобные ситуации описываются разными социальными теориями. Это и «рациональная иррациональность» Брайана Каплана — теория говорит о том, что люди часто выбирают иррациональное поведение вопреки логике, когда цена ошибки для них минимальна. Или теория Вильфредо Парето, именем которого назвали положение равновесия (распределение по Парето), — когда ресурсы распределены таким образом, что никому нельзя дать больше, чтобы не ущемить другого.
Есть еще концепция «трагедии общих ресурсов», которая утверждает, что при наличии какого-то общего для всех, бесплатного ресурса, люди склонны им злоупотреблять, используя его таким образом, что он быстро исчерпывается или становится бесполезным. Притом что такое поведение совершенно иррационально (исчерпание/порча ресурса легко предсказуемы), люди упорно продолжают его практиковать, так как в моменте думают только о собственном благополучии.
В нашем примере с кинотеатром, стоит только всего одному человеку начать улучшать свое положение вопреки правилам, остальные также вынуждены это делать, ухудшая в итоге общее положение всех. Иначе они попросту не увидят фильм. Но теперь мало того что всем стало видно хуже, так еще и придется стоять весь сеанс.
Очень похожая ситуация сейчас наблюдается с распространением информации в социальных сетях. Точнее — с попытками различных групп влияния, прежде всего коммерческих и политических, доминировать в информационном пространстве.
Чем был интернет и чем стал
Изначально Интернет был в полной мере этим самым общим ресурсом с равным доступом для всех. С ростом количества юзеров (на сегодня в мире насчитывается более 6 млрд интернет-пользователей) и с ростом значимости интернета для коммерции и политики, колоссально выросло количество контента и конкуренция за то, чтобы он был увиден целевой аудиторией.
Ничего удивительного, что технологии нейросетей, оказавшиеся в открытом доступе приблизительно с 2023 года, начали немедленно использоваться практически всеми контент-мейкерами для получения этого кумулятивного преимущества. И вот уже по данным последних исследований до 50% контента в интернете сегодня сделаны с использованием ИИ. 41% опрошенных напрямую генерируют текст для своих соцсетей и работы через LLM (Большие языковые модели), а 18–20% пользователей соцсетей постят тексты, полностью написанные ИИ.
Тактика, особенно если она в исполнении СМИ, инфлюенсеров или бизнеса, понятна: согласно ей, ты пытаешься завоевать интернет-пространство не качеством своего контента, а его количеством. Чем больше текстов или роликов ты создал, тем больше твой шанс попасть в алгоритмы. А если смог автоматизировать процесс, купив ботоферму или создав свою собственную, то пока твой конкурент (коммерческий или политический) создал 1 ролик и написал 5 комментариев, ты сделаешь 20 роликов, а твои ИИ-боты оставят 500 комментариев. В том, чей контент охватит большее количество зрителей, сомневаться не приходится.
Видя такой колоссальный рывок конкурента вперед, возникает вполне объяснимое желание повторить его успех. И здесь мы и возвращаемся к примеру с кинотеатром. Ты, конечно, можешь играть честно, руководствуясь порядочностью и уважением к другим, продолжать упорно сидеть и ничего не видеть. Встав же, ты имеешь шанс увидеть хоть что-то. Ну а то, что это приведет к цепной реакции за твоей спиной — ну что ж... Не ты встал первым!
Еще одной очевидной проблемой в связи с распространением ИИ-контента является то, что становится все труднее верифицировать информацию. Даже сегодня не все способны отличить ИИ-контент от реального, а качество первого постоянно улучшается. Читая комментарии, глядя ролики, ты уже не всегда знаешь, принадлежат ли эти слова и образы настоящему человеку или сгенерированы нейросетью. Это дает колоссальное пространство для создания фейков — с одной стороны, и для опровержения реальных свидетельств («да это все в ИИ сделано!») — с другой.
Дешевый ИИ-контент и ботофермы — не единственный пример злоупотребления открытым информпространством. К нему же относится и тактика кликбейта, когда максимально броские заголовки, которые, как правило, не соответствуют содержанию, имеют целью любой ценой заставить зрителя нажать на превьюшку. В ответ на это конкуренты кликбейтера вынуждены выдумывать все более соленые и провокационные заголовки и превьюшки, чтобы хоть как-то догнать его по просмотрам. Кликбейт становится нормой.
А через некоторое время в этом соперничестве наступает предел, на котором пользователь вообще перестает верить заголовкам СМИ, так как знает, что за заголовком ЛУКАШЕНКО УМЕР он не услышит долгожданной новости. Результат: общее снижение доверия к контенту СМИ и блогеров, от которого страдают все, и прежде всего — создатели контента.
Неудивительно, что среди наиболее активных пользователей токсичных инфо-методик мы видим авторитарные режимы, направленные на разрушение свободного конкурентного интернет-пространства. Это Россия, Китай и беларуский режим. Ботофермы выглядят как сотни и тысячи мобильных устройств на полках, управляемые искусственным интеллектом, которые ставят лайки где нужно, пишут негативные и позитивные комментарии где нужно, имитируя при этом (с каждым годом все более качественно) реальных людей. Накрутка просмотров и искусственно созданные дискуссии в комментариях помогают продвинуть любой пост в топы.
В случае с Китаем эти же технологии активно используются для раскрутки нужных товаров и услуг.
Манипулятивные практики
Надо сказать, что работа ботоферм в условиях информационной войны сама по себе включает целый ряд тактик. И мы можем это регулярно наблюдать под любыми крупными аккаунтами противников лукашенковского режима. Помимо очевидной задачи раскручивать свой контент через комментарии и реакции, боты (как живые, так и нейросетевые) работают над следующим:
а) Создать психологическое давление на конкретного человека, который высказывается против власти. Это очень примитивно, однако работает. Люди, которые не привыкли к публичности или близко к сердцу воспринимают оскорбления, могут демотивироваться и даже уйти из публичного поля, когда читают под каждым своим постом десяток оскорблений. Особенно когда начинают высмеивать их внешность, детали биографии, писать какую-то грязь о личной жизни.
б) Создание токсичной атмосферы в комментариях.Когда открываешь секцию комментариев и видишь там сплошь оскорбления, грязь, мат, гифки с говном и жопами, возникает почти физическое желание быстрее закрыть и не окунаться самому в эту грязь. Это хорошо заметно по комментариям под постами Светланы Тихановской в фейсбуке (по очевидной причине там боты наиболее активны). Под каждым комментарием в поддержку — несколько десятков отвратительных реплаев.
Конечно, многих это демотивирует высказываться. Результат: у неосведомленного человека создается впечатление, что «все ненавидят Тихановскую», ведь положительных комментариев почти нет.
в) Создание иллюзии «народной поддержки» тех или иных нарративов. О том, как это делается именно в беларуском ТикТоке, было хорошее расследование, сделанное, к слову, литовской командой.
Между прочим, то, что в литовском сегменте крайне активно работают российские боты, я увидел, как только начал просматривать тамошний тикток. Открываю комментарии под видео, где литовские ультранационалисты маршируют с баннером «Lietuva Lietuvams» (Литва для литовцев). Мало того, что у самого видео чрезвычайно много лайков, комментарии типа «Молодцы, Латвия с вами!», «Польша с вами!» и прочее в духе «долой иностранцев» имеют по 100 и более лайков. А более рассудительные комментарии, более длинные и содержательные, чем лозунг, — по 2–3 лайка. Такая неестественная диспропорция явно указывает на искусственную накрутку, ведь каждый, кто давно ведет соцсети, знает, что в небольших аккаунтах это неестественная картина. Цель очевидна: обозлить местное литовское население против украинцев и политбеженцев из Беларуси и России.
г) Однако не все манипулятивные тактики такие топорные. Одна из наиболее популярных тактик кремлевской пропаганды на сегодня называется «Брандспойт лжи» (Firehose of Falsehood). Это тактика бесконечного умножения версий и буквального заливания информпространства лживыми, часто абсолютно фантастическими нарративами.
По моим наблюдениям, она применяется российской пропагандой более активно, чем беларуской. Возможно потому, что за Россией значительно больше резонансных преступлений международного масштаба.
Суть ее в том, что после какого-то неблагоприятного для властей события как официальные агитаторы, так и анонимные ИИ-боты начинают наводнять информпространство уймой альтернативных, часто абсурдных версий произошедшего. Создаются условия для того, чтобы самая логичная и очевидная версия, продиктованная бритвой Оккама («не нужно умножать сущности без необходимости»), попросту тонула в этом потоке лжи.
Эту тактику я считаю наиболее опасной на долгосрочном треке, так как она подразумевает разрушение самой концепции объективной правды, расшатывание мировоззрения человека до такой степени, чтобы он начинал сомневаться в самых базовых фактах реальности.
Ярчайший пример ее применения: первое отравление Алексея Навального в 2020 году. Власть РФ, от кремлеботов до ее полезных идиотов вроде Такера Карлсона, тогда начала стремительно вбрасывать целый ворох версий, фантастических по своей аморальности и абсурдности:
Отравили свои же, оппозиционеры — хотели «оживить протестное движение!»
Нарушение углеводного обмена
Отравился грибами
Отравился некачественной водкой
Инсценировка западных спецслужб
В данном случае абсолютно не важно, что все версии опровергаются элементарным здравым смыслом, даже без специальных экспертных знаний. Но в концепции Firehose of Falsehood ее застрельщику не нужно, чтобы вы приняли официальную, провластную версию событий. Нужно, чтобы вы сказали: «не все так однозначно» и «всей правды мы не узнаем» в условиях, когда все как раз-таки однозначно.
д) Поляризация социальных групп страны-соперника. В рамках этой тактики гибридной войны разведкой РФ финансируются реальные радикальные группы в странах свободного мира. Но действуют и ИИ-аккаунты, которые занимают противоположные точки зрения. К примеру, одна часть аккаунтов настраивается как радикальные ЛГБТ и феминистки, а вторые — фанатичные защитники традиционных ценностей. Либо одни — как ультраправые националисты, другие — как сторонники введения шариата в ЕС. И те, и другие начинают создавать свои аккаунты, страницы и каналы, проявлять активность в комментариях с максимально агрессивной риторикой, стремясь, по возможности, радикализировать близкие к себе слои населения (феминистки — женщин, джихадисты — мусульман и т.д.), склоняя их взгляды в сторону большей агрессии лозунгами («мусульмане насилуют наших женщин!», «мужчины — это мусор!»), гиперболизации реально существующих проблем, а часто и через фейковые инфоповоды.
Как результат, радикальная повестка начинает непрерывно присутствовать в информпространстве в формате overrepresentation — когда несколько сотен, а то и десятков радикальных аккаунтов имеют миллионные охваты в интернете. То есть их громкость в онлайне абсолютно не соответствует количеству их сторонников в реальной жизни.
Наихудшим последствием здесь может быть то, что в условиях политических кризисов или реально существующих социальных проблем (преступления мигрантов, дискриминация ЛГБТ-людей) происходит уже реальная поляризация различных групп населения — граждане одной страны начинают ненавидеть друг друга по признаку идентичности, что моментально конвертируется усиление радикальных партий, часто спонсируемых Россией.
Тяжелые последствия
Рост количества ИИ-контента и злоупотребление им в политических целях несет целый ряд негативных последствий как для информационного пространства, так и для социума в целом.
1. Первое и главное — это, как я отметил выше, поляризация общества. Растет трайбализм (моя стая — самая лучшая!), разделение обществ по признакам идентичности (черный-белый, приезжий-коренной, мужчина-женщина, ЛГБТ-гетеросексуал), что в перспективе может привести к дезинтеграции общества и краху демократии. Ведь любая демократия — это всегда диалог на базе здравого смысла и консенсус групп с противоположными интересами. Поляризация же вымывает понятие консенсуса и «политическую середину», которая готова уступать.
2. В контексте соцсетей возникает проблема, которая мне, как аналитику, особенно заметна: становится невозможно замерить общественное мнение. С одной стороны, здесь виноваты алгоритмы соцсетей: каждый пост по спорной тематике собирает нерелевантную подборку тех, «кому больше всех надо» (к примеру, под пост про ЛГБТ придут сами ЛГБТ-люди и их лютые противники, в то время как большинству людей эта тема вообще безразлична). С другой стороны, боты еще больше усложняют задачу — ты не всегда можешь знать, где настоящий аккаунт, а где управляемый ИИ-бот, отыгрывающий запрограммированный нарратив. Как следствие — не можешь даже приблизительно замерить общественное мнение по тому или иному вопросу.
3. Долгосрочное последствие: от токсичной коммуникации и засилья ИИ-контента происходит уход рассудительных людей с аналитическим мышлением из соцсетей. Тот, кто ищет дискуссии, возможности обогатить свои знания, рационально сформировать свои политвзгляды или хотя бы просто обозреть общественные мнения, недолго будет терпеть ленту, наполненную кликбейтом, и коммент-секции, полные оскорблений с переходом на личности. Эти люди уходят из традиционных социальных сетей на какие-то другие ресурсы, очевидно менее массовые, или вообще ограничиваются новостными сайтами. Таким образом, эффект токсичности усиливается еще больше. Простыми словами, на место адекватных приходит еще больше ИИ-ботов и людей, мягко говоря, невысокого интеллектуального уровня. Так происходит общая деградация социальных сетей.
4. Каким бы странным это ни казалось, но определенный процент людей не может отличить активность ботов в социальных сетях от реальных людей. Многие до сих пор не знают про упомянутые нами выше ботофермы и технологии манипуляции. Как следствие — они либо, почитав комментарии, действительно начинают верить, что власть поддерживает большинство, либо приходят к «не все так однозначно» и «всей правды мы не узнаем».
Возможные решения
И вот здесь мы подходим к самой тяжелой проблеме: как бороться с авторитарными государствами и группами интересов, для которых Интернет — не свободное пространство для честной конкуренции идей, а площадка, из которой нужно выжать все по максимуму, а потом еще и обгадить, чтобы твой оппонент не смог ей воспользоваться.
Первое и самое очевидное решение: чистки ботов. И крупные корпорации, та же МЕТА, этим занимаются. В частности, в своем ежегодном репорте МЕТА отчиталась об удалении за 2025 год трех сетей фейковых аккаунтов: китайской, иранской, румынской. В случае Китая речь идет о 157 фейсбук-аккаунтах, 19 страницах, одной фейсбук-группе и 17 аккаунтах в Инстаграме — они продвигали китайскую пропаганду относительно Гонконга и Тайваня.
Однако эти усилия — это попросту капля в море, в чем беларуские читатели независимых СМИ в соцсетях могут убедиться и сами. Достаточно заметить, что в репорте от МЕТА за 2025 год почему-то нет отчета об удалении российских сетей влияния...
Второе, радикальное решение, может заключаться в полной аутентификации каждого интернет-юзера социальной сети. То есть регистрация по паспорту, с обязательным селфи и личными данными. Это не сделает фейковые аккаунты невозможными, но значительно повысит их стоимость.
Однако это тот самый случай, когда лекарство может быть хуже болезни. Такая практика передаст в руки корпораций колоссальный массив персональных данных (в дополнение к уже существующим). Последствия их утечки будут труднопредсказуемыми. Кроме того, стопроцентной уверенности в честности руководства МЕТА и Google также нет, так как контроль над ними со стороны государств по-прежнему недостаточен.
Третье, наиболее рациональное решение заключается в том, что корпорации, ответственные за соцсети, должны совершенствовать свои ИИ-алгоритмы, которые будут автоматически блокировать и удалять ботов. Процесс должен быть автоматизирован, и в этом соревновании оружия и брони корпорации должны всегда быть на шаг впереди злоумышленников. Пока что ситуация обратная.
Хорошей практикой будет, если государства начнут штрафовать и блокировать любые юридические лица: фирмы, корпорации, общественные объединения, которые замечены в создании ботоферм, чья продукция так или иначе используется для целей информационного загрязнения. Таким образом, часть ответственности должна быть переложена на производителей техники и софта: они сами должны следить, чтобы их продукция не использовалась злоумышленниками. Как? Пусть думают сами, у них хватает интеллекта и денег, чтобы реализовать почти любые решения.
Введение правовой ответственности за производство софта, загрязняющего информпространство, также видится хорошей идеей — уже давно существует уголовная ответственность за создание вирусов, и это никого не удивляет. А ущерб от ботоферм, на мой взгляд, еще больше — это когнитивное оружие, которое разрушает традиции правды, разума и здравого смысла, являющиеся моральной основой Западной цивилизации.
На индивидуальном уровне каждый из нас, кто подвергся атаке ботов в комментариях, сталкивается с дилеммой: забанить их — это значит понизить свой пост в индексации: меньше комментариев (хоть и от ботов), меньше людей его увидит. А не банить — получишь помойку в комментариях.
Для себя я выбрал средний путь — баню выборочно тех ботов, кто оскорбляет других комментаторов или лидеров мнений.
Как вы сами смогли убедиться из приведенных нами в статье примеров, в условиях низкого доверия и слабых наказаний за нарушение норм, первый же, кто начнет играть не по правилам ради собственной выгоды, — получает преимущество. Порой — несоизмеримо большое. Так легко может сложиться ситуация, когда голос деструктивных сил будет звучать громче, чем голос свободного мира, демократических стран и людей здравого смысла.
Лично для себя я выбрал путь максимизации своих преимуществ в пределах правил. Я не хочу быть тем человеком, который встанет и заслонит просмотр фильма соседу. Однако попробую максимизировать свои конкурентные выгоды, не вредя самим институтам. Придерживаться честной конкуренции в краткосрочной перспективе может означать отставание, но в долгосрочной — помогает сохранить институты и правила, важные для всех.
Так что, оказавшись в ситуации с кинотеатром, о которой я говорил вначале, возможно, нужно не вскакивать сразу с места, повторяя за неразумным соседом, а попросить человека впереди присесть. Возможно, попытаться отклониться в сторону либо обратиться ко всем вокруг с призывом уважать друг друга и включить здравый смысл. Либо выйти в проход и смотреть кино оттуда.
И надеяться, что другие последуют твоему примеру. Ведь хороший пример, как показывает жизнь, точно так же заразителен, как и плохой.