Беларускі інтэрнэт пад ботам. Чаму нашыя сацсеткі сталі таксічнымі і што з гэтым рабіць
Як дыктатуры карыстаюцца штучным розумам і ботафермамі і да чаго гэта можа прывесці.
Уявіце сабе, што вы ў кінатэатры. Перад вамі сядзіць чалавек, які часткова засланяе вам экран. Каб бачыць лепей, вы ўстаеце са свайго месца і пачынаеце глядзець кіно стоячы. Аднак чалавек за вашай спінай, адпаведна, увогуле перастаюць бачыць кіно. Тады і яму прыходзіцца падняцца. І чалавеку за ім. Такім чынам у хуткім часе прыйдзецца ўстаць з месцаў усім, хто за вамі, а мажліва і не толькі.
Як следстваэгаістычнага кроку фільм не ўбачыць ніхто, акрамя тых, хто сядзіць перад вамі.
Падобныя сітуацыі апісваюцца рознымі сацыяльнымі тэорыямі. Гэта і “рацыянальная ірацыянальнасць” Браяна Каплана – тэорыя гаворыць аб тым, што людзі часта абіраюць іррацыянальныя паводзіны насуперак логіцы, калі кошт памылкі для іх мінімальны. Альбо тэорыя Вільфрэда Парэта, імем якога назвалі становішча раўнавагі (размеркаванне па Парэта), – калі рэсурсы размеркаваныя такім чынам, што нікому нельга даць болей, каб не ўшчыміць іншага.
Ёсць яшчэ канцэпцыя “трагедыі агульных рэсурсаў”, якая сцвярджае, што пры наяўнасці нейкага агульнага для ўсіх, бясплатнага рэсурса, людзі схільныя ім злоўжываць, карыстаючы яго такім чынам, што ён хутка вычэрпваецца альбо робіцца беспалезным. Прытым што такія паводзіны цалкам іррацыянальныя (вычарпанне\псаванне рэсурса лёгка прадказальнае), людзі ўпарта працягваюць яго практыкаваць, бо ў моманце думаюць толькі пра свой уласны дабрабыт.
У нашым прыкладзе з кінатэатрам які толькі усяго адзін чалавек пачынае паляпшаць свой стан насуперак правілам, астатнія таксама вымушаныя гэта рабіць, пагаршаючы ў выніку агульнае становішча ўсіх. Інакш яны папросту не пабачаць фільм. Але цяпер мала таго што ўсім стала бачна горш, дык яшчэ і прыйдзецца стаяць весь сэанс.
Вельмі падобная сітуацыя зараз назіраецца з распаўсюдам інфармацыі ў сацыяльных сетках. Дакладней – са спробамі розных груп уплыву, найперш камерцыйных і палітычных, дамінаваць у інфармацыйнай прасторы.
Чым быў інтэрнэт і чым стаў
Адпачатку Інтэрнэт быў у поўнай меры гэтым самым агульным рэсурсам з роўным доступам для ўсіх. З ростам колькасці юзераў (на сёння ў свеце налічваецца больш за 6 млрд інтэрнэт-карыстачоў) і з ростам значнасці інтэрнэта для камерцыі і палітыкі, каласальна вырасла колькасць кантэнту і канкурэнцыя за тое, каб ён быў пабачаны мэтавай аўдыторыяй.
Нічога дзіўнага, што тэхналогіі нейрасетак, што аказаліся ў адкрытым доступе прыблізна з 2023 пачалі неадкладна выкарыстоўвацца практычна ўсімі кантэнт-мэйкерамі для атрымання гэтай кумулятыўнўай перавагі. І вось ўжо па дадзеных апошніх даследванняў да 50% кантэнту ў інтэрнэце сёння зробленыя з карыстаннем ШІ. 41% апытаных наўпрост генеруюць тэкст для сваіх сацсетак і прац праз LLM (Вялікія моўныя мадэлі), а 18-20% карыстачоў сацсетак посцяць тэксты цалкам напісаныя ШТУРам (штучным розумам).
Тактыка, асабліва калі яна ў выкананні СМІ, інфлюэнсераў ці бізнэса, зразумелая: згодна з ёй, ты спрабуеш заваяваць інтэрнэт-прастору не якасцю свайго кантэнта а ягонай колькасцю. Чым больш тэкстаў ці ролікаў ты стварыў, тым болей твой шанец патрапіць у алгарытмы. А калі змог аўтаматызаваць працэс, купіўшы ботаферму ці стварыўшы сваю ўласную, то пакуль твой канкурэнт (камерцыйны ці палітычны) стварыў 1 ролік і напісаў 5 каментараў, ты зробіш 20 ролікаў а твае ШІ-боты пакінуць 500 каментараў. Чый кантэнт сягне большай колькасці глядачоў, сумнявацца не прыходзіцца.
Бачачы такі каласальны рывок канкурэнта наперад, унікае цалкам тлумачальнае жаданне паўтарыць ягоны поспех. І тут мы і сяртаемся да прыклада з кінатэатра. Ты, канешне, можаш гуляць сумленна, кіруючыся парадачнасцю і павагай да іншых, працягваць упарта сядзець і нічога не бачыш. Устаўшы, ты маеш шанс пабачыць хоць нешта. Ну а тое што гэта прывядзе да ланцуговай рэакцыі за тваёй спінай - ну што ж... Не ты ўстаў першым!
Яшчэ адной відавочнай праблемай у сувязі з распаўсюдам ШІ-кантэнта з’яўляецца тое, што робіцца ўсё цяжэй верыфікаваць інфармацыю. Нават сёння ня ўсе здольныя адрозніць ШІ-кантэнт ад рэальнага, а якасць першага няспынна паляпшаецца. Чытаючы каментары, гледзячы ролікі, ты ўжо не заўсёды ведаеш, належаць гэтыя словы і выявы сапраўднаму чалавеку, ці згенераваныя нейрасеткай. Гэта дае каласальную прастору для стварэння фэйкаў - з аднаго боку і для абвяржэння рэальных сведчанняў (“ды гэта ўсё ў ШІ зроблена!") – з іншага.
Танны ШІ-кантэнт і ботафермы – не адзіны прыклад злоўжывання адкрытай інфарпрасторай. Да яго ж адносіцца і тактыка клікбейта, калі максімальна кідкія загалоўкі, што, як правіла, не адпавядаюць зместу, маюць мэтай любым коштам прымусіць глядача націснуць на прэвьюшку. У адказ на гэта канкурэнты клікбейэцера вымушаныя выдумляць усё больш салёныя і правакатыўныя загалоўкі і прэвьюшкі, каб хоць неяк дагнаць яго па праглядах. Клікбейт робіцца нормай.
А праз некаторы час у гэтым спаборніцтве наступае мяжа, на якой карыстач увогуле перастае верыць загалоўкам СМІ, бо ведае што за загалоўкам ЛУКАШЕНКО УМЕР ён не пачуе доўгачаканай навіны. Вынік: агульнае зніжэнне веры да кантынта-СМІ і блогераў, ад якога церпяць усе, і найперш, стваральнікі кантэнту.
Не дзіва, што сярод найбольш актыўных карыстачоў таксічных інфа-методык мы бачым аўтарытарныя рэжымы, скіраваныя на разбурэнне свбоднай канкурэнтнай інтэрнэт-прасторы. Гэта Расія, Кітай і беларускі рэжым. Ботафермы выглядаюць як сотні і тысячы мабільных прыладаў на паліцах, кіраваныя штучным інтэлектам, якія ставяць лайкі, дзе патрэбна, пішуць негатыўныя і пазітыўныя каментары, дзе патрэбна, імітуючы пры гэтым (з кожным годам усё больш якасна) рэальных людзей. Накрутка праглядаў і штучна створаныя дыскусіі ў каментарах дапамагаюць прасунуць любы пост у топы.
У выпадку з Кітаем гэтыя ж тэхналогіі актыўна выкарыстоўваюцца для раскруткі патрэбных тавараў і паслугаў.
Маніпулятыўныя практыкі
Трэба сказаць, што праца ботафермаў ва ўмовах інфармацыйнай вайны сама па сабе ўключае цэлы шэраг тактык. І мы можам гэта рэгулярна назіраць пад любымі буйнымі акаўнтамі праціўнкаў лукашэнкаўскага рэжыму. Апроч відавочнай задачы: раскручваць свой кантэнт праз каментары і рэакцыі, боты (як жывыя гэтак і нейрасеткавыя) працуюць над наступным:
а) Стварыць псіхалагічны ціск на канкрэтнага чалавека, які выказваецца супраць улады. Гэта вельмі прымітыўна, аднак працуе. Людзі, якія не прывыклі да публічнасці альбо блізка да сэрца ўспрымаюць абразы, могуць дэматывавацца і нават сысці з публічнага поля, калі чытаюць пад кожным сваім пастом дзесятак абразаў. Асабліва, калі пачынаюць высмейваць іхнюю знешнасць, дэталі біяграфіі, пісаць нейкі бруд пра асабістае жыццё.
б) Стварэнне таксічнай атмасферы ў каментарах. Калі адкрываеш секцыю каментараў і бачыш там спрэс абразы, бруд, мат, гіфкі з гаўном і дупамі, узнікае амаль фізічнае жаданне хутчэй закрыць і не акунацца самому ў гэта лайно. Гэта добра заўважна па каментарах пад пастамі Святланы Ціханоўскай ў фэйсбуку (з відавочнай прычыны там боты найбольш актыўныя).
Пад кожным каментарам у падтрымку: некалькі дзесяткаў агідных рэплаў. Вядома, многіх гэта дэматывуе выказвацца. Вынік: у недасведчанага чалавека ствараецца ўражанне што “усе ненавідзяць Ціханоўскую”, бо станоўчых каментараў амаль няма.
в) Стварэнне ілюзіі “народнай падтрымкі” тых ці іншых наратываў. Аб тым, як гэта робіцца менавіта ў беларускім ЦікТоку было добрае расследаване, зробленае, дарэчы, літоўскай камандай.
Між іншым, тое што ў літоўскім сегменце крайне актыўна працуюць расійскія боты я пабачыў як толькі пачаў праглядаць тамтэйшы цікток. Адкрываю каментары пад відэа, дзе літоўскія ультра-нацыяналісты машрыруюць з банерам “Lietuva Lietuvams” (Літва для літоўцаў). Мала таго, шо ў самога відэа надзвычай шмат лайкаў, каментары тыпу “Малайцы, Латвія з вамі!”, “Польшча з вамі!”, і ўсялякае такое ў духу “далоў іншаземцаў” маюць па 100 і болей лайкаў. А больш разважлівыя каментары, даўжэйшыя і больш змястоўныя чым лозунг, – па 2-3 лайкі. Такая ненатуральная дыспрапорцыя яўна ўказывае на штучную накрутку, бо кожны хто даўно вядзе сацсеткі ведае, што у невялічкіх акаўнтах гэта ненатуральная карціна. Мэта відавочная: абазліць мясцовае літоўскае насельніцтва супраць украінцаў і палітуцекачоў Беларусі і Расіі.
г) Аднак не ўсе маніпулятыўныя тактыкі такія сякерныя. Адна з найбольш папулярных тактык крэмлёўскай прапаганды на сёння называецца “Брандсбойт хлусні” (Firehose of Falsehood). Гэта тактыка бясконцага памнажэння версій і літаральна заліцця інформпрасторы хлуслівымі, часта абсалютна фантастычнымі наратывамі.
Па маіх назіраннях, яна прымяняецца расійскай прапагандай больш актыўна, чым беларускай. Мажліва таму, што за Расіяй значна болей рэзанансных злачынстваў міжнароднага масштабу.
Сутнасць яе ў тым, што пасля нейкай неспрыяльнай для ўладаў падзеі як афіцыйныя агітатары гэтак і ананімныя ШІ-боты пачынаюць навадняць інфармпрастору процьмай альтэрнатыўных, часта абсурдных версій таго што адбылося. Ствараюцца ўмовы для таго, каб самая лагічная і відавочная версія, прадыктаваная брытвай Акама (”не трэба памнажаць сутнасці без неабходнасці”), папросту тоне ў гэтым патоку хлусні.
Гэтую тактыку я лічу найбольш небяспечнай на доўгатэрміновым трэку, бо яна мае на ўвазе разбурыць самую канцэпцыю аб’ектыўнай праўды, расхістаць светапогляд чалавека да таго, каб ён пачынаў сумнявацца ў самых базавых фактах рэчаіснасці.
Найяскравейшы прыклад прыклад яе прымяненне: першае атручванне Аляксея Навальнага ў 2020. Улада РФ, ад крэмлеботаў да яе карысных ідыётаў кшталту Такера Карлсана тады пачала імкліва ўкідваць цэлы стос версій, фантастычных па сваёй амаральнасці і абсурднасці:
- Атруцілі свае ж, апазіцыянеры - хацелі “ажывіць пратэстны рух!”
- Парушэнне вуглеводнага абмену
- Атруціўся грыбамі
- Атруціўся няякаснай гарэлкай
- Інсцэніроўка заходніх спецслужбаў
У дадзеным выпадку абсалютна ня важна што ўсе версіі абвяргаюцца элементарным здаровым глуздам, нават без спецыяльных экспертных ведаў. Але ў канцэпцыі Firehorse of Falsehood яе застрэльшчыку ня трэба, каб вы прынялі афіцыйную, праўладную версію падзеяў. Трэба, каб вы сказалі: “не ўсё так адназначна” і “усёй праўды мы не даведаемся” ва ўмовах, калі ўсё якраз-такі адназначна.
д) Палярызацыя сацыяльных груп краіны-суперніка. У межах гэтай тактыкі гібрыднай вайны выведкай РФ фінансуюцца рэальныя радыкальныя групы ў краінах свабоднага свету. Але дзейнічаюць і ШІ-акаўнты, якія займаюць супрацьлеглыя пункты гледжання. Дапрыкладу, адна частка акаўнтаў наладжваюцца як радыкальныя ЛГБТ і феміністкі а другія – фанатычныя абаронцы традыцыйных каштоўнасцяў. Альбо адны – як ультраправыя нацыяналісты, другія – як староннікі ўвядзення шарыята ў ЕС. Адныя і другія пачынаюць ствараць свае акаўнты, старонкі і каналы, актыўнічаць у каментарах х максімальна агрэсіўнай рыторыкай, імкнучыся, па мажлівасці, радыкалізаваць блізкія да сябе слаі насельніцтва (феміністкі - жанчын, джыхадзісты - мусульман), схіляючы іхнія погляды ў бок большай агрэсіі лозунгами (”мусульмане гвалцяць нашых жанчын!”, “мужчыны - гэта смецце!”), гіпербалізацыі рэальна існуючых праблем, а часта і праз фэйкавыя інфанагоды.
Як вынік, радыкальная павестка пачынае няспынна прысутніаць у інфармпрасторы ў фармаце overrepresentation – калі некалькі сотняў, а тое і дзесяткаў радыкальных акаўнтаў маюць міліённыя ахопы ў інтэрнэце. То бок іхняя гучнасць у анлайне абсалютна не адпавядае колькасці іхніх прыхільнікаў у рэальным жыцці.
Найгорым наступствам тут можа быць тое што ва ўмовах палітычных крызісаў альбо рэальна існуючых сацыяльных праблемаў (злачынствы мігрантаў, дыскрымінацыя ЛГБТ-людзей) адбываецца ўжо рэальная палярызацыя розных груп насельніцтва – грамадзяне адной краіны пачынаюць ненавідзець адзін аднаго па прызнаку ідэнтычнасці, што маментальна канвертуецца ва ўзмацненне радыкальных партый, часта спансаваных Расіяй.
Цяжкія наступсты
Рост колькасці ШІ-кантэнта і злоўжыванне ім для палітычных мэтаў нясе цэлы шэраг негатыўных наступстваў як для інфармацыйнай прасторы гэтак і для соцыюма ў цэлым.
1. Першае і галоўнае гэта, як я адзначыў вышэй, палярызацыя грамадства. Расце трайбалізм (мая зграя – самая лепшая!), падзел грамадстваў па прызнаках ідэнтычнасці (чорны-белы, прыезджы-карэнны, мужчына-жанчына, ЛГБТ-гетэрасэксуал), што ў перспектыве можа прывесці да дэзынтэграцыі грамадства і краху дэмакратыі. Бо любая дэмакратыя гэта заўсёды дыялог на базе здаровага глузду і кансенсус груп з супрацьлеглымі інтарэсамі. Палярызацыя ж вымывае панятак кансенсусу і “палітычную сярэдзіну”, якая гатовая саступаць.
2. У кантэксце сацсетак паўстае праблема, якая мне, як аналітыку, асабліва заўжваная: робіцца немажліва замерць грамадскую думку. З аднаго боку тут вінаватыя алгарытмы сацсетак: кожны пост па спрэчнай тэматыцы збірае нерэлевантную падборку тых “каму болей за ўсё трэба” (дапрыкладу пад пост пра ЛГБТ прыдуць самі ЛГБТ людзі і іх лютыя праціўнікі, у той час як большасці людзей гэтая тэма ўвогуле абыякавая). З іншага боку боты яшчэ больш ускладняюц задачу – ты не заўсёды можаш ведаць, дзе сапраўдны акаўнт, а дзе кіраваны ШІ бот, які адпрацоўвае запраграмаваны наратыў. Як следства - не можаш нават прыблізна замерыць грамадскую думку па тым ці іншым пытанні.
3. Доўгатэрміновае наступства: ад таксічнай камунікацыі і засілля ШІ-кантэнта адбываецца сыход разважлівых людзей з аналітычным мысленнем з сацсетак. Той хто шукае дыскусіі, мажлівасці ўзбагаціць свае веды, рацыянальна сфарміраваць свае палітпогляды, ці хаця б проста аглядзець грамадскія меркаванні, нядоўга будзе трываць стужку, напоўненую клікбейтам і камент-секцыі, напоўненыя абразамі з пераходам на асобы. Гэтыя людзі сыходзяць з традыцыйных сацыяльных сетак на нейкія іншыя рэсурсы, відавочна меней масавыя, ці ўвогуле абмяжоўваюцца навінавымі сайтамі. Такім чынам эфект таксічнасці ўзмацняецца яшчэ больш. Простымі словамі, на месца адэкватных прыходзіць яшчэ больш ШІ-ботаў і людзей, мякка кажучы, невысокага інтэлектуальнага ўзроўню. Так адбываецца агульная дэградацыя сацыяльных сетак.
4. Зрэшты, якім бы дзіўным гэта не падавалася, але пэўны адсотак людзей не можа адрозніць актыўнасць ботаў у сацыяльных сетках ад рэальных людзей. Многія дагэтуль ня ведаюць пра згаданыя намі вышэй ботафермы і тэхналогіі маніпуляцыі. Як следства – яны альбо, пачытаўшы каментары, сапраўды пачынаюць верыць што ўладу падтрымлівае боьшасць, альбо прыходзяць да “не ўсё так адназначна” і “ўсёй праўды мы не даведаемся”.
Мажлівыя рашэнні
І вось тут мы падыходзім да самай цяжкай праблемы: як змагацца аўтарытарнымі дзяржавамі і групамі інтарэсаў, для якіх Інтэрнэт – не свабодная прастора для сумленнай канкурэнцыі ідэй а пляцоўка, з якой трэба выціснуць усё па максімуме, а потым яшчэ і абгадзіць, каб твой апанент не змог ёй скарыстацца.
Першае і самае відавочнае рашэнне: чысткі ботаў. І буйныя карпарацыі, тая ж МЕТА, гэтым займаецца. У прыватнасці, у сваім штогадовым рэпорце МЕТА адсправаздачылася аб выдаленні за 2025 год трох сетак фэйкавых акаўнтаў: кітайскай, іранскай, румынскай. У выпадку Кітая гаворка ідзе аб 157 фэйсбук-акаўнтах, 19 старонках, адной фэйсбук-группы і 17 акаўнтах у Інстаграме – яны прасоўвалі кітайскую прапаганду што да Ганконга і Тайваня.
Аднак гэтыя высілкі – гэта папросту кропля ў моры, у чым беларускія чытачы незалежных СМІ ў сацсетках могуць пераканацца і самі. Дастаткова заўважыць, што ў рэпорце ад МЕТА за 2025 год чамусь няма справаздачы мб выдаленні расійскіх сетак уплыву...
Другое, радыкальнае рашэнне, можа палягаць у поўнай аўтэнтыфікацыі кожнага інтэрнэт-юзера сацыяльнай сеці. То бок рэгістрацыя па пашпарце, з абавязковым сэлфі і асабістымі дадзенымі. Гэта не зробіць фэйкавыя акаўнты немажлівымі але значна павысіць іх кошт.
Аднак гэта той самы выпадак, калі лякарства можа быць горшае за хваробу. Такая практыка перадась у рукі карпарацый каласальны масіў персанальных дадзеных (у дадатак да ўжо існуючых). Наступствы іхней уцечкі будуць цяжкапрадказальнымі. Акрамя таго, стоадсоткавай упэўненасці ў сумленнасці кіраўніцтва МЕТА і Google таксама няма, так як кантроль над імі з боку дзяржаваў па-ранейшаму недастатковы.
Трэцяе, найбольш рацыянальнае рашэнне палягае ў тым, што карпрацыі, адказныя за сацсеткі, мусяць удасканальваць свае АІ-алгарытмы, якія будуць аўтаматычна блакаваць і выдаляць бокаў. Працэс мусіць быць аўтаматызаваны і ў гэтым спаборніцтве зброі і брані карпарацыі мусяць заўсёды быць на крок наперад злаўмыснікаў. Пакуль што сітауцыя адваротная.
Добрай практыкай будзе, калі дзяржавы пачнуць штрафаваць і блакаваць любыя юрыдычныя асобы: фірмы, карпарацыі, грамадскія аб’яднанні, якія заўважаныя ў стварэнні ботафермаў, чыя прадукцыя так ці інакш выкарыстоўваецца для мэтаў інфармацыйнага забруджвання. Такім чынам, частка адказнасці мусіць быць перакладзеная на вытворцаў тэхнікі і софта: яны самі мусяць сачыць, каб іхняя прадукцыя не выкарыстоўвалася злаўмыснікамі. Як? Хай думаюць самі, у іх хапае інтэлекта і грошаў, каб рэалізаваць амаль любыя рашэнні.
Увядзенне прававой адказнасці за вырабленне софта, які забруджвае інформпрастору таксама бачыцца добрай ідэяй – ужо даўно існуе крымінальная адказнасць за стварэнне вірусаў і гэта нікога не здзіўляе. А шкода ад ботафермаў, на мой погляд, яшчэ большая – гэта кагнітыўная зброя, якая разбурае традыцыі праўды, розуму і здаровага сэнсу, якія ёсць маральнай асновай Заходней цывілізацыі.
На індывідуальным узроўні кожны з нас, хто падвергся атацы ботаў у каментарах, сутыкаецца з дылемай: забаніць іх, гэта значыць панізіць свой пост у індэксацыі: меней каментараў (хоць і ад ботаў), меней людзей яго пабачыць. А не баніць – атрымаеш памыйку ў каментарах.
Для сябе я абраў сярэдні шлях – баню выбарачна тых ботаў, хто абражае іншых каментатараў ці лідараў меркаванняў.
Як вы самі змаглі пераканацца з прыведзеных намі ў артыкуле прыкладаў, ва ўмовах нізкага даверу і слабых пакаранняў за парушэнне нормаў, першы ж хто пачне граць не па правілах дзеля ўласнай выгады – атрымоўвае перавагу. Часам - несувымерна вялікую. Так лёгка можа скласціся сітуацыія, калі голас дэструктыўных сілаў будзе гучаць грамчэй, чым голас свабоднага свету, дэмакратычных краінаў і людзей здаровага глузду.
Асабіста для сябе я абраў шлях максімізацыі сваіх перавагаў у межах правілаў. Я не хачу быць тым чалавекам, які ўстане і заслоніць прагляд фільма суседу. Аднак паспрабую максімізаваць свае канкурэнтныя выгоды, не шкодзячы самім інстытутам. Прытрымлівацца сумленнай канкурэнцыі у кароткатэрміновай перспектыве можа адзначаць адставанне, але ў доўгатэрміновай – дапамагае захаваць інстытуты і правілы, важныя для ўсіх.
Так што, апынуўшыся ў кінатэатравым прыкладзе, аб якім я казаў напачатку, мажліва, трэба не ўскокваць адразу з месца, паўтараючы за неразумным суседам, а папрасіць чалавека наперадзе прысесці. Мажліва, паспрабаваць адхіліцца ў бок, альбо звярнуцца да ўсіх наўкол з заклікам паважаць адзін аднаго і ўключыць здаровы глузд. Альбо выйсці ў праход і глядзець кіно адтуль.
І спадзявацца, што што іншыя паследуюць твайму прыкладу. Бо добры прыклад, як паказвае жыццё, гэтаксама ж заразлівы як і дрэнны.