„Ar internetas dar gali būti išgelbėtas?“: damos su gėlių vazonais, DI ir botų medžioklė

Tinklaraštininkas Ričardas Savukynas yra žinomas dėl iniciatyvos blokuoti netikras paskyras socialiniuose tinkluose. Pokalbyje su LRT.lt jis atskleidė, kiek pastebi botų, kokie būna jų komentarai ir ar internetas dar gali būti išgelbėtas.

Istorija iš Latvių gatvės

– Kaip pats apibūdintumėte savo veiklą kovojant su netikromis paskyromis ir kiek tai trunka?

– Stengiuosi skirti ne per daug laiko, nes dabar botų skaičiai yra nežmoniški, vienas nepakovosi. Bet jei daugiau žmonių supranta, kaip tai veikia, gali pranešti, kad tai netikri profiliai, „Facebookas“ anksčiau ar vėliau sureaguoja. Kartais negreit, bet blogų paskyrų sumažėja.

Programos naudojamos jau kelis dešimtmečius. Kažkada, kai atsirado vadinamasis spamas (brukalas – LRT.lt), tų laiškų kūrėjai atrado, kad rankomis siųsti – didelis vargas. Galima surinkti adresus, o tada siųsti automatiškai. Taip atsirado vadinamųjų spamo botų, dažniausiai tai buvo pornografiniai puslapiai. Paskui atsirado kitų reklamų, o vienu metu tas technologijas ėmė naudoti ir propagandos skleidėjai.

Gal 2001 ar 2002 metais į portalą Delfi buvo prirašyti milžiniški skaičiai žinučių, kad reikia naikinti žydus ir rusus. Prokuratūra lyg ir buvo pradėjusi tyrimą, bet paaiškėjo, kad visos žinutės yra iš Rusijos ambasados Latvių gatvėje. Ambasada, aišku, neigė, žinučių kurį laiką nebuvo, bet praėjo savaitė ar dvi, ir vėl prasidėjo krūvos. Pasirodė, kad tai ne iš ambasados, o iš firmelės, interneto tiekėjo, kuris neturi nė vieno darbuotojo (...). Ta firmelė buvo Latvių gatvėje.

Įdomu, kad komentarai buvo antirusiški ir antižydiški tuo pačiu metu. Paskui buvo žinučių iš Rusijos, vėliau – iš kitų valstybių. Vėliau, matyt, Delfi ėmė jas filtruoti.

Kai Rusija užpuolė Sakartvelą 2008 metais, buvo tokių žinučių antplūdis įvairiuose portaluose. Buvo sakoma, kad Saakašvilis beprotis, užpuolė Rusiją, Osetiją. Žinučių būdavo prie įvairiausių straipsnių, pavyzdžiui, atsidarai straipsnį apie maisto gaminimą ir matai žinutes apie Sakartvelą. Patikrinus IP adresą, paaiškėdavo, kad komentatorius kur nors Kolumbijoje ar Nigerijoje.

Jie ėmė gerinti darbą, atsirado botų, kurie perskaitydavo tekstus, ar jie atitinka temą, nustojo rašyti žinutes prie straipsnių apie maistą. Žinutės ėmė atrodyti visai natūralios.

Paskui pradėti naudoti „spinner“ tipo generatoriai: turime sakinį, jame yra trys žodžiai, pavyzdžiui, kad Ukraina užpuolė Rusiją. Juos galima pakeisti sinonimais: NATO, Europa, JAV, eurosojuzas, Vakarai, vietoje „užpuolė“ – „įsiveržė į“. Taip galima generuoti naujus ir naujus sakinius, ėmė darytis sunku atskirti, kuri žinutė parašyta boto.

Visos technologijos iki to jau buvo ištobulintos vadinamųjų spamerių, o rusai jas tiesiog perėmė.

O paskui atsirado socialinis tinklas „Facebook“, jis turėjo gana stiprų barjerą botams, nes, norint jame rašyti, reikia užregistruoti paskyrą, jei per greitai sukurti – prašo patvirtinti, kad esi žmogus. Tačiau, laikui einant, botų atsirado ir „Facebooke“.

– Kaip tai vyksta iš technologinės pusės?

– Kompanijos perka daug senų telefonų, suinstaliuoja programėles, sukuria paskyras, pakabina fizinėse botų fermose. Jie dirba su programomis, vadinamomis „klikeriais“, kurie imituoja žmonių spaudinėjimą, atskirti tiesiog neįmanoma. Profiliai irgi kuriami programomis. Anksčiau veikdavo CAPCHA, o dabar robotai įveikia ir tai (...). Socialinis tinklas „Facebook“ kas ketvirtį ištrina apie milijardą paskyrų. Tai įvairūs šiukšlintojai, taip pat ir politiniai.

– Daug kas mano, kad tos įmonės veikia ir Lietuvoje. Kur jos yra fiziškai? Ir apskritai iš kur žinoma apie šią veiklą, nes Lietuvos teisėsauga dažnai su tuo tikrai nesusiduria?

– Nustatyti sunku, nes vieta, kurią gali nustatyti operatoriai, yra labai apytikslė. Pavyzdžiui, kvartale yra 20–30 namų ir kuriame name – nustatyti sunku. Kortelės kaitaliojamos. Jos naudojamos tam, kad būtų gaunami lokalūs, Lietuvą atitinkantys IP adresai, kad kai botas komentuoja, atrodytų, jog jis yra iš Lietuvos.

Lietuvoje gali būti tik proxy ferma, kur stovi šimtai modemų su SIM kortelėmis, ir įranga, kur yra paskyros, gali stovėti kur nors už tūkstančių kilometrų. Tūkstančius telefonų galima būtų aptikti pagal energijos suvartojimą, o jei yra proxy ferma, net ir pagal tai neaptiksi. Maskavimo priemonės yra sudėtingos. (...) Vienas požymis yra elektros skaitliukai, bet jei kuris nors butas sunaudoja keliasdešimt kartų daugiau energijos, nei įprasta, ten gali dėtis kažkas keisto. Galima matyti, kad name yra perdėtas elektromagnetinis aktyvumas.

– Ar manote, kad Lietuvos teisėsauga matuoja šiuos dalykus – elektros suvartojimą, elektromagnetinį lauką?

– Nežinau, manau, šiokią tokią įrangą turi. Bet kad ją panaudotum, vis tiek reikia žinoti, kur ieškoti. Jei būsi viename Vilniaus rajone ir bandysi stebėti kitą, nieko nematysi.

Apie damas su gėlių vazonais ir LRT

– Daug juokaujama, kad botai – tai profiliai, kurių nuotraukose yra vyresnio amžiaus moterys su gėlėmis ir katėmis. Bet neabejoju, yra daug pačių tikriausių Lietuvos gyventojų, kurių profilio nuotraukos ir yra tokios. Ir, man rodos, daug kalbame apie botus, bet jei reikėtų parodyti, kas konkrečiai yra botas, tai taptų neįmanoma.

– Tai ir yra didžioji problema, nes botai ir šiukšlintojai daro viską, kad būtų kuo panašesni į žmones. DI programos ir bendrauja visiškai kaip žmonės. Dar prieš porą metų vienas iš botų požymių buvo tai, kad atsakai į jo komentarą, pavyzdžiui, po dviejų valandų, ir negauni atsakymo, nes per tą laiką programa išsijungia. Dabar atsakymą gauni, nes DI programos jį pateikia gana greitai.

Žinoma, reikia laiko, norint sukurti nuotraukas profiliui. DI programos sukuria ir visus siužetus, kur lyg ir žmogus atostogauja, yra su šeima. Bet kai pažiūri į nuotraukas, kartais gali atskirti, kad jos yra netikroviškos. Vienas iš požymių – vadinamasis „uncanny valley“ reiškinys (...). Atrodo kaip žmogus, bet netikras, negyvas. Tokią nuotrauką dedi į internetą ir gali atrasti tūkstančius labai panašių, su veidu, sugeneruotu DI programų. Yra nuotraukas tikrinančių programų. Jei ji tokia, greičiausiai tai netikras žmogus, netikra paskyra.

Tai reikia gana ilgai tikrinti. Kitas požymis – paskyra turi labai nedaug „friends“, aš to nevadinu draugais, nes draugai yra viena, o draugai „Facebooke“ yra kita, nieko bendro su draugyste tai neturi (...). Vidutinis žmogus [socialiniuose tinkluose] turi maždaug 200–400 draugų. Jei jų yra 30, tikriausiai kas nors ne taip, ypač jei žmogus yra labai aktyvus, rašinėja. Jei paskyra gana nauja, tai irgi negerai, nes daugelis žmonių, gyvenančių Lietuvoje, paskyras susikūrė prieš gerą dešimtmetį. Jei susidedame kelis tokius požymius, matyt, kad turime 90 proc. tikimybę, kad tai ne žmogus, o botų fermos paskyra.

Yra ir atskiras verslas vogti paskyras, nes naujos paskyros pernelyg krinta į akis. Tokios paskyros kainuoja daug, nes jos senos, gali būti parduotos už keliasdešimt eurų (...). Jas superka vadinamieji spameriai (brukaliai, šiukšlintojai – LRT.lt), bet kada nors jos patenka į rusų rankas. Vienas iš požymių – kai paskyroje matome labai daug reklamų.

Dar kitas požymis – kai matai, kad paskyros vardas yra koks nors John Smith, o adreso laukelyje jis yra Petras Jonaitis ar dar kas nors. Greičiausiai paskyra buvo tikro žmogaus, bet „spameriams“ reikėjo ją pervadinti.

Požymių yra daug, bet pirmasis yra hiperaktyvus dalyvavimas. Kai buvo pirmasis mitingas dėl LRT įstatymo pataisų, po jo buvo nežmoniškas aktyvumas.

– Kodėl LRT klausimas sulaukia tiek dėmesio?

– Anksčiau aktyvumas buvo kiek mažesnis. Dabar ateini į kokio nors portalo straipsnį ir pamatai 500 komentarų, iš kurių daugybė yra gavę 200–300 patiktukų ir jie parašyti pagal kokius 5 šablonus. Viena šabloniška žinutė yra, kad čia suvežti vaikai. Kita – kad neturintys ką veikti veltėdžiai eina, trečia – kad taškomi LRT pinigai. Ir taip šimtus kartų skirtingais žodžiais, kyla klausimas, kas čia vyksta.

– Ir strategija yra rašyti būtent po portalų straipsniais?

– Ir po Delfi, ir po 15min, ir po LRT.lt, ir po kitų. Kai pamatai skaičius, kyla klausimas, kas vyksta. Vienos paskyros atrodo gal ir neblogai, žmogiškos, bet irgi keistesnės, pavyzdžiui, paskyra yra nuo kokių 2022 metų. Kita turi 39 draugus, kita – be jokios nuotraukos. Kita atrodo natūraliai, bet vietoje žmogaus veido yra vazonai su gėlėmis. Pasižiūri ir matyti, kad 90 proc. komentarų yra parašyti visai ne žmonių, o kompiuterinių programų.

Dabar vis dažniau pasitaiko, kad žmonių gyvenamosios vietos yra ne Lietuvoje (...). Pavyzdžiui, rodoma, kad kokia nors Bronislova, kuriai 70 metų, gyvena Vietname. Tikėtina, kad rusiški šiukšlintojai naudoja virtualius VPN tinklus ir jungiasi iš kitos valstybės.

– Kokiose dar diskusijose reiškiasi netikros paskyros?

– Suaktyvėjimas būna, kai Kremliaus strategai galvoja, kad tai labai svarbios temos. Iki šiol didžiausią suaktyvėjimą prisimenu prieš pat Rusijos invaziją į Ukrainą. Jis vyko kokius pusę metų, dar nuo vasaros. Likus kokiam mėnesiui paskyrų aktyvumas buvo itin didelis. Bet labai retais atvejais tai pasiekdavo pusantro šimto. Tai buvo temos, kad Rusija pagrobusi Krymą, reikia išvesti kariuomenę. Prasidėjo straipsniai, kad NATO šalys mato labai dideles Rusijos pajėgas, sutelktas prie sienos, ir kad akivaizdžiai ruošiamasi invazijai. Tada tos paskyros atbėgdavo ir imdavo sakyti, kad tai akivaizdžiai nesąmonė, kad Ukraina užėmusi Donbasą,o Rusija nekariauja. Buvo suaktyvėjimo periodas, paskui jis nelabai smarkiai nusmuko.

– Ar tiesa, kad paskyros reiškiasi ir socialinėmis temomis? Pavyzdžiui, LGBT.

– Prisimenu vieną senesnį tyrimą apie socialinį tinklą „Twitter“. Buvo nustatyta, kad ir kokia tema bebūtų, jei tik ji dirgina žmones, rusiški botai pasiskirsto perpus ir vieni varo ant kitų. Jei apie LGBT, tai vieni sako, kad reikia naujų pamokų mokyklose, kiti – kad reikia šaudyti.

– Vadinasi, turi būti ir tokių botų, kurie LRT tema pasisako, apsimesdami protesto palaikytojais?

– Sunkus klausimas, nes Lietuvoje nusistatymas Rusijos atžvilgiu toks, kad jiems nebereikia pridėti. Bet prisiminkime pirmus botų antplūdžius – jie buvo antirusiški, bandė supjudyti (...). Kodėl auginamos nacionalistinės jėgos? Kad būtų galima pasakyti, jog valstybė turi išstoti iš ES, ir liktų susilpninta. NATO šalys gali susipjauti būtent dėl kraštutinio nacionalizmo (...).

Dar iki COVID-19 pastebėdavome temų, kuriose būdavo pasisakoma prieš skiepus, nuolat išlįsdavo kokie nors medžių gynėjai. Tema svarbi, kai pažiūri, Lietuvoje medžių kertama smarkiai per daug, bet iššoka botai, keistos asmenybės ir pradeda aiškinti, kad valdžia bloga, tuoj neliks miškų, sovietmečiu buvo kitaip. Kai pažiūri į kitas valstybes, pamatai, kad taip pat yra Ukrainoje, Lenkijoje, Latvijoje. Turbūt ne šiaip sau. Kartais net vaizdai vienodi, bet tekstai išversti, supranti, kad tai daroma organizuotai, siekiant supriešinti visuomenes ir blokuoti sprendimus. Kokie sprendimai gali būti blokuojami – žinoma, kad politiniai, kariniai. Lengva parėkauti, kad trūksta pensininkams valgyti, todėl nepirkime ginkluotės.

– Dabar galima pastebėti daug ne itin tikroviškai atrodančių aktyvistų paskyrų, jie esą priešinasi karinių poligonų statyboms.

– Pastaruoju metu – taip, bet miškų istorijos prasidėjo dar prieš 10 metų, kai poligonų dar nestatė. Tiesiog priešinosi medžių kirtimui.

Temų yra įvairių. Buvo paskelbta melagienų, kad NATO kariai su tankais esą išgriovė kapus, kad kareiviai neva pagrobė ir išprievartavo nepilnametę. Panašios istorijos platinamos tai Lietuvoje, tai Vokietijoje, tai Latvijoje, tai Lenkijoje. Parengė ir paleido skirtingose valstybėse.

Botai čia aktyviai veikia, kai tokia melagiena paskelbiama per marginalinę žiniasklaidą.

– Ar neautentiškos paskyros iš tiesų gali kaip nors paveikti politiką? Ar kokie nors politikai iš to gautų naudos?

– Sunku įrodyti, kad kuri nors politinė partija tai pirktų. Esu matęs, kad kai kurios viešųjų ryšių agentūros siūlo komentavimo „Facebooke“ paslaugas, tai yra ties legalumo ir moralumo riba. Kaip pamatyti, ar tai naudojama? Sunku, nes tai nėra taip masiška kaip brukalių ar Kremliaus veikla. Kremlius naudoja dešimtimis tūkstančių, didžiuliai skaičiai. Manau, kad vietinės agentūros naudoja dešimtis, šimtus paskyrų. Įsivaizduokime, ateina tūkstantis Kremliaus paskyrų, keliasdešimt firmos, kuri teikia paslaugas kokiai nors partijai, ir keliasdešimt šiaip žmonių tikrų ir netikrų paskyrų. Ir pabandyk pasakyti, kur ir kaip kas ką darė. Tai neatsekama.

– Bet mano klausimas, ar yra politikų, kurie gauna iš to naudos? Gal ne patys užsako komentarus, bet pritraukia jų dėmesį?

– Manau, kad yra pora partijų, kurios užsisako ir moka už tai pinigus. Sakykime, pora prorusiškų partijų ir viena pakankamai neprorusiška, kuri naudoja netikras paskyras. Tų atvejų būna, tai nesusiję su prorusiškumu. Galiu pasakyti, kad nemačiau požymių, jog konservatoriai ir socialdemokratai būtų tai naudoję, bet kai kurios mažesnės partijos naudojo, tas naudojimas būna fragmentiškas, vyksta per rinkimus, o kartais prasitęsia.

Aišku, yra „Nemuno dešra“ (sic), kurią aktyviai remia šimtai, tūkstančiai keistų paskyrų, net garbina lyderį.

– Tačiau ar galime sakyti, kad netikros paskyros, daug jų ar mažai, paveikia politiką?

– Taip, tai rodo vieno iš labiausiai prorusiškų kandidatų į prezidentus paskutiniuose rinkimuose rėmėjų skaičius, siekęs apie 7 procentus, nors anksčiau atvirai prorusiškos jėgos surinkdavo 2–4 proc. balsų. Tai yra daug, vadinasi, gali būti ir daugiau.

Žinoma, galima klausti, kiek buvo konsoliduota kitais būdais. Daug propagandos yra socialiniame tinkle „TikTok“, kurio, man atrodo, Lietuvoje niekas nestebi. Rumunijoje stebėjimas vyko, ir jie kai ką pašalino iš rinkimų, nes pamatė, kad vyksta neteisėta įtaka. Nežinau, ar Lietuvoje ką nors išdrįstų išmesti iš rinkimų už neteisėtą veiklą.

Politinė įtaka yra, bet gal ji ne tokia stipri, kaip norėtųsi Kremliui, ir lėčiau veikianti. Žmonėms galvose niekas nepersisuka per dieną ar per savaitę, reikia, kad kapsėtų mėnesiais, metais. Pavyzdys yra antilandsberginė propaganda: niekas negali pasakyti ko nors blogo apie Landsbergį, bet kapsi ir kapsi dešimtmečiais, kad jis toks ir anoks, ir atsiranda žmonių, kurie nuoširdžiai ima manyti, kad jis blogis. Poveikis kartais sunkiai įvertinamas. Tačiau turime priešišką valstybę, kurios propaganda niekada nebuvo sustojusi. Ji buvo susilpnėjusi prieš kelis dešimtmečius, bet ji tęsėsi visada.

– Ką manote apie iniciatyvas dėl tokios veiklos suvaržymo? Yra konservatorių siūlomų pataisų: vienos kriminalizuotų manipuliavimą interneto platformomis, kitos, neseniai pateiktos, siūlo įtvirtinti dezinformaciją Baudžiamajame kodekse. Ką manote apie tokius bandymus?

– Aš esu skeptiškas dėl reguliavimo įstatymų, nes matau, kaip Lietuvoje tai „veikia“. Pavyzdžiui, elektroninės cigaretės. Buvo uždraustos – ar tai suveikė? Tai kaip tas memas apie Švedijos politikę, kuri sako: „Pas mus nusikaltimus daryti uždrausta įstatymu.“ Politikams atrodo, kad draudimas yra sprendimas, bet tai nesuveikia. Įstatymų, kurie už karo propagandą leistų sodinti, yra. Kodėl jie neveikia? Matyt, įvedus dar vieną įstatymą neatsirastų mechanizmas, kuris leistų su tuo susitvarkyti.

Net kai yra gerų norų, yra ir cenzūros rizika. Viena vertus, pasaulinių karų patirtis rodo, kad valstybės nesugeba išlaikyti suvereniteto, jei nesiima cenzūros, nes priešiškos jėgos sugeba išnaudoti žodžio laisvę labai grubiais būdais, panašiai kaip dabar Lietuvoje, bet daug baisiau. Tai pavojinga, ir aš nežinau, ar mūsų situacija tokia bloga, kad to reikėtų. Galbūt dar ne.

Žmonių švietimas apie propagandą, botus ir kitomis temomis yra per mažas, ir gal daugiau galėtume padaryti, jei šviestume žmones. Pavyzdžiui, Suomija pasiekė gerų rezultatų, kai apie propagandą pradėjo mokyti mokyklose, jie net tėvams pradėjo aiškinti, kas yra Rusijos botai.

– Girdime vis daugiau balsų, kurie šlykštisi socialiniais tinklais, internetas seniai siejamas nebe su laisve ir demokratija, o su baisia vieta. Kaip jūs, kaip ilgametis tinklaraštininkas, prisimenantis ir kitokį internetą, manote, kas jį išgelbės? Kas tie likę demokratijos taškai: tinklaraščiai, „Vikipedija“?..

– Tikriausiai daugiausia rizikos kelia dirbtinis intelektas, nes automatizuotos sistemos, kurios pačios gali keisti turinį, yra labai pavojingos.

Nedaug kas žino, bet visą lietuvišką „Vikipediją“ prižiūri kokie dešimt žmonių. Jie negauna jokio atlyginimo, jie gali būti sudoroti, jei kas nors sugalvotų perimti. Ir dešimt yra gana optimistinis skaičius.

Tai labai rizikinga, įsivaizduokime, kad visi lietuviški politikos ir istorijos straipsniai imtų teigiamai atsiliepti apie Rusiją. Tai turėtų baisų efektą. Tas pats ir su socialiniu tinklu „Facebook“ – ten bent dalį žmonių pažįstame, žinome, kad jie tikri. Bet botų skaičius auga tokiais tempais, kad užtikrintumo lieka vis mažiau. Anksčiau „Facebookas“ tikrindavo, kad žmogus būtų žmogus, o dabar neseniai buvo atskleista, kad jis dalį pajamų gauna iš sukčių. Ir jie sugalvojo, gal padidinkime kainą. Daugiau uždirbti iš sukčių – tokio lygio yra jų mąstymas. Žmonės su tokia morale daro įtaką procesams Lietuvoje. Jei rusiškai propagandai išleidžiama daug pinigų, jie darys viską, kad ji liktų?

Kaip tai spręsti? Labai sunku. Gal labiau remti lietuviškus informacijos šaltinius. Ekspertai sako, kad viena iš problemų šiandien yra lokalių žiniasklaidos šaltinių pajamos, kad maži leidiniai neišsilaiko, kad reikėtų finansuoti juos. Gal tai stabilizuotų situaciją. Manau, galiausiai viskas atsiremia į tai, kad reikia šviesti ir mokyti visuomenę atskirti žmones nuo botų ir tikriausiai daugiau bendrauti gyvai. Bet čia labiau kalbos. (Šypsosi.)