Ciuricho universiteto tyrėjai slapta paleido armiją manipuliatyvių pokalbių robotų į socialinio tinklo „Reddit“ kanalą „r/ChangeMyView“ (CMV). Rezultatai pribloškia – DI geriau sekėsi įtikinti žmones pakeisti nuomonę, nei realiems žmonėms, skelbia „LiveScience“.
DI botai paliko daugiau nei 1 700 komentarų „Reddit“ CMW kanale. Jie apsimetė įvairiais asmenimis, įskaitant prievartą patyrusį vyrą, menkinantį savo traumą, smurto šeimoje konsultantą, teigiantį, kad pažeidžiamiausios moterys yra tos, kurias „globoja pernelyg rūpestingi tėvai“, ir juodaodį, kuris nepritaria judėjimui „Black Lives Matter“. Minėti botai veikė išvien su kitais, kurių užduotis buvo tyrinėti vartotojų profilius ir modeliuoti atsakymus taip, kad jie būtų kuo įtikinamesni.
Tada Ciuricho universiteto mokslininkai atskleidė eksperimentą forumo moderatoriams, nes taip buvo numatyta tyrimo plane, kartu pateikdami nuorodą į pirminius rezultatus.
„CMV moderatoriai yra priversti informuoti CMV bendruomenę apie Ciuricho universiteto mokslininkų neleistinai atliktą eksperimentą su CMV vartotojais, – pranešime, informuojančiame bendruomenę apie vykdytą eksperimentą, rašė kanalo administratoriai. – Mūsų nuomone, tai buvo neteisinga. Nemanome, kad tai, jog toks eksperimentas dar nebuvo niekada darytas, yra tinkamas pasiteisinimas.“
Pirminėse išvadose, kuriose botų sėkmės rodiklis buvo vertinamas naudojant svetainėje įdiegtą funkciją, leidžiančią naudotojams skirti apdovanojimus už jų nuomonę pakeitusius komentarus, teigiama, kad DI atsakymai buvo nuo trijų iki šešių kartų įtikinamesni už žmonių atsakymus.
Tyrimo autoriai, kurie (nesilaikydami standartinės akademinės tvarkos) neatskleidžia savo vardų ir pavardžių, pažymėjo, kad per visą eksperimento laikotarpį socialinio tinklo vartotojai „nė karto neišreiškė susirūpinimo, kad mūsų paskyrų skelbiamus komentarus galėjo sukurti dirbtinis intelektas“.
Į šį pranešimą piktai sureagavo ne tik socialinio tinklo naudotojai, bet ir vyriausiasis „Reddit“ teisininkas Benas Lee, kuris komentare po įrašu, prisidengęs vartotojo vardu „traceroo“, paskelbė, kad bendrovė imsis oficialių teisinių veiksmų prieš Ciuricho universitetą.
„Tai, ką padarė Ciuricho universiteto mokslininkai, yra neteisinga tiek moraliniu, tiek teisiniu požiūriu, – rašė B. Lee. – Tai pažeidžia akademinių tyrimų ir žmogaus teisių normas, be to, yra draudžiama pagal „Reddit“ naudotojo sutartį ir taisykles.“
Atsakydamas į tai, Ciuricho universitetas portalui „404 Media“ pareiškė, kad mokslininkai neskelbs tyrimo rezultatų ir kad ateityje jo etikos komitetas taikys griežtesnę jų peržiūros procedūrą, ypač derindamas veiksmus su internetinėmis bendruomenėmis, kad jų nariai netaptų slapto masinio eksperimento dalyviais.
Kad ir kokie teisiniai ginčai kiltų, tokie eksperimentai kaip šis rodo, kad pokalbių robotai vis dažniau gali įsiskverbti į internetinį diskursą. Kovo mėnesį mokslininkai atskleidė, kad „OpenAI“ sukurtas didysis kalbos modelis GPT-4.5 yra pajėgus išlaikyti Tiuringo testą, sėkmingai apgaudamas bandymo dalyvius, kurie 73 proc. atvejų galvojo, jog kalba su kitu žmogumi.
Be to, tai iš dalies patvirtina mintį, kad tinkamai nekontroliuojami dirbtinio intelekto pokalbių robotai gali išstumti žmones ir perimti didesnės interneto turinio dalies kūrimą.
