Naujienų srautas

Mokslas ir IT2025.01.30 11:27

DI ekspertas: pokalbių robotai linkę pateikti netikslią ar išgalvotą informaciją

00:00
|
00:00
00:00

Dirbtinio intelekto lektorius Darius Grigaliūnas LRT TELEVIZIJOS laidoje „Labas rytas“ sako, kad iš pirmo žvilgsnio gali pasirodyti, kad dirbtinio intelekto pokalbių robotai veikia labai paprastai – mes parašome užklausą ir gauname atsakymą. Tačiau iš tiesų šie pokalbių robotai technine prasme veikia sudėtingai, o jų sugeneruotais atsakymais pasitikėti reikėtų ne visuomet. 

Ir stiliaus, ir faktinės klaidos

„Jų veikimo principas yra toks, kad naudojami taip vadinami didieji kalbos modeliai. Tie didieji kalbos modeliai yra paremti didžiuliu kiekiu tekstinės informacijos ir tas pokalbių robotas geba tuos duomenis pritaikyti taip, kad mes gauname atitinkamą atsakymą. Tai jis tą daro naudodamas statistinius metodus. Kai mes užduodame klausimą pokalbių robotui, tie statistiniai metodai suprognozuoja labiausiai tikėtiną atsakymą“, – aiškina D. Grigaliūnas.

Labas rytas, Lietuva I d.

Pokalbių robotų pritaikymas yra daugialypis, o kasdienybėje juos naudoja daugelis – kartais gauti kasdienei informacijai, kartais ir komiškais tikslais. Tačiau dalis žmonių pokalbių robotus pasitelkia ir profesinėje veikloje.

„Pokalbių robotus pritaikyti galime tokiose situacijose, kuomet reikia dirbti, pavyzdžiui, su tekstu, – sako ekspertas. – Galbūt mums reikia paruošti kažkokią tekstinę informaciją, tokią kaip straipsniai, socialinių tinklų įrašai ir panašiai. Tai šitie sprendimai tai puikiai padeda padaryti.“

Visgi dirbtinio intelekto ekspertas taip pat pabrėžia, kad aklai pasitikėti pokalbių robotų sugeneruotais atsakymais nereikėtų. „Korekcijų reikia dažnai, – sako D. Grigaliūnas. – Tik jų kiekis būna skirtingas. Kartais jų reikia minimaliai, kartais tų korekcijų reikia ir žymiai daugiau. Na, o korekcijų reikia todėl, kad šie sprendimai, pateikdami mums atsakymą, gali jį pateikti su klaidomis arba ne visiškai tokį, kokio mes tikėjomės.“

O tos klaidos gali būti tiek stiliaus, tiek informacijos faktiškumo. „Pokalbių robotai linkę, techniškai kalbant, haliucinuoti, – aiškina ekspertas. – Tai reiškia, pateikti netikslią arba išgalvotą informaciją. Ir taip pat šie pokalbių robotai gali būti šališki.“

Užduodant pokalbių robotui klausimą apie politiką, tas pokalbių robotas mums gali atsakyti, palaikydamas vieną arba kitą politinę jėgą, sako pašnekovas.

Iššūkių kelia besibaigiantys duomenys

„ChatGPT“ sistema neseniai įtraukė naujovę, leidžiančią pasitikrinti šaltinius, kuriais remiantis yra pateiktas vienas ar kitas atsakymas.

„ChatGPT“ atsiradusi paieškos galimybė vartotojui padeda lengviau ir greičiau suprasti duomenų kilmę. „ChatGPT“ pateikia nuorodą į informaciją, kuria jis remiasi teikdamas atsakymą. Tokiu atveju vartotojui yra truputėlį lengviau, bet kaip visada, informaciją vis tiek turime dažnai tikrinti ir nepasitikėti šimtu procentų“, – teigia D. Grigaliūnas.

Tokie specifiniai klausimai, susiję, pavyzdžiui, su medicina arba su ekspertinėmis žiniomis, reikalauja dar didesnio atidumo, sako pašnekovas, tad roboto pateikti atsakymai ar sprendimai visada turi būti tikrinami, o pagalbos geriau ieškoti pas ekspertus.

„Jeigu mes gauname atsakymą apie kažkokį fantastinį mums pateiktą mitybos planą, vis tiek mes juo aklai tikėti negalime ir mes turėtume pasikonsultuoti su mitybos specialistu, ar vis dėlto pateikta informacija yra mums tinkama. Nes „ChatGPT“ daug informacijos apie mus nežino, todėl tos sistemos pateiktas atsakymas labai bendrinis“, – teigia D. Grigaliūnas.

Pastaruoju metu girdėti nemažai nuogąstavimų dėl išteklių, dėl resursų, kuriuos naudoja dirbtinio intelekto įrankiai, o tokių užklausų kainą, pasirodo, galima apibrėžti.

„Iš tiesų užklausų rašymas kainuoja cento dalis, – sako D. Grigaliūnas. – Bet įsivaizduokime, kad mums galbūt reikia įkelti visus Viljamo Šekspyro kūrinius į „ChatGPT“. Galime daryti prielaidą, kad tie kūriniai sudaro kažkur apie 900 tūkst. žodžių. Tam, kad tuos žodžius ir visus tuos kūrinius sukeltume į „ChatGPT“, mums šios dienos kainodara apytiksliai kainuotų apie 14 JAV dolerių.“

„Bet jeigu esame sistemų vystytojai, tai tik tais atvejais pradedame skaičiuoti, ar verta, ar neverta tokius sprendimus naudoti. Tačiau tendencija yra tokia, kad kaina visą laiką mažėja“, – priduria pašnekovas.

Vis dėlto, kalbama ne tik apie pažangą, bet ir iššūkius. „Vienas iš iššūkių, apie kuriuos pasaulis kalba yra tai, kad kaip ir baigiasi duomenys arba trūksta kokybiškų duomenų. Tai reiškia, kad bus iššūkis su duomenimis. Na, o dar vienas iš iššūkių, kuris mūsų laukia šiais metais mūsų regione tai yra Europos dirbtinio intelekto akto taikymas ir tai, kaip tai praktiškai bus įgyvendinta“, – teigia ekspertas.

Na, o ateitis ir lūžio taškas, apie kurį kalbama, yra dirbtinio intelekto agentai, sako D. Grigaliūnas: „Tai yra tokie modeliai, kurie gebės dar efektyviau veikti ir autonomiškai bei savarankiškai atlikti kompleksiškas užduotis.“

Viso pokalbio klausykite LRT TELEVIZIJOS laidos „Labas rytas, Lietuva“ įraše.

LRT yra žiniasklaidos priemonė, sertifikuota pagal tarptautinę Žurnalistikos patikimumo iniciatyvos programą

Naujausi, Skaitomiausi