Mokslas ir IT

2019.02.16 16:27

Naujo automatinio tekstų generatoriaus kūrėjai stengiasi išvengti jo netinkamo panaudojimo

BNS2019.02.16 16:27

Tyrėjai šią savaitę paskelbė sukūrę dirbtinio intelekto technologija pagrįstą programą, automatiškai kuriančią rišlius tekstus ir atliekančią šį darbą taip gerai, kad kol kas daugiau informacijos apie ją nebus atskleista, siekiant išvengti šios priemonės netinkamo naudojimo.

Programa, sukurta dirbtinio intelekto tyrimų centro „OpenAI“ gali būti naudojama rašyti naujienų pranešimams, gaminių apžvalgoms ir kitokiems tekstams, ir jie atrodo daug rišlesni negu bet kurie anksčiau kompiuterių sugeneruoti. 

„OpenAI“, remiamas elektromobilių gamybos milžinės „Tesla“ vadovo Elono Musko, taip pat bendrovių „Amazon“ ir „Microsoft“, nurodė, kad naujoji programa „demonstruoja pažangų veikimą daugelyje kalbos modeliavimo etalonų atžvilgiu“, įskaitant apžvalgų rašymą ir vertimą.

Vis dėlto viešai ši programa kol kas nebus platinama.

„Esame susirūpinę dėl šios technologijos žalingo naudojimo, todėl apmokyto modelio neišleidžiame“, – sakoma ketvirtadienį viename tinklaraštyje paskelbtame „OpenAI“ tyrėjų pranešime.

Ši žinia galbūt žada proveržį sukurti kompiuterinę programą, kuriančią rišlius tekstus, galinčius atrodyti menkai tesiskiriančius nuo žmonių parašytų. Vis dėlto ši technologija gali būti pavojinga.

Pasak tyrėjų, šią programą galima panaudoti įvairiems piktavališkiems tikslams, pavyzdžiui, kurti netikrų naujienų straipsniams, internete apsimetinėti kitais asmenimis, taip pat automatiškai platinti suklastotą turinį socialiniuose tinkluose.

Kaip vieną pavyzdį kūrėjai pateikia bandymą, kai į programą buvo įvesta viena pastraipa apie „vienaragių kaimenę, gyvenančią atokiame, iki šiol netyrinėtame slėnyje Andų kalnuose“. Remdamasi šiuo tekstu, programa parašė 300 žodžių apimties naujienų pranešimą.

„Plačiajai visuomenei reikės tapti skeptiškesne dėl internete randamų tekstų, lygiai kaip „nuodugniųjų klastočių“ (angl. deepfake) fenomenas reikalauja skeptiškumo dėl atvaizdų“, – rašo tyrėjai, turėdami omenyje pastaruoju metu vis sparčiau plintančius dirbtinio intelekto technologijomis apdorotus vaizdo įrašus.

Pasak tyrėjų, jų programa GPT-2 „pranoksta kitus kalbų modelius“, pritaikytus atlikti tokius darbus kaip interneto enciklopedijos „Wikipedia“ straipsnių, naujienų pranešimų ar netgi knygų rašymas – be būtinybės atlikti specifinį apmokymą.

Ši „OpenAI“ žinia yra naujausias signalas, rodantis, kad kompiuterinės kalbos technologijos yra vis sėkmingiau diegiamos. Šioje srityje pastaruoju metu buvo pasiekta reikšmingų proveržių, pavyzdžiui, pernai vykusios IBM programos „Project Debater“ varžybos su profesionaliais viešų debatų čempionais.