„Grįžtant prie klausimo, kaip gyvensime po 500 metų, tai nieko nematau tame krištoliniame rutulyje. Galbūt todėl, kad tikrai abejoju, ar sugebėsime išgyventi ateinančius 500 metų. Manau, kad mūsų tiesiog nebebus“, – sako britų ir graikų kilmės dirbtinio intelekto medicinoje mokslų daktaras George Zarkadakis.
Interviu LRT.lt, kurį vizionierius davė konferencijos „Lūžio taškas“ metu, G. Zarkadakis, be nuogąstavimo dėl žmonijos ateities, išskyrė ir prastą Europos Sąjungos situaciją dirbtinio intelekto srityje.
Interviu trumpai
- G. Zarkadakis abejoja, ar žmonija sugebės išgyventi ateinančius 500 metų, nes žmonės linkę į karus ir konfliktus, kurie kelia didelę grėsmę išlikimui.
- Ateities technologinis progresas nėra duotybė. Vizionierius pabrėžia, kad istorija rodo, jog pažanga yra ciklinis procesas.
- Nors DI gali išspręsti ekonomines problemas, jis taip pat kelia pavojų oligopolijų formavimuisi, kur tik kelios bendrovės gali kurti ir kontroliuoti šias technologijas.
- Dėl demografinio nuosmukio ir mažėjančio darbo jėgos, DI taps esminiu įrankiu išlaikyti ekonominį augimą.
- Europa dėl nesėkmingos reguliacijos dirbtinio intelekto srityje rizikuoja tapti užnugariu, kai pagrindiniai žaidėjai yra JAV ir Kinija.
„Manau, kad kalbant apie dirbtinį intelektą ir išsivystymą, mes [Europa] ateityje būsime kaip Afrika“, – įspėjo jis.
– Pirmasis klausimas bus toks pat, kaip ir jūsų 2015 m. išleistos knygos pavadinimas – ar dirbtinis intelektas mus išgelbės, ar sunaikins?
– Manau, kad viskas priklauso nuo mūsų, kaip ateityje valdysime dirbtinio intelekto naudojimą. Kalbėdamas apie dirbtinį intelektą turiu omenyje bendrąjį dirbtinį intelektą (BDI – tai hipotetinis intelektas, turintis gebėjimą suprasti, mokytis ir taikyti žinias įvairiose srityse, panašiai kaip žmogus – LRT). To dar nesame pasiekę, bet manau, kad esame labai, labai arti to taško. Taigi tai, kaip mes valdysime BDI, bus nepaprastai svarbu mūsų išlikimui.
Laimė, 20 amžiuje buvo daug sėkmingų pavojingų technologijų valdymo pavyzdžių. Tarkime, branduolinė energetika, atomo skaldymas, dėl kurio atsirado branduoliniai reaktoriai ir pigi elektros energija, o kartu ir branduoliniai ginklai.
Visgi verta atkreipti dėmesį, kad DI atsiradimas tam tikra prasme suteikia papildomų įrankių piktavaliams, kurie gali prisidėti sunaikinant pasaulį. Pavyzdžiui, savo pranešime minėjau naują „OpenAI o1“ sistemą, kuri mokosi tobulinti savo mąstymo grandinę ir tobulinti naudojamas strategijas. Minčių grandinės automatizavimas realiame gyvenime reiškia, kad visai nieko nenutuokiantis žmogus gali sukurti biologinį ginklą. Sistema gali padėti suprasti priežastį žingsnis po žingsnio. Tai labai pavojinga. Tai „OpenAI“ iš tikrųjų pripažino. Taigi žaidžiame su ugnimi. Tai tarsi Prometėjo ugnis, kuri ateina iš Dievų ir duodama žmonėms. Tačiau reikia būdo, kaip su ja elgtis ir nenudegti.
– Ką jūs turite galvoje sakydamas nenudegti? Kaip dirbtinis intelektas galėtų privesti žmoniją prie sunaikinimo? Tarkime, padėtų blogiukams sukurti masinio naikinimo ginklą?
– Galime kalbėti apie kelis scenarijus. Filosofas Nickas Bostromas pasiūlė scenarijų, pagal kurį dirbtiniam intelektui duodate iš pirmo žvilgsnio nekenksmingą užduotį – pagaminti segtuką, ir iliustravo, kaip dirbtinio intelekto mąstymo grandinė gali baigtis tuo, kad kuriant segtukus žmonija bus išnaikinta (angl. Paperclip maximizer). Visgi nemanau, kad turėtume nerimauti dėl tokio drastiško scenarijaus.
Manau, kad labiausiai tikėtini scenarijai, bent jau tie, kurie mane gąsdina, yra tie, kuriuos minėjau anksčiau, t. y. DI sistemų naudojimas kaip kognityvinių daugiklių žmonėms, kurie nori gaminti, tarkime, patogenus ir sukelti naują epidemiją. Tiesą sakant, labiausiai nerimauju dėl biologinių ginklų ir dirbtinio intelekto derinio. Matau, kaip yra sujungiamos dvi technologijos, DI ir CRISPR (tai revoliucinė genų redagavimo technologija, leidžianti tiksliai ir efektyviai modifikuoti DNR sekas organizmuose – LRT), kurios gali prie to prisidėti.
Kalbant apie branduolinius ginklus, iškyla problema. Norint jį sukurti, reikia tam tikrų sunkiai pagaminamų medžiagų – urano, plutonio. Tačiau sukurti biologinį ginklą nėra taip sunku. Tai galite padaryti kad ir savo garaže. Tokie scenarijai mane gąsdina labiausiai.
– Minėjote, kad DI nauda ir žala žmonijai priklausys nuo reguliacinės aplinkos. Kol kas matome, kad reguliacinė aplinka kurti DI sprendimus Europoje atsilieka. Pavyzdžiui, naujausio „Iphone 16“ „Apple Intelligence“ įrankiai nebus prieinami Europoje, kai kurios „Facebook“ siūlomos dirbtinio intelekto savybės taip pat nėra prieinamos Europoje, nes neatitinka mūsų reguliacijų, ar dėl to pralošiame?
– Galiu čia valandas vardinti ES aktus, kurie yra tragiškai blogi. Tačiau vienas iš pražūtingiausių ES reglamentų yra dirbtinio intelekto aktas. Šis aktas, galima sakyti, per naktį sunaikino Europos inovacijas ir dirbtinį intelektą. Kalbant apie dirbtinį intelektą, Europa pasauliui yra nesvarbi. Reikia būti tikru kvailiu, kuris nesupranta pinigų reikšmės, kad investuotum į DI Europoje. To niekas ir nedaro. Šiuo metu dirbtinio intelekto srityje veikia tik du žaidėjai – Amerika ir Kinija. Europa yra taip atsilikusi, kad nežinau, ar kada nors galėsime pasivyti pirmaujančius.
Reikia būti tikru kvailiu, kuris nesupranta pinigų reikšmės, kad investuotum į DI Europoje
– Jei negalėsime pavyti, kokios bus pasekmės?
– Tokios, kaip ir bet kurioje pramoninėje revoliucijoje. Pažvelkime į šalis, kurios pirmosios išsivystė dėl tam tikros technologijos, tarkime, garo mašinų. Kas nutiko su jomis? Jos tapo ekonomiškai ir kariniu požiūriu dominuojančiomis valstybėmis. O šalys, kurios nepakankamai greitai industrializavosi, vis dar kenčia. Pavyzdžiui, pažvelkite į Afriką. Manau, kad kalbant apie dirbtinį intelektą ir išsivystymą, mes [Europa] ateityje būsime kaip Afrika.
Manau, kad kalbant apie dirbtinį intelektą ir išsivystymą, mes [Europa] ateityje būsime kaip Afrika
– Nemažai kalbate ir apie DI, ir apie BDI. Ką sugebės padaryti bendrasis dirbtinis intelektas, ko nesugeba dirbtinis intelektas?
– Bus galima išspręsti paaiškinamumo problemą, kuri yra svarbiausia iš visų. Dabar kylanti problema, ar galima pasitikėti DI pateiktu rezultatu, kaip jis buvo gautas? Kita bėda – vadinamoji haliucinacijų problema [neteisingi ar klaidinantys rezultatai, kuriuos generuoja dirbtinio intelekto modeliai – LRT]. Taip pat dirbtinio intelekto sistemai trūksta pastovumo. Taip yra todėl, kad vadinamasis dirbtinis intelektas neturi loginio mąstymo. Pavyzdžiui, duokite DI skaičių seką ir paprašykite, kad jis surastų, koks yra kitas skaičius toje sekoje. Kartais DI tai padaro teisingai, kartais – neteisingai. Tai yra dabartinio dirbtinio intelekto variklių silpnoji vieta.
Tuo metu su BDI yra siekis sujungti formalų žinojimą su tikimybėmis. BDI nebus sąmoningas, neturės jausmų – ne bėda. Tačiau jis veiks bendrojo intelekto būdu.
– Vienas iš DI tikslų – padaryti mūsų darbą našesnį ir lengvesnį. Nepaisant DI atsiradimo, mes vis dar girdime atvejų, kada kalbama ne apie 4, o 6 darbo dienų savaitę. Pavyzdžiui, jūs esate graikas, šią vasarą šalyje buvo priimtas sprendimas turėti 6 darbo dienų savaitę. Ar nepasigendate DI pritaikymo realybėje ir našumo didinimo?
– Atsakymas į šį klausimą yra politinis ir ekonominis. Problema, kurią dabar turime, –pragyvenimo lygis sumažėjo dėl našumo. Mums reikia įrankių produktyvumui didinti, kitaip neturėsime augimo. Dėl demografinio nuosmukio per ateinančius 10–20 metų ši našumo problema taps dar opesnė. Darbingo amžiaus žmonės turės būti 10–20 kartų produktyvesni tam, kad sukurtų gerovę vyresniems žmonėms išlaikyti. Kitaip mūsų laukia žlugimas, civilizacijos žlugimas. Taigi ekonominis argumentas yra aiškus. Mums būtinai reikia dirbtinio intelekto, kad išlaikytume civilizaciją.
Kartu reikia pagalvoti, kokios bus politinės to pasekmės. Ypač kai šios technologijos yra valdomos nedidelės grupės žmonių. Ir mes čia kalbame apie oligopoliją. Šiuo metu tik nedaugelis bendrovių gali pritraukti kapitalą, reikalingą DI sistemoms kurti. Ir tai reiškia, kad reikia tam tikro politinio įsitraukimo.
Pasaulyje jau turime pavyzdžių, tarkim, aviacijos sektorius, kur dominuoja vos keli gamintojai. Tai nėra nieko naujo. Tikrai turime būdų, kaip suvaldyti tas oligopolijas ir politikai tam turėtų skirti didelį dėmesį, užuot priiminėję kvailus ir savižudiškus teisės aktus, tokius kaip ES dirbtinio intelekto aktas.
– Žinau, kad dirbate ir sveikatos apsaugos sistemoje. Kaip DI gali padėti šioje srityje ir ką manote, ar ateis diena, kai DI savarankiškai operuos žmones?
– Šiuo metu medicinoje vyrauja viena tendencija – tai vadinamoji individualizuotoji medicina (tai naujoviškas požiūris į ligų prevenciją, gydymą, kuriuo atsižvelgiama į žmonių genų, aplinkos ir gyvenimo būdo skirtumus – LRT). Ne kiekvienas vaistas gali išgydyti visus žmones. Dabar kuriami vaistai ir gydymo būdai yra tikimybiniai. Pavyzdžiui, gydytojas, jei jums kas nors yra, skirs jums vaistą, kurio veiksmingumas įrodytas, tačiau jis grįstas tikimybe, kad daliai žmonių tas vaistas padeda. Tačiau jūs nebūtinai esate toje dalyje. Individualizuotoji medicina reiškia, kad galėsiu nustatyti jūsų genomo seką, kažkur saugoti skaitmeninį failą ir galėsiu naudoti tą failą kartu su klinikiniais duomenimis, kad geriau suprasčiau, kaip jūsų kūnas reaguos į tam tikrą gydymą. Visam tam reikės naudoti DI.
Per akimirką galima padaryti tai, ką mokslininkams užtruktų daryti 50 metų
Dirbtinis intelektas jau naudojamas molekulėms atrasti. Pavyzdžiui, baltymams. Galbūt esate girdėję apie DI sistemą „AlphaFold“. Ji skirtas nuspėti baltymų erdvinę struktūrą, remiantis jų aminorūgščių seka. Šis įrankis padeda tyrėjams suprasti, kaip baltymai susilanksto į savo natūralias 3D formas, kurios yra būtinos baltymų funkcijai organizme. Šis įrankis ypač naudingas biochemijoje, farmacijoje, medicinoje bei genetikoje, nes leidžia greičiau suprasti baltymų veikimo principus ir taip padeda kurti naujus vaistus, diagnozavimo metodus bei suprasti ligų molekulines priežastis. Per akimirką galima padaryti tai, ką mokslininkams užtruktų daryti 50 metų.
– Jeigu turėtumėte krištolinį rutulį, kaip manote, koks bus DI ir žmonijos vaidmuo ateityje. Tarkime, po 500 metų. Ar viską darys tik DI, o mes tapsime tik hedonistine visuomene, gulėsime lovose, gausime bazines pajamas?
– Iš tos nedidelės istorijos, kurią žinau ir skaičiau per savo gyvenimą, galiu pasakyti, kad progresas nėra duotas savaime. Turime iliuziją, kad pažanga yra nesustabdoma.
Progresas nėra duotas savaime. Turime iliuziją, kad pažanga yra nesustabdoma
Per pastaruosius du šimtmečius, tarkime, 19 a. dėl pramonės revoliucijos išvengėme vadinamųjų Maltuso spąstų [ekonomisto Tomo Malthuso teorija, teigianti, kad gyventojų skaičiaus augimas linkęs viršyti maisto gamybos pajėgumus, o tai veda prie pragyvenimo minimumo lygio ciklo. Pagal šią teoriją, bet kokie ištekliai ar technologinės pažangos, didinančios maisto gamybą, iš pradžių pagerina gyvenimo sąlygas ir skatina gyventojų skaičiaus augimą. Tačiau gyventojų augimas ilgainiui sukuria didesnę išteklių paklausą, todėl visuomenė grįžta į pragyvenimo minimumą, neleidžiama tvariai pagerinti gyvenimo kokybės – LRT]. Galėjome gaminti tik tiek, kad išlaikytume tam tikrą individų skaičių žemėje, kuris buvo gana ribotas.
Tačiau prasidėjo pramonės revoliucija. Mūsų produktyvumas padidėjo, galėjome pagaminti daugiau produkcijos. Ir tada matome, kaip pradėjo didėti žmonių populiacija. Tai yra per pastaruosius 200 metų įvykęs reiškinys, kurį vadiname pažanga. Kadangi esame įpratę, kad tai neišvengiama, manome, kad po 500 metų bus kažkoks futuristinis scenarijus, pagal kurį, nežinau, būsime dematerializuoti ar panašiai. Visgi nemanau, kad tai galime priimti už gryną pinigą.
Jei pažvelgtumėte į praeities istoriją, jei grįžtumėte kelerius metus atgal, pamatytumėte, kad žmonijos istorija yra progreso ir regreso ciklas. Paklausite, kas užtikrina pusiausvyrą? Vienas iš pranešėjų konferencijoje bandė spręsti šią problemą per kartų sąmoningumą ir elgseną. Manau, kad yra kur kas daugiau veiksnių, kurie galiausiai yra susiję su žmogaus prigimtimi.
Ar galime išgyventi patys? Ar mūsų rūšis geba mąstyti globaliai? Pavyzdžiui, dabar išgyvename dar vieną Šaltąjį karą. Girdėjau argumentus ir juos suprantu, tačiau niekas neuždavė klausimo, kuris turėtų būti svarbesnis už šią diskusiją. Ar mums tikrai reikia varžytis su Kinija ir Rusija? Jei taip, kodėl? Jei turime kariauti, gerai, bet turiu suprasti, kodėl. Ir tai yra pagrindinis klausimas.
Mes esame, kaip ir beždžionės, labai priešiški. Esame rūšis, linkusi į karą ir konfliktus. Tai turi teigiamų aspektų, nes kova reiškia konkurenciją, tačiau tai turi ir labai blogų aspektų.
Tikrai abejoju, ar sugebėsime išgyventi ateinančius 500 metų. Manau, kad mūsų tiesiog nebebus
Grįžtant prie klausimo, kaip gyvensime po 500 metų, tai nieko nematau tame krištoliniame rutulyje. Galbūt todėl, kad tikrai abejoju, ar sugebėsime išgyventi ateinančius 500 metų. Manau, kad mūsų tiesiog nebebus. Todėl manau, kad, kaip kalba, pavyzdžiui, Elonas Muskas ir kiti, turėtume pradėti galvoti kaip dingti iš šitos planetos.
– E. Muskas yra pasakęs, kad žmones į Marsą būtų galima nusiųsti jau po 4 metų, o po 20 metų Marsą būtų galima jau ir kolonizuoti.
– Nežinau, ar tai tikrai nutiks po 4 metų, bet mums tokios galimybės tikrai reikia. Marsas tikrai prasta vieta gyventi, tai kaip Antarktida. Tačiau mums reikia atsarginės planetos, jei netyčia mūsų Žemė taptų nebetinkama gyventi. Aš galiu mūsų žmonijos egzistavimą įsivaizduoti tik tokiu atveju, jei mes sugebėsime nuskristi ir kolonizuoti kitas planetas. Taigi, žinote, kai kurie mūsų bičiuliai žudys vieni kitus, bet bent jau kažkur bus kažkokia gentis, kuri dėl kažkokių priežasčių išliks.
– Koks būtų jūsų patarimas jauniems žmonės, kurie skaito šį interviu ir galvoja apie ateities profesiją? Ar jie turėtų nesirinkti širdžiai mielos krypties vien todėl, kad jų darbą galės pakeisti DI?
– Aš palaikau STEM mokslo sritis (angl. Science, technology, engineering, and mathematics, liet. mokslas, technologijos, inžinerija ir matematika). Tačiau akivaizdu, kad ne kiekvienas moksleivis nori ar gali siekti karjeros inžinerijos ar gamtos mokslų ir technologijų srityje.
Nežinau, ar kitos sritys ateityje bus reikalingos, nežinau net, kiek jos reikalingos dabar. Ir žinote, abejoju daugelio šių profesijų įsidarbinimo galimybėmis. Bet jeigu mes kalbėsime apie STEM sritis, aš jums duosiu pavyzdį iš savo patirties. Kai pradėjau studijuoti inžineriją, o tai buvo dar devintąjį dešimtmetį, pirmoje paskaitoje mus mokė, kaip naudotis logaritminėmis liniuotėmis. Jūs turbūt net nežinote, kas tai yra.
– Naudotis neteko, bet mokykloje mokėmės spręsti logaritmines lygtis.
– Tai turbūt naudojotės logaritminėmis lentelėmis. Bet mes naudojome liniuotę, kuri turėjo tokį slankiklį, jį naudodami ir spręsdavome lygtis. Bet tuomet atsirado kompiuteriai. Dėl to aš, inžinierius, netapau nebereikalingas. Nebereikalinga tapo liniuotė. Taigi, logaritmų skaičiavimui pradėjo naudoti kompiuterius, o tai suteikė didžiulį pastūmį darbe. Mes galėjome padidinti savo produktyvumą.
DI nepakeis žmogaus, net jei bus sukurti BDI. Kompiuteriai negali dirbti vakuume. Jie turi bendradarbiauti su žmonėmis, suprasti jų tikslus ir žmonijos poreikius. Žmogaus visuomenės supratimo neįmanoma atskirti nuo BDI ir manau, kad tai yra pats teigiamiausias BDI aspektas. BDI negali egzistuoti neįtraukdamas žmonių pasaulio.
– Jeigu turėtumėte burtų lazdelę ir galėtumėte sugalvoti vieną norą, koks jis būtų?
– Norėčiau taikos. Po Sovietų Sąjungos griuvimo buvo metas, kai buvo labai daug tikėjimo. 1989 m. kartu su draugu vokiečiu buvau Berlyne. Ten vis dar stovėjo siena. Buvo liūdna tai matyti. Bet visai netrukus siena griuvo. Jūs net neįsivaizduojate, kiek buvo daug džiaugsmo Europoje ir pasaulyje, kai siena griuvo. Ir mes vėl einame į panašią situaciją (kai stovėjo Berlyno siena – LRT) ir tai labai mane gąsdina. Taigi, palinkėčiau pasauliui taikos.
