Kiekvienas technologinis šuolis, ypač tuomet, kai toji technologija tampa prieinama masėms, sukelia pokyčių bangą, kuri nuvilnija per visus kultūrinius sluoksnius. Naujos technologijos ne tik keičia gamybos, judėjimo, darbo ir laisvalaikio sferas, ne tik perskirsto galią, jos keičia mūsų mąstymą ir teikia peno vaizduotei. Technologijos ir mokslo atradimai persmelkia mūsų žinojimą, tampa tuo, ką paprastais žodžiais vadiname savaime suprantamais dalykais, sveiku protu ar bendrosiomis žiniomis. Taip technologijos diktuoja ir būdus, kaip mes aiškiname pasaulį.
Taip pat skaitykite
Mūsų žinojimas yra nulemtas įvairių vaizduočių formų: mokslinė, meninė, religinė, mitologinė, lingvistinė ir t. t. Šias vaizduotes kaip žvejai tinklus metame į nežinios vandenyną ir traukiame tiesos žuvis. Bėda, kad pagal tai, kokį tinklą turime ir kokias žuvis ištraukiame, neretai darome pernelyg apibendrinančias išvadas. Pasišvaistę tinklu, skirtu lašišoms gaudyti, nieko tikra nepasakysime nei apie banginius, nei apie planktoną. Prieš pradedant garsiai šaukti ir kelti paniką, kad vandenyne nėra žuvies, kiekvienam žvejui reiktų pirma apsižiūrėti savo tinklą. Gal ši metafora ir nėra pati tinkamiausia, tačiau ji padeda aiškiai išreikšti mintį – nemėgindami reflektuoti, kodėl mes manome taip, kaip manome, nieko tikra nepasakome. Iš netinkamo tinklo suregztos racionalizacijos tėra tušti argumentai, net jei iš pirmo žvilgsnio jie atrodo tvirti, nes jei patys jais įtikime.
Grįžtant prie žvejo tinklo metaforos, svarbu pabrėžti, kad kiekvieną žinojimo tinklą sudaro daugybės tinklų visuma, tinklai persidengia, pinasi, tačiau tinklo pagrindą sudaro storosios gijos, prie kurių kiti tinklai savotiškai prisitaiko. Toks tinklo pagrindas arba žinojimo paradigma, ant kurios susiraizgo kiti vaizduočių tinklai Vakarų kultūroje, gali būti pavadinta antropocentrizmu. Tai reiškia, kad šioje įsivaizdavimo, koks yra pasaulis sistemoje, pasaulio centre yra žmogus, todėl iš šio žinojimo išplaukia ir antropocentristinė etika – visi, kurie yra suprantami kaip KITI, turi veikti suteikdami žmogui naudos ir / arba jam paklusdami. Tokią kultūrinę paradigmą atspindi kultūrinė vaizduotė – populiari literatūra, kinas. Dirbtinis intelektas ir / ar robotai stereotipiškai vaizduojami kaip vergai, kurie nusprendžia dekolonizuotis ir sukyla prieš savo šeimininką.
Pasakojami anekdotai, kuriuose bet koks kitas buvimo pasaulyje būdas yra laikomas kaip žemesnis, kvailas arba pavojingas. Inertiškai terminas „intelektas“ yra siejamas su vien tik žmogui būdinga savybe, tokiu būdu pabrėžiant jo išskirtinę vietą pasaulyje, tačiau vis daugiau mokslo atradimų verčia manyti, kad mes gyvename apsupti įvairių protaujančių, komunikuojančių ir aktyviai aplinką bei mus pačius veikiančių nežmogiškosios kilmės veikėjų. Tokį neantropocentristinį žinojimą apie pasaulį grindžia ne vienšiuolaikinis socialinis mokslas, sistemų ar veikėjų-tinklo teorijos, tačiau įdomu tai, kad labai panašiai pasaulį aiškina daugybės tradicinių indigeninių kultūrų kosmologijos, pavyzdžiui, Amazonijos, JAV ir Australijos autochtonų, į kurių balsą kultūrinės dekolonizacijos procese vis labiau įsiklausoma, o šiuolaikinė mokslo etika ir demokratinės vertybės nebeleidžia šių kultūrų menkinti ir vadinti primityviomis. Šią žinojimo paradigmą (arba tinklo, prie kurio, aiškinant ir pažįstant pasaulį, kabinami kiti tinklai) pavadinkime posthumanistine bendradarbiavimo arba simpoetikos paradigma.
Šiuo tinklu gaudant informaciją apie dirbtinį intelektą, jis nebeatrodo kažkoks išskirtinis nematytas ir nesuprantamas fenomenas, lendantis į mūsų privatų gyvenimą iš klozetų. Antropomorfizuojant ir lyginant su žmogumi, ne tik virtuali balso asistentė „Alexa“ atrodo nevykėlė, bet ir delfinai, juk ir jie nemoka kalbėti ir neišgyvena kūrybinių kančių.
Posthumanistinis požiūris pripažįsta, kad egzistuoja daugybė kitų fenomenų, kuriuos galime vadinti intelektais, kurie veikia kitaip nei žmogaus, daugelis jų susipina į ryšių sistemas, kurios peržengia vieno individo ribas. Įdomu, kad ne tik socialinių mokslų teorijos, bet ir atradimai mikrobiologijos ir mikologijos srityse verčia kvestionuoti ir pačią individo sąvoką, kuri ligi šiol buvo esminė Vakarų kultūros ir mokslo centre. Mūsų kūno mikrobioma, kuriai priklauso įvairūs mikroorganizmai, gyvenantys mūsų žarnyne, ant odos paviršiaus ir kitose kūno vietose, sudaro apie 1–3 proc. bendro svorio (apie 2 kg kūno masės). Nors mūsų genomo sudėtyje žmogaus DNR yra dominuojanti, žarnyno mikrobiomos genetinė įvairovė yra žymiai didesnė. Tik 5 proc. visų genų, esančių mūsų kūne, priklauso žmogaus genomui, o likusią dalį sudaro mikroorganizmų genai. Žmogaus genome yra apie 20 000–25 000 genų, tačiau mūsų organizme gyvenančių bakterijų, virusų, grybų ir kitų mikroorganizmų genų skaičius daug kartų didesnis. Ši genetinė įvairovė leidžia mikrobiomai atlikti įvairias funkcijas, be kurių mes nebūtume tai, kas esame. Mikroorganizmai dalyvauja ne tik virškinant maistą, bet taip pat reguliuoja imuninę sistemą ir netgi tam tikrų vitaminų gamybą.
Šis didžiulis kiekis mumyse gyvenančių kitų „individų“ padeda prisitaikyti prie aplinkos sąlygų, taip pat veikia kaip svarbus tarpininkas tarp mūsų kūno ir išorinės aplinkos. Mitochondrijos, ląstelių dalys, kurios generuoja energiją, iš tiesų turi savo atskirą DNR, o tai yra endosimbiotinės teorijos įrodymas, kuri teigia, kad praeityje mitochondrijos galėjo būti atskiri prokariotiniai organizmai.
Nors yra mokslinių įrodymų, kad žarnyno mikrobioma gali turėti įtakos mūsų nuotaikai, mąstymui ir elgsenai (tam tikri suvešėję mikroorganizmai mus verčia trokšti junkfoodo), ir šių ryšių pobūdis bei mechanizmai vis dar nėra pakankamai ištirti, neabejojama, kad tuo, kuo esame, mus daro ne individuali laisva valia ir ne tik paveldimumas, kultūrinė aplinka, išsilavinimas bei aplinkos veiksniai, ne tik vaikystės traumos, o sudėtingos priežastinių ryšių sistemos, kuriose aktyviai dalyvauja ir mikroorganizmai, gyvenantys mūsų kūne. Šios biologinės žinios persipina su technologijų žiniomis, todėl vis dažniau žmogus apibūdinamas kaip „biologinis algoritmas“. Tačiau algoritmas (nurodymų ir veiksmų seka, kuri yra aiškiai ir tiksliai apibrėžta, skirta užduočiai atlikti arba problemai išspręsti) yra pernelyg siauras terminas, kad jį būtų galima vartoti kaip sinonimą tokioms sudėtingoms sistemoms kaip žmogus ir net tokioms kaip žmogaus sukurtas dirbtinis intelektas. Tačiau įdomiausia yra tai, kad dar iš arčiau pažvelgę, užmetę dar vieną vaizduotės tinklą pamatome, jog iš šio požiūrio taško aiškios ribos nėra ne tik tarp žmogaus ir jo aplinkos, bet ir tarp žmogaus bei dirbtinio intelekto.
Labai panašiai veikia visos persipinančios sistemos mūsų planetoje – gamtinės, socialinės, techninės. Merlinas Sheldrakeʼas savo knygoje „Raizgus gyvenimas“ tyrinėja augalų ir grybų simbiozę – mikorizą, kai šaknų galuose susijungę medžiai ir grybų miceliai keičiasi maistinėmis medžiagomis. Ši sąveika yra labai sudėtinga ir abipusiškai naudinga, leidžianti augalams geriau įsisavinti maistines medžiagas ir grybams gauti angliavandenių iš augalų. Pasak autoriaus, tai nėra tik automatizuota „prekyba“ arba „algoritmas“, autorius parodo, kaip šiose sistemose vyksta sudėtinga komunikacija ir sprendimų priėmimas, tarsi egzistuotų kažkas daugiau nei tiesiog biologinis postūmis išgyventi ir skleisti savo genus, tai kažkas, kas buvo priskiriama tik žmogiškajai sferai – savotiška etika, rūpestis, pasiaukojimas, išradingumas ar net kūrybiškumas. Autorius reflektuoja, kad nors šią simbiozę jis vaizduoja pernelyg žmogiškais terminais, vis tik tokius terminus mes turime ir jie mums padeda geriau suprasti reiškinius, kuriems nusakyti dar neturime žodžių. Šiuos terminus turime suprasti ne tiesiogiai, neantropomorfizuodami, tai tik metaforos.
Šiuo tinklu gaudant informaciją apie dirbtinį intelektą, jis nebeatrodo kažkoks išskirtinis nematytas ir nesuprantamas fenomenas, lendantis į mūsų privatų gyvenimą iš klozetų.
Ne tik mokslo atradimai ir autochtonų religijos, bet ir žmogaus poveikio planetos klimatui bei bioįvairovei pasekmės verčia nusiimti pasaulio valdovo karūną ir pripažinti, kad esame ekosistemos dalis, o ne mitybos grandies viršūnė, čionai patupdyta paties visagalio Dievo. Dėl to atsiranda nauja etika, alternatyvi antropocentristinei. Tai ekocentristinė etika, kuri pripažįsta, kad kitos gyvybės formos turi teisę egzistuoti natūraliai, nepriklausomai, ar tai tiesiogiai naudinga žmogui. Nes žvelgiant į ilgalaikę perspektyvą, žemės ekosistemos negrįžtami pokyčiai bus lemtingi žmogui, tokios gyvybės formos kaip mikroorganizmai ir grybai gyveno milijonus metų prieš žmonijos atsiradimą, gyvens ir jai išnykus. Grybai jau dabar prisitaiko gyventi atominėmis atliekomis užterštose teritorijose, jie mokosi maitintis cigarečių nuorūkomis, naftos ir plastiko atliekomis. Galbūt juos pasitelkdami ir mes dar turime šansų išlikti?
Nors kai kurie šių idėjų kritikai atkreipia dėmesį, kad viltis, jog žmonija pajėgi ištaisyti savo veiklos pasekmes, yra nulemta tos pačios antropocentristinės mąstymo paradigmos, vis tik turime suprasti, kad šias dvi mąstymo paradigmas galime atskirti tik samprotaudami teoriškai. Viskas yra persipynę, susiraizgę, antropocentrizmo nulemtos normos, vertybės ir taisyklės, nors tai skamba kaip oksimoronas, jau ne kartą buvo pasitelktos ekocentristinėms vertybėms ginti ir tikslams įgyvendinti. Pavyzdžiui, teisinė sistema, sukurta žmogaus teisėms ginti, tapo svariu pagrindu gyvūnų teisių judėjimui. Pagarba gyvybei ir etiniai klausimai netikėtai persikelia ir į technologijos pasaulį – ir tai ne tik filmai apie robotuką „Wall-e“.
Technologijų mokslo istorikas ir teoretikas Johnas Johnstonas savo knygoje The Allure of Machinic Life: Cybernetics, Artificial Life, and the New AI (Mašininio gyvenimo žavesys: Kibernetika, dirbtinė gyvybė ir naujasis dirbtinis intelektas) nagrinėja idėjas, kad gyvybė gali egzistuoti ne tik biologinėje formoje, bet ir skaitmeninėje. Pasitelkdamas kibernetiką ir mokslo istoriją, autorius parodo, kad mašinos gali turėti tam tikrus „gyvybės“ bruožus, tokius kaip adaptacija, mokymasis ir evoliucija.
Visa ši komplikuota įžanga buvo būtina tam, kad suregztume kad ir netvirtą, tačiau visgi tinkamą tinklą dirbtiniam intelektui žvejoti. Pamėginsiu kuo paprasčiau apžvelgti su naujausiomis dirbtinio intelekto technologijomis susijusį viešą kultūrinį diskursą, remdamasi pavyzdžiais iš meno ekosistemos. Aš nesu dirbtinio intelekto istorikė ar sociologė, bet kadangi susiduriu tiesiogiai su šia technologija savo meninėje praktikoje, neturiu kito pasirinkimo, kaip reflektuoti pokyčius šioje srityje iš kultūrų studijų perspektyvos.
Esminė idėja yra ta, kad į dirbtinį intelektą svarbu žvelgti ne kaip į techninį individą, o kaip į sistemą, neatsiejamą nuo komunikacijos proceso, ryšių ir bendradarbiavimo ne tik tarp žmonių, bet ir tarp nežmogiškosios kilmės veikėjų. Pavyzdžiui, DI generuotų vaizdų autoriai yra ne tik duetas, sudarytas iš prompto rašytojo ir dažnai klaidingai antropomorfizuojamo dirbtinio intelekto, bet ir viso ryšių tinklo ekosistema. Tai ir konkretus difuzinis modelis, jį „maitinantys“ duomenimis ir treniruojantys specialistai, duomenų autoriai, pačios įmonės, startuoliai ir korporacijos, visi tie asmenys, kurie peržiūri generuojamus vaizdus ir juos žymi. Ši ekosistema evoliucionuoja – tampa autopoetiška ir, perfrazuojant Johną Johnsoną, savotiškai gyva.
Žvelgiant iš žmogaus perspektyvos, Dona Haraway žodžiais tariant, ji ir simpoetiška, nes bendradarbiauja su žmogumi. Technologijos, mechaninių veikėjų ir biologinių sutvėrimų bei žmogaus bendraautorystės idėja mene žinoma nuo DADA laikų, tačiau XXI a. II dešimtmetyje ji tapo itin intensyviai eksploatuojama šiuolaikiniame mene. Ne vienas buvęs „New Media Art“ judėjimo srities atstovas susidomėjo biologinės kilmės bendradarbiais bei jų sistemomis.
Pavyzdžiui, menininkų Nomedos ir Gedimino Urbonų kūryboje svarbus bendradarbiavimo su nežmonėmis principas. Jų kūriniuose ekocentrizmo etiniai principai apima ir robotus, ir pelkes. Nors meninės kūrybos sektoriuje vyrauja posthumanistinė retorika, panašu, kad ji pirmiausia skirta estetikai, o ne etikai. Kitaip tariant, nesiekiama pokyčių „balto kubo“ meno institucijų lygmeniu – meno institucijoms būdinga modernistinė ir elitistinė orientacija, kuri pabrėžtinai antropocentristinė. Kūrinio vertė meno rinkoje yra stipriai susieta su autoriaus vardu ir jo autoryste. Autoryste dalytis su kitais veikėjais ir bendrakūrėjais yra vengiama. Ši situacija problemiška šiuolaikiniame mene. Šiuolaikinio meno parodoms surengti reikalinga didelė komanda – institucija, kuratoriai, parodos architektai, įvairūs objektų gamintojai, dažnai įtraukiami konsultantai iš akademijos. Tačiau parodos autoriai yra tik du asmenys. Tokia situacija neretai sukelia kitų dalyvių nepasitenkinimą.
Nepaisant posthumanistinės retorikos, dar labiau vengiama autoryste dalytis su nežmogiškos kilmės veikėjais.
Atviros prieigos priemonės ir technologijos, tokios kaip šiuolaikiniai generatyviniai modeliai, skirtos masiniam naudojimui, nustumiamos į šalį meno konkursuose arba griežtai reguliuojamos. Taip yra ne todėl, kad juos pasitelkus neįmanoma sukurti ko nors vertingo, o todėl, kad vengiama pokyčių meno rinkoje. Meno vertė tradiciškai siejama su ribotu tiražavimu, o kūrinio finansinę vertę nustato deficito principas. Patogiausia kūrinio kainą kontroliuoti tuomet, kai tai vienetinis kūrinys. Todėl šiuolaikinėje meno rinkoje vis dar vienu svarbiausių objektų išlieka tapybos darbai. Meno rinkoje cirkuliuojančios fotografijos, kurių vertė kyla ir į kurias verta investuoti, turi būti riboto tiražo. Ribotas tiražas yra sąlyga tapti šio lauko dalyviu. Pasitelkiant dirbtinį intelektą sukurti vaizdai meno rinkoje sulaukė pripažinimo, kol ši technologija dar nebuvo prieinama masėms (pavyzdžiui, Mario Klingemanno generuotas kūrinys parduotas meno aukcione už 432 500 dolerių 2019 metais).
Technologijai tapus prieinamai ir demokratiškai, viskas pasikeitė. Žavėjimasis generuotais vaizdais paliktas masėms ir socialinių tinklų rinkodarininkams, elitinė publika neįsigilindama į problemos esmę reiškia nuomonę apie dirbtinio intelekto keliamas grėsmes, kurios siejamos su jo autonomijos didėjimu, evoliucionavimu ir kitomis charakteristikomis, kurias, kaip parodė Johnsonas, teoriškai galime laikyti savotiška gyvybės forma.
Simpoetika (bendrakūrystė), bendradarbiavimas su nežmogiškosios kilmės, technologiniais ar / ir biologiniais veikėjais bei jų hibridiškumas šiuolaikiniame mene dažnai tėra paviršinis estetinis ar konceptualus lygmuo, net jei ir siekiama padaryti poveikį socialinei tikrovei, tačiau svarstant su autoryste, autorių teisių ir individualaus kūrėjo statusu susijusius klausimus, remiamasi antropocentristinėmis vertybėmis: mažai kas nori autoriaus teisėmis dalytis su techninės ar biologinės kilmės veikėjais. Šioje situacijoje išsiskiria neseniai itin išgarsėjusio fotografijos srities menininko, siekiančio apginti DI generatorių naudojimą mene, Boriso Eldagseno balsas.
Interviu „The Guardian“ jis teigia, kad niekada nebuvo prisirišęs prie vieno asmens autorystės idėjos. Jo manymu, ši technologija išlaisvina menininką, kuris, pasitelkdamas savo erudiciją, meno istorijos ir estetikos žinias, geba susikalbėti su vaizdų generatoriumi ir sukurti kažką visiškai naujo ir originalaus, išlikdamas nepriklausomas nuo milžiniško biudžeto, kuris būtų reikalingas panašioms idėjoms įgyvendinti tradicinės fotografijos priemonėmis. Labai panašiai mano ir medijų tyrėjas Levas Manovichius, kuris teigia, kad neturinčiam specifinių meno žinių, pavyks sugeneruoti tik saldų, kičinės estetikos vaizdą, tokią estetiką Manovichius pavadino metastiliumi.
Naujųjų medijų srities menininkas ir mokslo populiarinimo žanro rašytojas bei publicistas Jamesas Bridleʼas tinklalaidėje „Green Dreamer“ teigia, kad įdomiausia yra tai, jog visi bijome milžiniškų robotų žudikų, apie kuriuos dažniausiai pagalvojame, kai galvojame apie dirbtinį intelektą, ir tokias tikrovės neatitinkančias asociacijas bei baimes skleidžia didžiųjų korporacijų, kurios pačios kuria šias technologijas, vadovai. Pavyzdžiui, „Google“ ir „Microsoft“ aukštas pareigas einantys žmonės, atvirai sako, kad dirbtinis intelektas yra didžiausia grėsmė žmonijai. Bridleʼas svarsto, kad tai susiję su kito intelekto baime apskritai ir antropocentristine pasaulėžiūra.
Pasak Bridleʼo, kito intelekto bijantys asmenys apie jį sprendžia iš savo asmeninės pozicijos ir ypač tai liečia korporacijų vadovus, kurie bijo, kad naujasis dirbtinis intelektas jiems padarys tai, ką jie darė iki šiol visiems kitiems – išstums juos iš galios pozicijos. Pateikdamas pavyzdžius iš biologijos jis parodo tai, apie ką jau kalbėjome anksčiau, – mes visada buvome apsupti daugybės intelektų, kurie skirtingais būdais pranoksta žmogaus intelektą, tačiau tai nebūtinai turi kelti grėsmę – galime palaikyti prasmingus ir rūpesčio kupinus santykius su nežmogiškaisiais intelektais.
Tačiau klausimas yra susijęs ne tik su dirbtinio intelekto autonomija, bet ir su jo, kaip įrankio, naudojimu. Svarbu pastebėti, kad korporacijos kursto baimės diskursą, siekdamos išskirtinių teisių į šias technologijas. Korporacijos siekia kontrolės, nes atviros prieigos modeliai, kuriais dalijamasi „GitHub“, kol kas prieinami visiems. Šiuo metu dirbtinio intelekto technologija išgyvena kažką panašaus į „laukinius devyniasdešimtuosius“, kai buvo informacinių ir interneto technologijų bumas, dar nenustatytos griežtos taisyklės, trūko saugumo, tačiau kūrybiški avantiūristai ir medijų menininkai varžėsi vienoje arenoje su korporacijomis. Dabar mes jaučiamės saugesni, nors neturime kitos išeities, kaip tik patikėti savo saugumą ir asmeninius duomenis korporacijoms.
Autorių teisės saugo kūrėjus, tačiau dar labiau saugo stambias korporacijas, net ir nuo pačių kūrėjų. Mes jau išmokome, kad dalytis muzika, filmais, knygų ir mokslinių straipsnių kopijomis – nepadoru, tai kaip vagystė, nes jas reikia pirkti, kad nebūtų nuskriausti autoriai. Daugelis akademinių knygų kainuoja daugiau nei penkiasdešimt eurų, tačiau patys akademikai jų neįstengia įpirkti, ką jau kalbant apie studentus. Nors ir sutariame, kad kultūra ir mokslas turi būti prieinami visiems, universitetai neišgali sumokėti visų reikiamų mokslo bazių prenumeratos mokesčių. Žinome, egzistuoja judėjimai, siekiantys kultūros, meno ir mokslo šaltinius demokratizuoti, atsiranda platformų, kurios už prieinamą mokestį legaliai dalijasi turiniu. Panašu, kad dėl naujųjų DI technologijų kova už jų skaidrinimą ir demokratizavimą tapo vėl aktuali, tačiau apsvarstykime, kam iš tiesų naudinga nuolat kišama dirbtinio intelekto nuskriaustų autorių korta. Žinome, kad ES įstatymų bazės kūrėjai jau intensyviai dirba ties šiais klausimais.
Šiandien, tęsiant paralelę su automobiliais, dirbtinio intelekto technologija yra maždaug tokioje fazėje, kai automobiliai jau išvystydavo gana didelį greitį, tačiau nei vairuotojo pažymėjimas, nei kelio ženklai, nei saugos diržai dar nebuvo išrasti.
Jamesas Bridleʼas tinklalaidėje „Green Dreamer“ kalba apie nežmogiškos kilmės veikėjus, tam tikrus hibridinius dirbtinius organizmus, kuriems jau užtikrintas statusas veikti teisinėje sistemoje – tai korporacijos, ir lygina jas su dirbtiniu intelektu, socialine, ne technologine prasme. Korporacijos gali veikti pasaulyje. Korporacijos turi balsą. Jos gali turėti banko sąskaitas, joms gali priklausyti žemė. Jos gali daryti visus tuos dalykus, kuriuos šiuo atveju dažnai gali daryti žmogus.
Pasaulyje jau yra pavyzdžių, kai teisinis asmens statusas suteikiamas ne tik korporacijoms, bet ir gamtos objektams – pvz., Vanganujaus upei Naujojoje Zelandijoje, tokiu būdu, kaip jau buvo minėta, modernistinė antropocentristinė teisinė sistema gali ginti ekosistemų ir su jomis susijusių bendruomenių interesus. Ar DI technologijos gali tapti tokia upe, kurios teisė būti ir vystytis autonomiškai bus pripažinta? Ar ji išliks prieinama visiems? Ar DI taps propaganda įžuvintu tvenkiniu, aptvertu neperžengiama korporatyvine siena?
Pabaigai noriu pabrėžti, kad DI negali turėti universalios etikos. Tai, kas gali būti susitarta kaip etiška meninės kūrybos nišoje, gali nebūti etiška medicinoje. Galbūt todėl tikslinga kalbėti ne apie DI, o daugiskaita – apie dirbtinius intelektus.
Technologijos pačios savaime nėra nei blogos, nei geros. Geras ar blogas jas padaro žmonės. Naujos technologijos gali sukurti naujus precedentus – situacijas, kuriose dėl žmogiškosios klaidos gali įvykti iki tol nebuvę, visai naujos rūšies nelaimingi atsitikimai. Pavyzdžiui, kol nebuvo automobilių, avarijose žmonės nenukentėdavo. Šiandien, tęsiant paralelę su automobiliais, dirbtinio intelekto technologija yra maždaug tokioje fazėje, kai automobiliai jau išvystydavo gana didelį greitį, tačiau nei vairuotojo pažymėjimas, nei kelio ženklai, nei saugos diržai dar nebuvo išrasti. Pirmieji automobiliai susilaukė ir aistringų gerbėjų, ir kritikų. Tik pastarieji baiminosi ne tiek „velnio vežimų“ greičio, o jų neįprastos išvaizdos ir judėjimo būdo. Sėdėti vežime, į kurį neįkinkytas arklys, kai kuriems atrodė paprasčiausiai nepadoru.
Amžininkams niekad nesisekė gerai prognozuoti, kokie pokyčiai taps nulemti vienos ar kitos naujos technologijos. Ateities prognozių kūrimas priklauso nuo žmogaus vaizduotės, kuri, panašu, nėra nei laisva, nei begalinė, nes apribota įgyto žinojimo. Ir nors žinome tokių išimčių, kaip Isaacas Asimovas ar Rayʼus Kurzweilas, dauguma ateities prognozių tėra situacijos, kuri yra dabar, metaforizuotas perteikimas, išryškinant probleminius kampus, kurie aktualiausi pačiam prognozuotojui būtent čia ir dabar.
