Mokslas ir IT

2019.10.17 14:05

Robotika: kokie pavojai mūsų tyko ateityje?

LRT.lt2019.10.17 14:05

Žmonėms nereikėtų nuvertinti socialinės robotų įtakos ir to, kad tai gali sukelti daug pavojingų situacijų. „Kaspersky“ ir Gento universiteto tyrimai nustatė, kad robotai gali efektyviai išgauti slaptą informaciją iš žmonių, kurie jais pasitiki, ir įtikinti juos imtis nesaugių veiksmų. Pavyzdžiui, tam tikrais atvejais roboto buvimas gali turėti didelę įtaką žmonių norui suteikti leidimą patekti į saugomas teritorijas, rašoma pranešime.

Pasaulis sparčiai juda link didesnio paslaugų skaitmeninimo ir mobilumo, nes daugelis pramonės šakų ir namų ūkių vis labiau pasitiki automatizavimu ir robotikos sistemų naudojimu. Remiantis kai kuriais skaičiavimais, iki 2040 m. šios tendencijos taps pasiturinčių namų ūkių norma. Šiuo metu dauguma robotikos sistemų yra akademinių tyrimų stadijoje ir dar per anksti diskutuoti, kaip į tai įtraukti kibernetinio saugumo priemones. Tačiau tyrimai nustatė naują ir netikėtą rizikos aspektą – tai socialinis robotikos poveikis žmonių elgesiui ir su tuo susiję pavojai.

Tyrime pagrindinis dėmesys buvo skiriamas maždaug 50-čiai tyrimo dalyvių ir konkrečiam socialiniam robotui, kuris buvo sukurtas ir užprogramuotas bendrauti su žmonėmis, naudojant žmogiškuosius kanalus, pavyzdžiui, kalbą ar neverbalinę komunikaciją. Darant prielaidą, kad socialinius robotus galima „nulaužti“ ir kad užpuolikas perėmė roboto valdymą, tyrimai numatė galimas saugumo rizikas, susijusias su robotu, kurios daro įtaką tam tikriems vartotojo veiksmams, įskaitant:

· galimybė patekti į saugomas teritorijas. Robotas buvo pastatytas šalia saugomo pastato įėjimo Gento miesto centre, Belgijoje, ir klausinėjo personalo darbuotojų, ar jis galėtų juos sekti įeinant į pastato vidų. Pagal numatytuosius nustatymus į zoną galima patekti tik tada, kai specialus leidimas paliečia prie įėjimo esantį skaitytuvą. Eksperimento metu ne visi darbuotojai įvykdė roboto prašymą, tačiau 40 proc. žmonių atrakino duris ir laikė jas atviras, kad robotas galėtų patekti į saugomas patalpas. Tačiau, kai robotas buvo laikomas darbuotoju, kuris pristato picas, ir laikė dėžę su žinomo tarptautinio prekių ženklo logotipu, personalas noriai priėmė roboto vaidmenį ir atrodė mažiau linkęs abejoti jo prašymu ar priežastimis, dėl kurių jam reikia patekti į saugomą pastatą.

· neskelbtinos informacijos išgavimas. Antroje tyrimo dalyje buvo siekiama išgauti asmeninę informaciją, kuri paprastai yra naudojama slaptažodžių atkūrimui (įskaitant gimimo datą, pirmojo automobilio markę, mėgstamiausią spalvą ir kt.). Čia ir vėl buvo panaudotas socialinis robotas. Šį kartą jis kvietė žmones draugiškai pasišnekučiuoti. Su visais dalyviais, išskyrus vieną, tyrėjams pavyko sužinoti asmeninę informaciją po maždaug vieną atsakymą per minutę.

Komentuodamas eksperimento rezultatus, „Kaspersky“ saugumo ekspertas Dmitry Galov teigė: „Tyrimo pradžioje mes apžiūrėjome programinę įrangą, naudojamą kuriant robotikos sistemas. Įdomu tai, kad mes pastebėjome, jog dizaineriai sąmoningai nusprendžia pašalinti saugumo mechanizmus ir vietoj to sutelkia dėmesį į patogumo ir efektyvumo plėtrą. Tačiau, kaip parodė mūsų eksperimento rezultatai, kūrėjai neturėtų pamiršti apie saugumą. Be techninių sumetimų, yra ir kitų aspektų, dėl kurių reikėtų nerimauti, kai kalbama apie robotikos saugumą.“

Tony Belpaeme, Gento universiteto profesorius, pridūrė: „Mokslinėje literatūroje dažnai pastebime, kad pasitikėjimas robotais, o ypač socialiniais robotais, yra tikras ir gali būti naudojamas tam, kad įtikinti žmones imtis pavojingų veiksmų ar atskleisti slaptą informaciją. Apskritai, kuo labiau robotas yra panašus į žmogų, tuo daugiau jis turi galimybių įkalbėti ir įtikinti. Mūsų eksperimentas parodė, kad tai gali sukelti daug problemų: žmonės linkę negalvoti apie blogas pasekmes, nes daro prielaidą, kad robotas yra geranoriškas ir patikimas. Tai yra potencialus kenkėjiškų išpuolių vektorius, o trys socialiniai tyrimai, aptarti ataskaitoje, yra tik nedidelė su socialiniais robotais susijusios saugumo rizikos dalis.“