Teisės ekspertas: nereguliuoti DI – ne išeitis

Nuo kokių aplinkybių priklausys DI reguliavimas? Kokie galimi sprendimai siekiant surasti pusiausvyrą tarp piliečių saugumo ir inovacijų plėtros? Į šiuos ir kitus klausimus po Vilniuje vykusios konferencijos „Technologiniai pokyčiai ir tarptautinė teisė“ atsakė žinomas tarptautinės teisės ekspertas S. Chestermanas.

– Kokių grėsmių žmonijai gali kelti DI? Kas turėtų imtis priemonių, padėsiančių išvengti šių grėsmių?

– Dalis žmonių nerimauja dėl egzistencinių grėsmių, pavyzdžiui, kad DI gali sukilti ir mus visus išžudyti. Manau, kad ši iš mokslinės fantastikos kilusi grėsmė peraugo į realių žmonių rūpestį. Tačiau kol kas nematome jokių įrodymų, kad šiandien egzistuojantis DI eitų tokia linkme. Mano manymu, jeigu kiltų ketinimų sukurti nekontroliuojamą DI, tada reikėtų nuo to susilaikyti. Tačiau šiuo metu dar nesame tokioje situacijoje.

Vis dėlto yra daug trumpalaikių problemų, kurias turėtume spręsti jau dabar, pavyzdžiui, diskriminacija ir šališkumas. Priimdamas sprendimus, DI remiasi duomenų rinkiniais, kuriuose yra žmogui būdingo šališkumo ir gali trūkti reprezentatyvumo, todėl manau, kad organizacijos ir vyriausybės, teikdamos rekomendacijas, turėtų labai apdairiai naudoti algoritmus, jeigu nėra pasirengusios už tas rekomendacijas atsakyti. Kai algoritmai priklauso privačioms bendrovėms, negalime žinoti, kas į juos įtraukiama ir kokia informacija iš jų išeina. Dėl šių priežasčių manau, turime atsargiai pasitikėti sistemomis, kurių nesuprantame.

Visa tai susiję su didesne grėsme – dažniau naudojantis DI, gali pakisti mūsų mąstymas. Turbūt visi žinome, kokių pokyčių socialiniai tinklai sukelia jaunajai kartai, todėl DI taip pat gali pakeisti mūsų mąstymą ir požiūrį į pasaulį. Jei pasikliautume DI labai elementariai informacijai gauti, tuomet gera analogija būtų išmanieji telefonai, dėl kurių mums nebereikia įsiminti daugybės telefono numerių, o tai labai patogu. Tačiau kas būtų, jei vietoj telefono numerių pradėtume pasikliauti technologijomis formuodami savo nuomonę? Tuomet turėtume labai didelę problemą, nes nebe mes patys formuotume savo nuomonę, o kažkas kitas jai darytų įtaką.

Taigi ką turėtume daryti? Pirma, turėtume išmokti geriau suprasti DI algoritmus. Reikia atsargiau naudoti sistemas, su kuriomis nesame susipažinę ir nežinome, kokie būtų naudojimosi ja padariniai. Turėtume aiškiau apibrėžti atsakomybę už DI padarytas klaidas, pavyzdžiui, jei automobilis be vairuotojo padaro avariją arba algoritmas priima rasistinį sprendimą, už tai turėtų atsakyti koks nors asmuo arba įmonė.

Visa tai susiję su didesne grėsme – dažniau naudojantis DI, gali pakisti mūsų mąstymas.

– Konferencijoje minėjote, kad bijodamos šių grėsmių valstybės gali imtis per griežto technologijų vystymo reguliavimo. Kaip manote, ar įmanoma pasiekti subalansuotą reguliavimo lygį, kad žmonės būtų apsaugoti nuo pavojų, o technologijos vis dar galėtų tobulėti?

– Taip, bet tai sudėtinga. Reguliavimas priklauso nuo to, kokią riziką šalis gali prisiimti. Pavyzdžiui, ES reguliuoja daug daugiau nei kitos šalys, nes įžvelgia riziką, kurios nenori prisiimti. Singapūras girdi Europos požiūrį ir sako: „Na, tai suvaržytų inovacijas ir tada jos vyktų kitur.“ Europiečiai atsako maždaug taip: „Kai kuriose srityse, pavyzdžiui, biometrinio žmonių stebėjimo, mes nenorime naujovių. Nenorime, kad veido atpažinimo technologijos būtų visur.“ Taigi apibendrinant galima pasakyti, kad viskas priklauso nuo to, kokią riziką mato kiekviena šalis ir iš dalies nuo jos dydžio. Tokia didelė šalis ar šalių grupė kaip ES yra svarbi rinka, net jei ji griežtai reguliuojama. Todėl, jei tai reiškia, jog „Meta“ ir „Google“ turi verstis per galvą, kad galėtų veikti ES, jos vis tiek tai darys. Jeigu panašiai pasielgtų maža šalis, minėtos įmonės galėtų nuspręsti, kad ten apskritai neverta užsiimti verslu.

Yra ir kitokių dilemų negu per menkas ar per griežtas reguliavimas. Pavyzdžiui, ar žiūrėti į DI apibendrintai, kaip ES, kuri traktuoja visą DI kaip vieną sritį? Ar kaip Singapūras ir kitos šalys, kurios į tai žiūri kaip į daug skirtingų sričių? Nustatyti konkrečias problemas, kurias norima spręsti, o ne reguliuoti technologijas kaip visumą? Aš manau, kad dauguma šalių pasirinks pastarąjį variantą.

– Kokie teigiami pavyzdžiai, kai valstybėms pavyksta subalansuoti DI reguliavimą?

– Manau, kad ES yra svarbus valstybių grupės pavyzdys. Ji teikia pirmenybę teisėms, o ne nekontroliuojamai technologijų pažangai. Todėl tikrai įdomu stebėti, kur tai nuves. Singapūras ėmėsi labai praktiško požiūrio – jo tikslas buvo sukurti tam tikras priemones, pavyzdžiui, „AI verify“, kurios stiprina įmonių savireguliaciją. Daugelis bendrovių teigia, kad turi konkrečias su DI susijusias gaires ir standartus, todėl Singapūras sako: „Gerai, štai priemonė, su kuria galite įvertinti, ar pakankamai gerai laikotės savo standartų.“

Be to, turime vadinamąsias reguliavimo smėlio dėžes – kai kurios vyriausybės sukuria tam tikrą virtualiąją aplinką, pavyzdžiui, finansų sektoriuje, kurioje galima paleisti savo produktų programas patiriant minimalią riziką, nes šios programos negali pabėgti iš smėlio dėžės. Yra ir kietasis reguliavimas, taikomas konkrečiuose sektoriuose, pavyzdžiui, medicinos, finansų ar transporto. Todėl manau, kad Singapūras daro įdomių dalykų.

Kitas gan įdomus atvejis yra Kinija. Ji į DI žiūri per nacionalinio saugumo prizmę ir vykdo įdomią socialinę politiką, kuri gali sudominti paauglių tėvus. Tai laiko, kurį vaikai žaidžia vaizdo žaidimus, automatinis ribojimas ir reikalavimas, kad dideli DI kalbos modeliai niekada nemeluotų. Taigi nemanau, kad kuri nors šalis yra atradusi tobulą DI politiką, bet tai natūralu ankstyvuoju technologijų evoliucijos etapu – visame pasaulyje vyksta įvairių eksperimentų. Manau, vienas dalykas, kurį greitai visi suvoksime: nieko nedaryti – ne išeitis.