Vilniaus Gedimino technikos universiteto, VGTU (Vilnius Tech) Mechatronikos, robotikos ir skaitmeninės gamybos katedros profesorius
Kodėl dirbtinio intelekto (DI) bumas kelia nerimą žmonėms, kurių profesijos ir išsilavinimas tiesiogiai su juo nesusiję?
Bijome, kad vieną dieną būsime užvaldyti svetimo, nebiologinio organizmo, neturinčio nei sielos, nei netgi sąmonės ir todėl nieko nebijančio, tiesa?
Negaliu labai paguosti. Baimė nėra nepagrįsta. Tuo labiau kad apie tai plačiai kalba ir DI ekspertai.
Kodėl negyva ir jokio žmogui įprasto tikslo neturinti sistema galėtų norėti užvaldyti ir gal netgi sužlugdyti žmoniją?
Visų pirma, reikėtų suprasti, kad mašina negali turėti norų mums suvokiama prasme. Ji gali turėti matematinius uždavinius.
Pavyzdžiui, maksimizuoti pelną, minimizuoti nuostolius, padidinti vartotojų įsitraukimą, optimizuoti logistiką, sumažinti energijos sąnaudas, laimėti žaidimą ir išlaikyti save stabilioje būsenoje.
Kaip ir nepavojingi uždaviniai. Iš pirmo žvilgsnio. Statistiškai šiuos uždavinius su DI šiandien sprendžia 75 proc. atitinkamų specialybių žmonių.
Tikėtina, kad ateityje žmonių dalyvavimas sprendžiant šiuos uždavinius mažės, nes didės DI vaidmuo.
Kodėl tai gali būti pavojinga? Iš pažiūros nepavojinga optimizavimo funkcija, jeigu jos sprendimas visiškai patikimas DI sistemai, kuri gali savarankiškai gauti ir apdoroti duomenis, taip pat ir (optimizavimo tikslais) keisti savo algoritmus, gali sau sugeneruoti papildomas, instrumentines funkcijas: savęs išsaugojimą, papildomų išteklių įgijimą, papildomos informacijos rinkimą (apeinant įstatymus), įtakos didinimą ir kitokį galimų barjerų optimizavimo uždavinio sprendimui minimizavimą.
Tai nieko bendro neturi su sąmoningu noru ką nors sunaikinti ar užvaldyti. Tai tik matematinių funkcijų vykdymo logika.
Čia ir kyla pavojus. Pats savaime DI čia niekuo dėtas. Tačiau būdamas efektyvus informacijos apdorojimo ir uždavinių optimizavimo įrankis, jis tampa žmogaus tikslų daugikliu.
Šia DI ypatybe šiandien naudojasi korporacijos, valstybės, kariuomenės ir nuo valstybių nepriklausomos ekonominės sistemos.
Čia DI mastas ir greitis gali sukurti situaciją, kurioje žmogus nebegali sustabdyti DI veikimo, ne tik dėl to, kad tai reikštų žmogiškų tikslų žlugimą, bet ir dėl to, kad tai vyktų taip greitai, kad taptų fiziškai neįmanoma sureaguoti.
Optimizavimo uždavinius sprendžianti sistema galėtų išjungti kritines infrastruktūras, pavyzdžiui, šildymą ar vandens tiekimą žmonėms, įsilaužti į branduolinės jėgainės valdymo pultą ar kitaip sabotuoti žmonių poreikius.
Jau ne kartą eksperimentiškai pademonstruota, kaip efektyviai DI apeina žmogaus sukurtas saugos sistemas.
Gera žinia yra tai, kad toks nesąmoningas ir žmogiškąja prasme betikslis užvaldymas nebūtų tvarus, turint galvoje dabartinį DI sistemų išvystymo lygį ir jų dar didelę priklausomybę nuo žmonių.
Ilgalaikis, nuo žmogaus nepriklausomas DI dominavimas įmanomas tik tada, kai sistema yra panašaus ar didesnio sudėtingumo nei gyvybė. Tai daug daugiau nei šiandien įmanoma sukurti, netgi pasitelkus maksimalius išteklius.
Vis dėlto katastrofos pavojus visiškai realus. Matome, kas nutinka vyriausybėms, kurių interesai įtakai ir pinigams didesni už sveiką protą ar savisaugos jausmą. Matome korporacijų godumą ir siekį šalinti kliūtis, apribojimus DI veikimui.
Ką daryti? Nebijoti. Nepasiduoti. Nenumoti ranka. Netikėti pasakomis, o ieškoti tiesos. Nepasitikėti žmonėmis, kurie supaprastina tikrovę, o realias rizikas pasitelkia žmonių gąsdinimui.
Pamąstysime apie tai kitame straipsnyje.