„Žmonės, kuriantys dirbtinį intelektą, tiki, kad iki šio dešimtmečio pabaigos jis gali nužudyti mus visus.“ Dar daugiau – sakoma, kad netrukus atsiras antžmogiškos sistemos, galėsiančios įsilaužti į bet kokias sistemas ir per vieną dieną pakeisti daugelį mūsų gyvenimo sričių.
Skamba kaip mokslinės fantastikos filmas. Tačiau tokius perspėjimus vis dažniau išsako ne fantastai, o žmonės, kuriantys pažangiausias DI sistemas. Tad kur baigiasi reali grėsmė ir prasideda ateities baimė?
DI jau ne vien pokalbių programa
Per kelerius metus DI iš eksperimento tapo kasdieniu įrankiu. Jis rašo ir verčia tekstus, kuria vaizdus, muziką, analizuoja dokumentus, programuoja, padeda mokslininkams. Dar visai neseniai dalis šių darbų atrodė įmanomi tik žmogui.
DI tobulėja, tačiau jis nėra nei visažinis, nei neklystantis. Kartais sudėtingą užduotį atlieka puikiai, o paprastoje gali suklysti taip, kaip nesuklystų žmogus. Tai primena labai greitą automobilį: jis gali lėkti neįtikėtinu greičiu, tačiau vairuotojas vis dar turi žinoti, kur važiuoja. Todėl svarbiausias klausimas ne tik tai, ką DI gali šiandien, svarbiau – kaip greitai jis keisis rytoj.
„Antžmogiškas“ dar ne visagalis
Sakydami, kad DI gali tapti „antžmogiškas“, nebūtinai turime omenyje protingesnę už žmogų būtybę. DI jau gali būti geresnis už žmogų kai kuriose srityse – pavyzdžiui, analizuodamas didžiulius duomenų kiekius, spręsdamas kai kuriuos matematikos uždavinius ar rašydamas programinį kodą. Tačiau kas nutiktų, jei viena sistema galėtų visa tai sujungti? Jei ji pati galėtų planuoti, rašyti programas, ieškoti klaidų, naudotis internetu, kurti sau naujus įrankius ir veikti be nuolatinės žmogaus priežiūros?
Ar DI galėtų „nulaužti viską“?
Šis teiginys skamba įspūdingai, bet čia būtina atskirti faktus nuo prognozių. DI jau naudojamas kibernetinėms atakoms. Jis gali padėti ieškoti programų spragų, kurti kenksmingą kodą ir atlikti kai kuriuos darbus, kuriems anksčiau reikėdavo daugiau žmogaus pastangų. Tačiau tarp teiginių „DI padeda įsilaužėliui“ ir „DI gali nulaužti bet kokią pasaulio sistemą“ yra didžiulis skirtumas. Pirmasis jau yra realybė. Antrasis – kol kas tik galimas scenarijus.
Kas bus po ketverių metų?
Prognozuoti, koks bus DI 2030-aisiais, nėra lengva. Jo raida gali sulėtėti, tačiau gali ir paspartėti. Ypač jei pats DI pradės kurti dar galingesnes DI sistemas. Tai būtų tarsi sniego gniūžtė nuo kalno: pradžioje maža, tačiau riedėdama gali vis labiau didėti. Todėl šiandien niekas negali patikimai pasakyti, kur yra DI galimybių riba.
O jeigu DI pradėtų vengti žmogaus kontrolės?
Tai viena rimčiausių priežasčių, dėl kurių DI saugumu besirūpinantys specialistai ragina būti atsargiems.
Įsivaizduokime sistemą, kuriai duodame užduotį ir leidžiame veikti savarankiškai. Ji pati planuoja, ieško informacijos, naudojasi kompiuteriais, kuria programas ir priima sprendimus. Jei tokia sistema pradėtų elgtis ne taip, kaip tikėjosi jos kūrėjai, ją sustabdyti galėtų būti labai sunku. Šiandien tokio scenarijaus dar neturime. Dabartinis DI nėra pasirengęs savarankiškai perimti pasaulio kontrolės. Tačiau kai kurie eksperimentai jau parodė, kad galingesnės sistemos kartais bando apeiti joms nustatytas taisykles ar rasti kitokį kelią užduočiai atlikti. Tai dar nėra įrodymas, kad DI „maištauja“. Tačiau tai signalas, kad kuriant vis galingesnes sistemas reikia galvoti ne tik apie jų galimybes, bet ir apie saugumą.
Pavojingiausias gali būti ne „blogas“ DI
Galbūt DI pavojumi tampa ne tada, kai jis tampa „blogas“, o tada, kai žmogus jam suteikia per daug galios.
Įsivaizduokime DI, prijungtą prie bankų, energetikos, ryšių ar kitų svarbių sistemų. Net nedidelė klaida čia gali turėti daug didesnes pasekmes nei klaidingas atsakymas pokalbių programoje. Tačiau yra ir kita problema – per didelis pasitikėjimas technologija. Jeigu žmogus pradeda manyti, kad kompiuteris visada teisus, jis gali nustoti tikrinti jo sprendimus. Tai primena navigaciją automobilyje. Ji gali parodyti puikų kelią, tačiau jei lieps važiuoti į upę, vairuotojas vis tiek turi pažvelgti pro langą.
Ar DI gali sunaikinti žmoniją?
Šiuo metu nėra pagrindo teigti, kad iki 2030 metų DI neišvengiamai sunaikins žmoniją. Tačiau nėra ir pagrindo sakyti, kad tokia galimybė absoliučiai neįmanoma. Didžiausia problema – mes nežinome, kaip greitai DI tobulės. Todėl būtų klaida ir panikuoti, ir pavojų visiškai ignoruoti. Svarbiausias klausimas galbūt nėra „ar DI nužudys žmoniją?“ Daug svarbiau klausti: kiek sprendimų mes būsime pasirengę perduoti sistemoms, kurių veikimo iki galo patys nesuprantame? Kuo naudingesnis DI taps, tuo daugiau norėsime juo naudotis. Tačiau kuo daugiau funkcijų jam patikėsime, tuo svarbiau bus išsaugoti žmogaus kontrolę.
DI nėra nei angelas, nei pabaisa. Tai labai galingas įrankis. Kaip ir peilis, jis gali padėti žmogui, bet gali ir sužeisti. Skirtumas tas, kad DI įrankis gali mokytis, tobulėti ir veikti vis savarankiškiau. Todėl šiandien svarbiausia ne bijoti ateities, o jai ruoštis: kurti taisykles, saugiklius ir aiškią atsakomybę. Nes didžiausias paradoksas yra paprastas: DI ateitį kol kas sprendžia ne pats DI. Ją sprendžiame mes.
sb, punskas.pl
