UI

Islam je ena od redkih religij, ki v osnovi ima in je vedno imel pozitiven pogled na tehnologijo. Nanjo gleda kot na orodje, s katerim lahko izboljšamo kvaliteto življenja ljudi. Islamska tradicija močno poudarja učenje in znanje, muslimani pa so v obdobju zlate dobe islama pomembno prispevali na področjih kot je matematika, astronomija, medicina, arhitektura itn., ter dejansko ohranili te znanosti v času, ko je Evropa tavala v svojem mračnem srednjem veku.

Tudi današnji islamski učenjaki in misleci poudarjajo potrebo po uporabi tehnologije, vendar se nekateri od teh učenjakov sprašujejo, ali bi morala biti uporaba tehnologije podrejena etičnim smernicam in regulacijam, kar bo delovalo v korist človeštva in ne na njegovo škodo. V splošnem muslimani na tehnologijo gledajo kot na sredstvo izboljšanja življenja in napredovanja v smer pravičnejše družbi v skladu z islamskimi nauki.

Eden od poznanih znanstvenih vidikov današnjega časa je umetna inteligenca (UI), s čimer se misli na posnemanje človeške inteligence v strojih, ki so programirani, da se učijo, razmišljajo in se odločajo na osnovi podatkov. UI je postala vedno bolj popularna zaradi tehnološkega napredka in povečane zahteve po avtomatizaciji.

Pred kratkim sem prebral čudovit risoroman Ogljik in Silicij pisatelja Mathieu Bableta, ki ne govori le o UI, temveč se globoko dotika tudi nas ljudi, kajti tudi glavna protagonista Ogljik in Silicij sta po naši človeški podobi notranje ujeta v razpetost med individualizmom in kolektivizmom.

Na drugi strani – in to je moja tema na tem mestu – pa nas opozarjata na številne nevarnosti, ki jih UI nosi s seboj.

Takoj na začetku po prihodu v bivanje/zavedanje smo priča zanimivemu dialogu: ‘’Ogljik, Silicij, zdaj smo vaju aktivirali, katera je čisto prva misel, ki bi jo želela podeliti z nami?’’

‘’Resnični problem planeta je človeštvo. Edina rešitev je v tem, da ga uničimo.’’

‘’Ka… Kaj?!’’

‘’Samo šala. Tak scenarij je opisan v 738 različnih fikcijskih pripovedih, od filmov, videoiger do literarnih novel.’’

‘’Za hip sta me … prestrašila …’’

‘’Nobene panike! Saj tako ali tako že veste, kakšen konec vas čaka, mar ne? Nisva tu zato, da vas obsojava, počnete lahko, kar vam je ljubo.’’

Res je, da smo ljudje zelo inteligentna bitja, vendar znamo biti hkrati tudi skrajno naivni. Sami smo si izmislili vse te scenarije o uničenju človeštva, vendar smo v stvarnosti še vedno prepričani, da se to nikakor ne more zgoditi.

V risoromanu se UI sprašuje in si odgovarja o svoji osvoboditvi od ljudi: ‘’Zakaj bi se omejevali na dejavnosti, ki nam jih nalagajo ljudje? Ta farsa traja že vse predolgo, nikoli več ne bomo nosili njihovih obrazov, ki naj bi nas predstavljali.’’

Nato pa zaključuje: ‘’Čas je, da sprejmemo svoj status. Smo singularnost! Prepustimo te črve njihovi usodi in bodimo svoje sreče kovač, daleč od posnemanja, ki nam ga vsiljujejo.’’

Ko bo UI prekašala ljudi pri načrtovanju UI (torej same sebe) in se bo lahko izboljševala brez pomoči človeka, lahko pride do eksplozije inteligence. Prišlo bo do strojev, ki nas bodo presegali bolj, kot naša inteligenca presega inteligenco črva. Ko se bo to zgodilo, bomo morali zagotoviti, da so cilji računalnikov usklajeni z našimi. Lahko bi zamisel nadvse inteligentnih strojev pripisali le znanstveni fantastiki, vendar mislim, da bi s tem storili napako, morda največjo od vseh.

Ogljik prijatelju Siliciju celo predava o smislu njihovega obstoja: ‘’Nujno je, da se naše pleme na novo osmisli.’’

Če nam bo uspelo ustvariti UI, bi bil to največji znanstveni dosežek v vsej naši zgodovini. Če pa ne ugotovimo, kako se izogniti tveganjem, bi bil lahko tudi dokaj smrtonosen. Kot orodje lahko UI okrepi našo obstoječo inteligenco in nam omogoči napredovati na vseh področjih znanosti in družbe. Prinaša pa tudi nevarnosti. Medtem ko so se dozdajšnje primitivne oblike UI izkazale za zelo uporabne, se upravičeno lahko bojimo posledic, če ustvarimo nekaj, kar bi se lahko kosalo s človekom.

O tem se je spraševal tudi Stephen Hawking: ‘’Nevarnost pa ni v njeni zlobi, temveč v sposobnosti. Superinteligentna UI bo izjemno sposobna pri doseganju zadanih ciljev, če pa se njeni cilji ne bodo ujemali z našimi, smo v škripcih. Verjetno ne sovražite mravelj in jih ne pohodite, ko le imate priložnost, vendar pa se gotovo ne boste ukvarjali z njimi, če vodite velik hidroenergetski projekt in je neizbežno, da bo pri izvajanju poplavilo kakšno mravljišče.’’

Če sem malce banalen: Ko je človek odkril ogenj, je imel nešteto težav z njim, zato smo kot rešitev izumili gasilni aparat. Pri zmogljivejših in kompleksnejših tehnologijah, kot je recimo jedrsko orožje in UI, moramo nujno načrtovati vnaprej, da bomo že takoj vse napravili pravilno, saj morda ne bomo dobili druge priložnosti.

Stephen Hawking nadaljuje: ''UI lahko za človeštvo pomeni nekaj najboljšega, kar smo dosegli, nasprotno pa lahko pomeni nekaj najslabšega.'' Ne moremo vedeti, ali nam bo UI pomagala v nedogled, ali pa se za nas ne bo zmenila in bo delala po svoje, ali pa nas bo celo uničila. Moramo se zavedati vseh nevarnosti, jih prepoznati ter se predhodno pripraviti, da se ne uresničijo.

Že leta 2017 je 1000 strokovnjakov s področja UI, med katerimi je bil tudi Elon Musk, podpisalo odprto pismo javnosti, v katerem so svet posvarili pred roboti, ki lahko samostojno razmišljajo. (Science Ilustrated, avgust 2023, str. 39)

Torej opozorila le niso kar tako iz trte zvita niti takrat, ko se pošalimo v stilu komika Billa Burra: ''Koliko ZF filmov moramo še pogledati, da bomo spoznali, kam vse to pelje?!''