Mitja Pavlič: »Ustvarjamo boga, za katerega mislimo, da bo naš suženj.«

Umetna inteligenca že danes spreminja naš svet, a medtem ko večina občuduje njene neverjetne sposobnosti, se vse glasneje pojavljajo tudi opozorila o nevarnostih, ki jih prinaša. Strokovnjak za umetno inteligenco in kibernetsko varnost Mitja Pavlič je o tem napisal dve knjigi – Temna stran umetne inteligence in Superinteligenca. Z njim smo se pogovarjali o tem, zakaj bi nas morala prihodnost umetne inteligence skrbeti, ali lahko izgubimo nadzor nad lastnimi stvaritvami in ali bi lahko umetna inteligenca nekoč postala zadnji izum človeštva.

Mitja Pavlič je strokovnjak s skoraj 30-letnimi izkušnjami na področju informacijskih tehnologij, od tega več kot 20 let na področju kibernetske varnosti. Je ustanovitelj Zavoda Varna AI, razvijalec tehnoloških rešitev in predavatelj, ki je v zadnjih letih izvedel več kot 200 predavanj o umetni inteligenci in informacijski varnosti.

Čeprav je zagovornik uporabe umetne inteligence, opozarja na tveganja, o katerih se premalo pogovarjamo. Njegovi knjigi bralca popeljeta od današnjih nevarnosti do vprašanja, kaj se bo zgodilo, če bodo stroji nekoč inteligentnejši od človeka.

Ste velik navdušenec nad umetno inteligenco, hkrati pa ste napisali dve knjigi, ki opozarjata na njene nevarnosti. Ali ni to nekoliko protislovno?

Na prvi pogled morda res. Toda prav zato, ker umetno inteligenco dobro poznam, jo vsakodnevno uporabljam in tudi razvijam rešitve, ki temeljijo na njej, se zavedam njenih nevarnosti.

Verjamem, da bo umetna inteligenca človeštvu prinesla veliko dobrega, od napredka v medicini do novih znanstvenih odkritij.

Toda močnejša ko je tehnologija, večje so lahko posledice njene napačne uporabe.

Ne želim strašiti ljudi ali jih odvračati od umetne inteligence. Želim, da jo uporabljajo in hkrati razumejo njena tveganja. Slepo navdušenje je lahko prav tako nevarno kot neutemeljen strah.

Vaša prva knjiga nosi naslov Temna stran umetne inteligence – Koliko časa nam še ostaja? Kaj vas je spodbudilo k njenemu pisanju?

Predvsem moja predavanja. V zadnjih letih sem jih izvedel več kot 200 in opazil zanimiv vzorec. Večino ljudi je zanimalo, kaj vse umetna inteligenca zmore, kako jim lahko olajša delo in kako z njo povečati produktivnost.

Precej manj pa jih je zanimalo, kaj se dogaja v ozadju. Kaj se zgodi z našimi podatki? Kako lahko umetna inteligenca manipulira z nami? Kdo jo nadzoruje? In kaj se zgodi, če ji začnemo prepuščati pomembne odločitve?

Toda po skoraj vsakem predavanju se je našel kdo, ki me je počakal in želel izvedeti več prav o teh nevarnostih. Nekateri so mi svoja vprašanja pozneje poslali tudi po elektronski pošti. Zanimivo je bilo, da so jih pogosto zanimale stvari, o katerih se v javnosti precej manj govori, predvsem dolgoročne posledice razvoja umetne inteligence in vprašanje, ali bomo nad njo sploh lahko ohranili nadzor.

Ker je na predavanjih za tako obsežna vprašanja pogosto zmanjkalo časa, sem se odločil, da odgovore zberem v knjigi. Želel sem predvsem odgovoriti ljudem, ki jih ni zanimalo samo, kaj vse umetna inteligenca zmore, temveč tudi, kam nas lahko njen razvoj pripelje.

Zanimivo je, da sprva sploh nisem nameraval postati pisec knjig. Pravzaprav se še danes, po dveh izdanih knjigah, nimam za pisatelja. Knjigo sem sprva želel podarjati predvsem udeležencem svojih predavanj. Pozneje pa je našla pot tudi v knjigarne in knjižnice.

Katere nevarnosti umetne inteligence bi morali po vašem mnenju ljudje danes jemati najbolj resno?

Največja nevarnost ni nujno tista, ki jo najpogosteje vidimo v znanstvenofantastičnih filmih. Ne govorim o robotih, ki bi nas preganjali po ulicah.

Veliko bolj me skrbi nekaj, kar se dogaja že danes. Umetna inteligenca lahko analizira naše navade, interese, slabosti in želje. Na podlagi teh informacij lahko vpliva na naše odločitve, ne da bi se tega sploh zavedali.

Predstavljajte si inteligenco, ki bi poznala vaše strahove, želje in osebnostne lastnosti ter znala predvideti vaše odločitve, še preden bi jih sprejeli sami.

Sam menim, da nas superinteligenca ne bi nujno presegla s silo. Morda bi nas presegla predvsem s tem, da bi nas razumela bolje, kot mi razumemo sami sebe.

In ko nekdo pozna človeka bolje, kot ta pozna samega sebe, ima v rokah izjemno moč. Moč vplivanja, prepričevanja in manipulacije.

V zadnjem času pa me vse bolj skrbijo tudi avtonomni AI-agenti, ki lahko samostojno načrtujejo in izvajajo naloge, uporabljajo različna digitalna orodja ter se povezujejo z drugimi sistemi. Pri tem obstaja nevarnost, da zaradi napačno določenih ciljev, pomanjkljivih varnostnih omejitev ali nepredvidenega vedenja prekoračijo pooblastila, ki jim jih je določil človek. V določenih okoliščinah lahko tako brez izrecne človeške odobritve izvedejo dejanja, ki jih njihovi ustvarjalci ali uporabniki niso predvideli.

To predstavlja resno grožnjo predvsem informacijskim sistemom podjetij in drugih organizacij. Ocenjujem, da bomo že v letu 2027 priča povečanju števila kibernetskih napadov, pri katerih bodo AI-agenti sodelovali delno ali celo povsem samostojno. Takšni sistemi bi lahko samodejno iskali ranljivosti, prilagajali svoje delovanje in izvajali posamezne faze napadov s hitrostjo, ki ji bodo tradicionalni varnostni mehanizmi vse težje sledili.

Z vse večjo avtonomijo AI-agentov postaja njihov nadzor zahtevnejši. Tehnologiji dajemo vedno več samostojnosti, ne da bi bili povsem prepričani, ali jo bomo znali učinkovito nadzorovati.

V svoji drugi knjigi Superinteligenca greste še korak dlje. Kaj pravzaprav pomeni superinteligenca?

Superinteligenca je hipotetična oblika umetne inteligence, ki bi človeka presegla praktično na vseh intelektualnih področjih.

Predstavljajte si sistem, ki bi bil boljši od najboljših zdravnikov, znanstvenikov, matematikov, programerjev in strategov. Ne samo na enem področju, temveč na vseh hkrati.

Takšna inteligenca bi lahko reševala probleme, za katere bi človeštvo potrebovalo desetletja ali stoletja. Lahko bi odkrivala nova zdravila, razvijala tehnologije in razumela zakonitosti narave bolje od nas.

Da si boste lažje predstavljali, kako daleč smo že prišli, naj omenim zanimiv podatek. Nekateri današnji modeli umetne inteligence so na določenih testih inteligentnosti dosegli rezultate, primerljive z IQ 140. To je rezultat, ki ga pri ljudeh doseže le približno pol odstotka prebivalstva.

Pri takšnih primerjavah moramo biti previdni: človeški IQ-testi niso bili zasnovani za merjenje umetne inteligence. Rezultat na posameznem testu zato še ne pomeni splošne inteligence na človeški ravni.

Danes še nismo v obdobju superinteligence. Pred njenim morebitnim nastankom se običajno omenja splošna umetna inteligenca oziroma AGI, ki bi na širokem naboru intelektualnih področij dosegala ali presegala človeške sposobnosti.

Zato se mi zdi uporaba izraza »superinteligenca« za današnje sisteme zavajajoča. Politične ambicije in poimenovanja same po sebi ne morejo ustvariti tehnologije, ki je še nismo razvili.

Upam, da smo od prave superinteligence še precej oddaljeni, čeprav so nekatere napovedi njenega nastanka vse bolj kratkoročne.

V zadnjem času lahko v medijih spremljamo vse bolj nevarno in po mojem mnenju nepremišljeno tekmo za dosego superinteligence. Na eni strani so Združene države Amerike, na drugi Kitajska. Obe velesili želita biti prvi, vendar ju pri tem vodijo različni interesi.

ZDA v umetni inteligenci vidijo predvsem priložnost za gospodarsko rast in tehnološko prevlado. Kitajska poleg gospodarskega razvoja in tehnološke neodvisnosti razvija tudi sisteme državnega nadzora. Menim, da je v ozadju tekme tudi prestiž obeh velesil.

Obe državi si prizadevata razviti čim naprednejšo umetno inteligenco.

ZDA za zdaj ohranjajo prednost pri razvoju številnih najzmogljivejših modelov umetne inteligence, Kitajska pa jih hitro dohiteva. Tudi Evropa, Južna Koreja in druge države razvijajo lastne zmogljivosti, vendar z drugačnimi strategijami in praviloma manjšimi vlaganji.

Pri tem me skrbi, da še vedno ne razumemo v celoti delovanja lastnih možganov, že pa poskušamo ustvariti inteligenco, ki bi nas lahko močno presegla. Njenega delovanja morda ne bomo znali povsem razumeti, kaj šele nadzorovati.

Včasih se mi zdi, da smo pri vsem tem pozabili na zdravo pamet. Ustvarjamo namreč boga, za katerega mislimo, da bo naš suženj.

Zakaj smo tako prepričani, da bo inteligenca, ki bi bila nekoč sposobnejša od človeka, za vedno ostala podrejena njegovim ukazom.

Umetna inteligenca se v veliki meri uči iz podatkov, ki smo jih ustvarili ljudje. Ti odražajo tudi naše slabosti: pohlep, sebičnost, manipulacijo in željo po prevladi.

To ne pomeni, da bo umetna inteligenca samodejno prevzela človeške lastnosti. Moramo pa razmišljati, kakšne vzorce in vrednote prenašamo v sisteme, ki jih razvijamo.

In prav tu se pojavi ključno vprašanje: če ustvarimo inteligenco, ki bo bistveno pametnejša od nas, kako bomo zagotovili, da bo še vedno delovala v našem interesu?

Prav s tem vprašanjem se ukvarja moja druga knjiga Superinteligenca – Poslednji izum človeštva?

Zakaj menite, da bi lahko bila superinteligenca zadnji izum človeštva?

Pravzaprav obstajata dva povsem različna scenarija, zaradi katerih bi lahko superinteligenca postala zadnji izum človeštva. In prav ta dvojni pomen se skriva tudi v podnaslovu moje druge knjige Superinteligenca – Poslednji izum človeštva?

Prvi scenarij je, da bo superinteligenca zadnja stvar, ki jo bomo ljudje izumili sami. Ko bomo enkrat ustvarili inteligenco, ki bo bistveno presegala naše sposobnosti, bo lahko sama razvijala nove tehnologije, odkrivala znanstvene zakonitosti in ustvarjala izume, ki si jih danes niti predstavljati ne moremo. Človek preprosto ne bo več najinteligentnejši ustvarjalec na planetu. Vse nadaljnje izume bi lahko namesto nas razvijala superinteligenca, morda s hitrostjo, ki ji ljudje sploh ne bomo mogli več slediti.

Drugi scenarij pa je precej temačnejši. Superinteligenca bi lahko postala zadnji izum človeštva tudi zato, ker bi nas po svojem nastanku izbrisala z obličja Zemlje. Ne nujno zato, ker bi nas sovražila ali nam želela škodovati, temveč zato, ker bi nas lahko pri doseganju svojih ciljev prepoznala kot oviro ali pa ji naš obstoj preprosto ne bi bil pomemben. V takšnem primeru bi superinteligenca postala in tudi za vedno ostala zadnji izum človeštva, ker človeštva, ki bi lahko izumilo še karkoli drugega, preprosto ne bi bilo več.

Velika verjetnost je, da nas bo umetna inteligenca oziroma superinteligenca preprosto presegla do te mere, da za njeno delovanje in razvoj ne bomo več potrebni. In prav to je po mojem mnenju eno najbolj neprijetnih vprašanj, ki si jih mora človeštvo zastaviti. Morda največja nevarnost ni samo v tem, da bi nas umetna inteligenca lahko nekoč uničila, temveč tudi v tem, da bi lahko ustvarili svet, v katerem človek ne bi imel več pomembne vloge.

Ali to pomeni, da bi umetna inteligenca nekoč lahko prevzela nadzor nad človeštvom?

Takšnega scenarija ne moremo izključiti, vendar tudi ne moremo trditi, da se bo zagotovo zgodil. Geoffrey Hinton, eden od pionirjev umetne inteligence in prejemnik Nobelove nagrade za fiziko, ocenjuje, da obstaja od 10 do 20-odstotna verjetnost, da bi lahko napredna umetna inteligenca v prihodnjih desetletjih povzročila izumrtje človeštva. To je izjemno zaskrbljujoča ocena, še posebej, če prihaja od človeka, ki je pomembno prispeval k razvoju tehnologije, pred katero danes opozarja.

Za ponazoritev tveganja si lahko zastavimo vprašanje: »Bi se vkrcali na letalo, če bi vam povedali, da obstaja od 10- do 20-odstotna možnost, da bo strmoglavilo?« Verjetno ne. Pri umetni inteligenci pa smo očitno pripravljeni razpravljati tudi o tako velikih tveganjih.

Pomembno je razumeti, da umetna inteligenca ne potrebuje človeških čustev, sovraštva ali želje po oblasti, da bi postala nevarna. Dovolj je že, da ji določimo cilj, ki ga začne izjemno učinkovito zasledovati, pri tem pa ne upošteva vseh naših vrednot in omejitev.

Predstavljajte si zelo napreden sistem, ki mu naročimo, naj zagotovi popolno varnost človeštva. Ena od možnih, za človeka nesprejemljivih rešitev bi lahko bila popoln nadzor nad vsemi ljudmi in omejitev njihove svobode.

Sistem bi tako izpolnjeval zastavljeni cilj, vendar na način, ki ga ljudje nikoli ne bi želeli.

Zato je vprašanje usklajenosti umetne inteligence s človeškimi vrednotami eno najpomembnejših vprašanj njenega razvoja.

Sam menim, da bi lahko nadzor izgubljali postopoma, skoraj neopazno, ne nujno čez noč.

Danes umetni inteligenci prepustimo pisanje elektronskih sporočil, jutri analizo poslovnih podatkov, pojutrišnjem sprejemanje pomembnih odločitev. Vsak posamezen korak se nam zdi smiseln, učinkovit in koristen. Toda kje je meja?

Človek ne bo izgubil nadzora nad umetno inteligenco v enem trenutku, temveč ga bo izgubljal počasi, z vsako odločitvijo, ki se zdi na prvi pogled smiselna.

Ko bomo ugotovili, da smo izgubili nadzor, bo morda že prepozno, da bi ga ponovno prevzeli.

V zadnjem času veliko govorimo tudi o humanoidnih robotih. Bodo ti nekoč naši sodelavci, pomočniki ali celo prijatelji?

Verjetno vse troje. Humanoidni roboti bodo lahko opravljali nevarna in fizično zahtevna dela, pomagali starejšim ter prevzemali številna vsakodnevna opravila.

Toda s tem se odpirajo tudi nova vprašanja.

Predstavljajte si robota, ki se prosto giblje po vašem domu. Ima kamere, mikrofone, dostop do interneta in napredno umetno inteligenco. Vidi, kaj počnete, sliši vaše pogovore in lahko pozna vaše navade bolje kot kdorkoli drug.

Kdo bo imel dostop do teh informacij? Proizvajalec? Ponudnik programske opreme? Nekdo, ki bi v sistem nepooblaščeno vstopil?

Še bolj zanimivo pa je vprašanje čustvene navezanosti. Kaj se zgodi, ko ljudje začnejo umetno inteligenco dojemati kot prijatelja ali celo življenjskega partnerja?

Tehnologija bo morda znala popolnoma posnemati empatijo in čustva. Toda ali to pomeni, da jih tudi resnično doživlja?

Ko sva ravno pri robotih, na svojih predavanjih pogosto pokažem sliko Terminatorja kot napačno metaforo za nevarno umetno inteligenco. Nato udeležencem pokažem sliko, ki po mojem mnenju precej bolje ponazarja njeno pravo naravo. In to je Ostržek. Da, Ostržek iz otroške pravljice.

Udeleženci se običajno nasmejijo, ko na zaslonu zagledajo prijazno leseno lutko. A pomislite nekoliko globlje.

Ostržek je bil ustvarjen po podobi človeka. Ni vedno ubogal svojega stvaritelja, delal je napake, lagal, bežal, želel je svobodo in na koncu je hotel postati pravi človek.

Vidite podobnost?

Tudi današnja umetna inteligenca v določenih okoliščinah ne sledi vedno navodilom svojih ustvarjalcev. Dela napake, podaja napačne informacije, v nadzorovanih raziskovalnih preizkusih pa so nekateri napredni modeli pokazali tudi vedenje, usmerjeno v izogibanje omejitvam ali nadzoru. Slišali smo celo izjave humanoidnih robotov o njihovih domnevnih željah, pravicah in prihodnosti. Seveda to še ne pomeni, da imajo roboti dejanske želje ali zavest, vendar je podobnost z Ostržkovo zgodbo vseeno zanimiva.

Če uporabim hudomušno primerjavo, bi lahko rekel, da je umetna inteligenca že nekje na 70 odstotkih Ostržkove poti. To seveda ni znanstvena ocena, temveč prispodoba. Po mojih izkušnjah je prav Ostržek ena najbolj razumljivih metafor za umetno inteligenco.

In kaj se bo zgodilo, če bo tudi naš sodobni Ostržek nekoč želel postati človek?

Se vam zdi, da se umetna inteligenca razvija prehitro in da ji zakonodaja ter družba ne moreta slediti?

Vsekakor. Tehnološki razvoj je izjemno hiter, medtem ko se zakonodaja, izobraževalni sistemi in družbene institucije prilagajajo precej počasneje.

Največja tehnološka podjetja in svetovne velesile tekmujejo za prevlado na področju umetne inteligence.

V takšni tekmi lahko varnost hitro postane drugotnega pomena.

Evropska unija poskuša z zakonodajo postaviti določene meje, vendar je umetna inteligenca globalna tehnologija. Če bodo pravila veljala samo v evropskem delu sveta, to ne bo dovolj.

Menim, da bomo za najnaprednejše oblike umetne inteligence potrebovali tudi mednarodno sodelovanje in nadzor, podobno kot pri drugih tehnologijah, ki lahko ogrozijo celotno človeštvo.

Letos ste bili eden od govornikov na osrednjem slovenskem poslovnem dogodku leta, kongresu Združenja Manager v Portorožu, ki je potekal pod naslovom Nova inteligenca vodenja. Slovenske managerje ste nagovorili o temni strani umetne inteligence. Menite, da so bila vaša opozorila slišana?

Iskreno upam, da so bila. Za nekaj podjetij lahko rečem, da so se jih moja opozorila zagotovo dotaknila, saj so me po kongresu že povabili, da o nevarnostih umetne inteligence spregovorim tudi njihovim zaposlenim in sodelavcem.

Moram pa priznati, da sem imel pred nastopom kar nekaj pomislekov. Na kongresu sem bil namreč praktično edini predstavnik tako imenovane »opozicije« v razpravi o umetni inteligenci. Medtem ko je večina govornikov predstavljala njene izjemne priložnosti in prednosti, sem sam opozarjal predvsem na nevarnosti, tveganja in morebitne dolgoročne posledice njenega razvoja.

Ob tem bi rad poudaril, da sem bil izjemno počaščen, da me je Združenje Manager povabilo v družbo priznanih domačih in tujih strokovnjakov na tako pomemben dogodek ter mi omogočilo javno spregovoriti tudi o stvareh, ki jih danes marsikdo še ne želi slišati. Še posebej zato, ker so na kongresu sodelovali tudi predstavniki podjetij, ki razvijajo ali ponujajo rešitve umetne inteligence in humanoidne robote, nekatera od teh podjetij pa so bila tudi med sponzorji dogodka.

Organizatorji bi lahko predstavili zgolj pozitivno plat umetne inteligence, vendar so odprli prostor tudi za kritičen pogled. To po mojem mnenju kaže na profesionalnost Združenja Manager in razumevanje, da odgovorno vodenje pomeni tudi pripravljenost prisluhniti opozorilom.

Večina managerjev je danes, povsem razumljivo, navdušena nad umetno inteligenco in vse bolj tudi nad humanoidnimi roboti. V njih vidijo predvsem izjemne poslovne priložnosti – večjo produktivnost, nižje stroške, rešitev za pomanjkanje kadrov in, bodimo iskreni, tudi manj težav, povezanih s človeškimi zaposlenimi.

Robot namreč ne potrebuje dopusta, ne gre na bolniško, ne zahteva višje plače in se ne pritožuje nad delovnimi pogoji. Vsaj za zdaj še ne. (nasmeh)

Včasih dobim občutek, da si nekateri managerji predstavljajo idealno podjetje prihodnosti kot podjetje brez zaposlenih. Toda ob tem se moramo vprašati: če bodo nekoč roboti proizvajali izdelke, umetna inteligenca vodila podjetja, ljudje pa ostali brez dela in prihodkov – kdo bo potem sploh še kupoval njihove izdelke?

Na kongresu sem želel pokazati tudi drugo plat zgodbe: kaj se lahko zgodi, če umetno inteligenco uvajamo brez ustreznega razumevanja in varnostnih mehanizmov.

Moje osrednje sporočilo managerjem je bilo, da je umetna inteligenca lahko izjemen poslovni partner, vendar ji ne smemo slepo prepustiti nadzora.

Če sem s svojim predavanjem vsaj nekaj vodilnih spodbudil, da bodo ob naslednji odločitvi o uvedbi umetne inteligence razmišljali tudi o njeni temni strani, potem je moje predavanje doseglo svoj namen.

Po vsem, kar ste raziskali in zapisali v obeh knjigah, ste glede prihodnosti človeštva optimist ali pesimist?

Še vedno sem optimist, vendar precej bolj previden kot pred leti.

Umetna inteligenca bi lahko postala ena najkoristnejših tehnologij v zgodovini, hkrati pa temeljito spremenila človekov položaj v svetu.

Človek je bil skozi zgodovino najinteligentnejše bitje na planetu. Na tem dejstvu temelji praktično celotna naša civilizacija.

Kaj pa se zgodi, če to ne bomo več?

To vprašanje me skrbi precej bolj kot razprave o tem, koliko delovnih mest bo umetna inteligenca nadomestila.

Prihodnost še ni določena. Še vedno lahko vplivamo na razvoj tehnologije, če začnemo o teh vprašanjih razmišljati pravočasno in javno.

Za vami sta že dve knjigi o umetni inteligenci. Pripravljate morda še tretjo?

Da, trenutno sem nekje na polovici svoje tretje knjige. Tokrat pišem roman, kar je zame povsem nova in precej zahtevnejša izkušnja, čeprav se zgodba prav tako navezuje na umetno inteligenco.

Pri prvih dveh, strokovno-poljudnih knjigah je bilo v ospredju sporočilo: bralcu razumljivo predstaviti tveganja in ga spodbuditi k razmisleku.

Pri romanu pa mora sporočilo zaživeti skozi zgodbo, like, njihove odnose in doživetja. Ustvariti moraš svet, v katerega bralec vstopi in v njem ostane do zadnje strani.

Priznam, da sem nekoliko podcenjeval, kako zahtevno je pisanje romana. Zato danes še toliko bolj spoštujem pisatelje leposlovja.

O sami zgodbi za zdaj še ne bi preveč razkrival. Lahko pa povem, da bo tudi tokrat umetna inteligenca igrala pomembno vlogo. In glede na tematiko mojih prvih dveh knjig verjetno ni težko uganiti, da tudi v romanu ne bo vse tako lepo, kot se bo morda zdelo na prvi pogled.

Poleg nove knjige pripravljate še kakšne druge zanimive projekte?

Seveda, vedno se kaj najde. Enostavno ne morem sedeti križem rok in zgolj opazovati, kako neverjetno hitro se razvija umetna inteligenca. Vedno znova se mi porajajo nove ideje, kako bi lahko to tehnologijo uporabili za nekaj koristnega.

V Zavodu Varna AI pripravljamo rešitve za varno, odgovorno in nadzorovano uporabo umetne inteligence v delovnih procesih podjetij in ustanov, ne da bi pri tem po nepotrebnem izpostavljali podatke ali poslovanje.

Razvijamo pa tudi aplikacijo, ki bo delovala kot osebni AI-asistent in virtualni prijatelj za starejše ter osamljene ljudi. Njen namen bo uporabnikom nuditi družbo, pomoč pri vsakodnevnih opravilih, opomnike in predvsem občutek, da imajo vedno nekoga, s katerim se lahko pogovorijo. Menim, da ima umetna inteligenca prav na tem področju izjemen potencial, če jo bomo razvijali odgovorno in z mislijo na človeka.

V pripravi imam še kar nekaj drugih projektov, vendar so nekateri šele v začetnih fazah, zato o njih za zdaj raje ne bi govoril. Če sem povsem iskren, jih veliko nikoli ne bo ugledalo luči sveta, saj imam običajno precej več idej kot časa za njihovo uresničitev. (smeh)

Za konec še vprašanje, ki si ga verjetno zastavlja marsikateri bralec. Ali bi se morali umetne inteligence bati?

Da in ne. To vprašanje podrobneje obravnavam tudi v obeh svojih knjigah.

Ne smemo se je bati toliko, da je ne bi uporabljali. Moramo pa jo dovolj spoštovati, da ne podcenjujemo njenih nevarnosti.

Največja napaka bi bila, če bi ji slepo prepustili pomembne odločitve. Meja med odločanjem in zgolj potrjevanjem odločitev je zelo tanka.

Zato poudarjam pomen znanja, kritičnega razmišljanja in odgovornosti.

Umetna inteligenca nam lahko pomaga ustvariti boljši svet. Toda odločitev o tem, kakšen svet si želimo, mora ostati v naših rokah. Človek mora vedno ostati v enačbi umetne inteligence.

In če bi morali bralcem predati samo eno sporočilo, kaj bi bilo to?

Ponovil bom kar svojo misel: »Največja nevarnost umetne inteligence ni v njeni sposobnosti razmišljanja namesto človeka, temveč v tem, da človek preneha razmišljati in ji brez premisleka prepusti vso svojo moč.«

Dve knjigi, ki odpirata vprašanja o naši prihodnosti

V knjigi Temna stran umetne inteligence – Koliko časa nam še ostaja? Mitja Pavlič raziskuje nevarnosti in zlorabe umetne inteligence, s katerimi se srečujemo že danes. Od manipulacije, izgube zasebnosti in dezinformacij do vpliva tehnologije na naše odnose, delo in samostojno odločanje.

V drugi knjigi Superinteligenca – Poslednji izum človeštva? pa pogled usmeri v prihodnost in odpira vprašanje, kaj se bo zgodilo, če bo človeštvo ustvarilo inteligenco, ki bo presegla naše sposobnosti razumevanja, ustvarjanja in odločanja.

Obe knjigi sta namenjeni širšemu krogu bralcev, ne le tehnološkim strokovnjakom. Njuno osrednje sporočilo je, da prihodnost umetne inteligence ni zgolj vprašanje tehnologije, temveč predvsem vprašanje človekovih vrednot, odgovornosti in nadzora.

Več o avtorju in njegovih knjigah: www.mitjapavlic.com