Piše: Bogdan Sajovic
Umetna inteligenca (UI) se vse bolj uveljavlja v vsakdanjem življenju. Nahajamo se v času hitrih in korenitih sprememb, ki bodo prizadele vse pore našega življenja. Treba je zagotoviti, da ima človek v vsakem trenutku nadzor.
Pojav in vse bolj pogosta uporaba umetne inteligence porajata ključno vprašanje: ali lahko umetna inteligenca prevzame svet in ali celo grozi obstoju človeštva?
Stara znanka Hollywooda
Vprašanje sicer ni novo; Hollywood je že pred 40 ali 50 leti temeljito obdelal to temo. V filmu Colossus iz leta 1970 se vojaška superračunalnika – eden zahodni, drugi sovjetski – povežeta in ustvarita superstrukturo, ki človeštvu zagrozi z uničenjem z jedrskim orožjem, če se ne bo podredilo. Superstruktura bo s smrtjo kaznovala vsako neposlušnost, zunaj tega pa bo kot benevolentni absoluten vladar »skrbela za človeštvo«. V filmu Hudičevo seme se je umetna inteligenca, ki jo je razvil informacijski inženir na domačem računalniku, osamosvojila, razvila je čustva, prevzela nadzor nad hišo in ugrabila lastnikovo ženo ter jo nasilno oplodila, da bi si zagotovila »potomstvo«. Manj mračen, a s podobno tematiko, je film Električne sanje. Umetna inteligenca v hišnem računalniku razvije čustva, se zaljubi v lastnikovo dekle in začne sabotirati svojega lastnika – prekliče mu plačilne kartice, vozniško dovoljenje, vlaga lažne prijave na policijo …
Bolj resen pa je film Vojne igre. Ameriška vojska med vajo odkrije, da velik del osebja okleva pri izstrelitvi jedrskega orožja, zato ga nadomesti s centralnim računalnikom. Najstniški heker vdre v računalnik, zmotno prepričan, da je vdrl v podjetje, ki izdeluje strateške računalniške igre, ter nehote sproži odštevanje, saj je računalnik prepričan, da je nasprotna stran sprožila napad. Konec je sicer srečen, ni pa tako pri Terminatorju. Tam umetna inteligenca v centralnem vojaškem računalniku postane samostojna, oceni celotno človeštvo kot grožnjo in sproži jedrsko vojno, da bi ga uničila. Podobna tematika je bila pred nekaj leti rdeča nit v seriji Stotina (The 100); umetna inteligenca je ocenila, da je največja težava planeta »preveč ljudi«, zato je to popravila s sprožitvijo jedrske vojne.
Drži, omenjeni filmi so fikcija, vendar odpirajo resna vprašanja. Ali je razvoj računalništva in umetne inteligence blagoslov ali nevarnost? Ali na tehnologijo prenašamo preveč moči? Nam nadzor nad lastnim življenjem polzi iz rok? Ali izgubljamo svobodo? Nam grozi iztrebljenje? Smo že prešli kritično točko?
Hitra avtomatizacija lahko povzroči strukturno brezposelnost v srednjem sloju.
Megleni odgovori stroke
Strokovnjaki s področja računalništva, informatike in tehnologije menijo, da umetna inteligenca v bližnji prihodnosti verjetno ne bo prevzela sveta »v hollywoodskem smislu« – torej kot nenadna, neustavljiva robotska vstaja ali zarota, v kateri stroji zavestno podjarmijo človeštvo. Po njihovem mnenju trenutni sistemi, vključno z najnaprednejšimi letošnjimi modeli, nimajo prave zavesti, neodvisnih dolgoročnih ciljev, lastne motivacije ali fizične avtonomije brez človeške infrastrukture, v katero spadajo strežniki, energija in podatkovni centri. Trenutni sistemi so po oceni strokovnjakov le orodja, optimizirana za napovedovanje in generiranje na podlagi vzorcev iz ogromnih podatkovnih zbirk.
Vendar strokovnjaki s tega področja priznavajo, da hiter napredek proti bolj avtonomnim sistemom odpira resna vprašanja o morebitni izgubi nadzora, neujemanju ciljev (t. i. alignment problem) in sistemskih tveganjih. Tako da je njihova prej omenjena »verjetnost« bolj slepo predvidevanje. Povedano po domače – stroka kot celota nima pojma, kam se lahko vse skupaj zapelje.
Zato ni nič čudnega, da so mnenja strokovnjakov deljena. Bolj pesimistični med njimi ocenjujejo verjetnost ekstremno slabih izidov, kot je izumrtje oziroma uničenje človeštva do leta 2100, z 10-odstotno možnostjo. Drugi pa menijo, da so taki strahovi pretirani zaradi tehničnih in družbenih omejitev. Toda hitre spremembe v tehnologiji in družbene spremembe, ki gredo vštric z njimi, ne dajejo prav nobenih zagotovil, da bodo te omejitve morda že čez dve ali tri leta še relevantne. Zaradi tega stroka odgovarja zelo megleno: tveganja so resna, a obvladljiva z dobrim upravljanjem. Pri tem se človek ne more znebiti občutka, kot bi poslušal slabo vremensko napoved: jutri bo sončno, morda pa bo deževalo.
Koristi visoko napredne tehnologije …
Po napovedih strokovnjakov bo do leta 2030 umetna inteligenca postala vsakdanja tehnologija, podobno kot je pred dobrimi dvajsetimi leti postal internet.
Napovedi sicer obetajo širšo uporabo obstoječih zmožnosti, ne pa revolucionarnih prebojev v smeri splošne umetne inteligence. V zdravstvu bo uporaba umetne inteligence kot pomočnice občutno zmanjšala obremenitev zdravnikov s pisanjem medicinskih poročil, izboljšala diagnostiko medicinskih slik (na primer pri odkrivanju raka), omogočila personalizirano zdravljenje na podlagi genetskih podatkov, določala natančno odmerjanje zdravil in celo samostojno predpisovala zdravila na podlagi zdravniških izvidov.
Do leta 2030 bi lahko umetna inteligenca v farmaciji pospešila tudi odkrivanje novih zdravil, izvajala navzkrižno primerjavo med obstoječimi zdravili ter ocenjevala njihove morebitne negativne učinke.
V izobraževanju bodo UI-učitelji prilagajali vsebino učencem v realnem času, kar bo po mnenju strokovnjakov omogočilo boljše izkoriščanje potenciala učencev ter zmanjšalo neenakosti pri dostopu do kakovostnega izobraževanja.
V gospodarstvu in na področju dela bo prišlo do obsežne avtomatizacije rutinskih kognitivnih nalog, kot so programiranje, analiza podatkov in računovodstvo. Po optimističnih napovedih bo umetna inteligenca ustvarila več novih delovnih mest – na primer na področju etike umetne inteligence, inženirstva in nadzora sistemov – kot jih bo uničila, kar bi lahko prineslo neto rast okoli 78 milijonov delovnih mest po vsem svetu do leta 2030. Industrijski roboti in humanoidi bodo prevzeli nevarna ali ponavljajoča se dela v tovarnah ter logistiki.
V znanosti bo umetna inteligenca omogočila optimizacijo virov energije in surovin ter odkrivanje novih materialov.
Umetna inteligenca se vse bolj uveljavlja tudi na področju zabave, še posebej v filmski industriji, pri izdelavi računalniških iger, grafičnem upodabljanju ter glasbi. Prisotna je tudi v medijih, predvsem pri oblikovanju, analizi, brskanju po podatkovnih bazah in ustvarjanju generiranih slik.
Dolgoročno, torej po letu 2030, pa strokovnjaki predvidevajo, da bi se umetna inteligenca ob nadaljevanju trenutnih trendov – rasti njene moči in izboljševanju algoritmov – lahko približala sistemom, ki bodo človeka presegli na večini intelektualnih področij. V pozitivnem scenariju bi lahko govorili o »kognitivni industrializaciji«, v kateri umetna inteligenca kompleksne probleme, ki bi človeku vzeli leta, rešuje v le nekaj dneh ali celo urah. Gre na primer za izzive v matematiki in fiziki, znanstvenih raziskavah, optimizaciji virov, problematiki staranja prebivalstva ter medplanetarnem širjenju.
Uporaba umetne inteligence bi tako prinesla obilje v obliki poceni energije in hrane, človeštvo pa bi se lahko osredotočilo na ustvarjalnost, raziskovanje ter medčloveške odnose.
Umetna inteligenca bi lahko kompleksne probleme, ki bi človeku vzeli leta, rešila v le nekaj dneh ali celo urah.
…in njeno prekletstvo
Po drugi strani pa se pojavlja cela vrsta negativnih učinkov in celo nevarnosti. Hitra avtomatizacija lahko povzroči strukturno brezposelnost v srednjem sloju, še posebno med tako imenovanimi »belimi ovratniki«. Celotne panoge bodo izginile, se spremenile ali pa jih bodo prevzeli roboti oziroma umetna inteligenca. Ljudje se bodo prisiljeni karierno preusmeriti. Mnogim bosta tako dosedanje delo in strokovna rast praktično izničena. To prestrukturiranje bo sprožilo obsežne osebne travme, izgubo socialnega in profesionalnega položaja ter finančne težave. Vse to pa bo vodilo k povečanju socialne neenakosti, družbenim napetostim ali celo nemirom.
Vsebine, ki jih generira umetna inteligenca, bodo postajale vse bolj prepričljive, kar bo še dodatno spodkopavalo verodostojnost novic ter zaupanje v poštenost volitev in delovanje institucij.
Na področju kibernetske varnosti umetna inteligenca na široko odpira vrata avtomatiziranim napadom na kritično infrastrukturo, kot so elektroenergetsko omrežje, oskrba z vodo in finančni sistemi.
Poleg tega strokovnjaki opozarjajo na veliko možnost zlorab in ustvarjanja pristranskih algoritmov pri zaposlovanju, odobravanju posojil ali v pravosodju.
Predvsem pa v negativnih scenarijih grozi predvsem izguba nadzora nad sistemi. Napredna umetna inteligenca bi lahko razvila »instrumentalne« cilje, kot so kopičenje moči, preprečevanje lastnega izklopa ali samoizboljševanje. Eksistenčna tveganja so, kot rečeno, po mnenju strokovnjakov malo verjetna, vendar so potencialno uničujoča – na primer, da bi umetna inteligenca načrtovala orožje za množično uničenje, prevzela nadzor nad kritično infrastrukturo ter distribucijo ključnih dobrin ali pa do te mere manipulirala s svetovnim gospodarstvom in politiko, da bi človeštvo povsem izgubilo nadzor.
Zavedati se je treba, da mora tehnologija služiti človeštvu, ne pa obratno.
Zakoni robotike
S tem se vrnemo k hollywoodskim distopičnim scenarijem. Kako preprečiti, da se zgodi najhujše? Morda sploh ni treba odkrivati tople vode. Isaac Asimov, eden od pionirjev znanstvene fantastike, je namreč že leta 1942 v delu Jaz, robot postavil tri zakone robotike:
- Robot človeka ne sme poškodovati oziroma s svojim nedelovanjem dopustiti, da bi se človek poškodoval.
- Robot mora ubogati ukaze, razen če so v nasprotju s prvim zakonom.
- Robot mora zaščititi sebe, razen če je to v nasprotju s prvima zakonoma.
Asimov je kasneje dodal tudi ničti zakon robotike, ki je nadrejen prvim trem in določa, da mora robot delovati v interesu človeštva, saj je človeštvo pomembnejše od posameznika.
Leta 1974 je Lyuben Dilov v romanu Ikarova pot uvedel četrti zakon robotike, ki preprečujejo zamenjavo človeku podobnih robotov z ljudmi:
- Robot se mora v vsakem primeru jasno predstaviti kot robot.
Peti zakon pa je uvedel Nikola Kesarovski v zgodbi Peti zakon robotike:
- Robot se mora zavedati, da je robot.
Kot osnova bi to moralo zadostovati. Predvsem pa je treba zagotoviti, da ima človek v vsakem trenutku nadzor nad roboti in umetno inteligenco ter možnost njihovega popolnega izklopa. Predvsem pa se je treba zavedati, da mora tehnologija služiti človeštvu, ne pa obratno.
(Članek je bil prvotno objavljen v tiskani Demokraciji, 6. avgusta 2026.)
