Piše: Franc Bešter
Danes je to zelo aktualna tema. Njen razvoj je samo logična posledica razvoja elektronike in računalništva. V osnovi te tehnologije je čip. To je mikroprocesor, in v njem igra glavno vlogo tranzistor, se pravi polprevodniki, in ta »napredek« sploh ni tako velik, kot si večina ljudi predstavlja: mikroprocesor je v osnovi nespremenjen že desetletja. Ves razvoj v tem času je šel predvsem v smer pomanjševanja: računalnik, ki je nekoč zavzel celo sobo, je danes zveden na velikost tablice!
A to je stvar tehnike, na katero se skoraj nič ne spoznam. Tehnika: orodja. Više razvitim orodjem pravimo stroji, in UI je zame tudi samo to: stroj. Z orodji si je človek olajšal delo, s stroji, ki so bolj učinkovita orodja, še bolj. UI je zame še en stroj, ki pač ljudem olajša neko delo. Vrsto orodja pa določa vrsta dela, ki ga je treba opraviti. Tu že ime pove, da naj bi UI človeku olajšala (mu prihranila) neko intelektualno delo. Stroj za mišljenje? Ali ta UI res misli? ChatGPT, ki so ga pred kratkim iznašli, baje govori in piše celo bolje kot to zmorejo ljudje, vsaj večina ljudi, tako da so se tudi njeni tvorci tega ustrašili. Številne zlorabe, ki jih to omogoča, se tu kar same ponujajo. Osebno mislim, da UI presega človeka na nekem zelo ozkem področju: glede količine shranjenih podatkov in hitrosti obdelave le-teh. Z njeno pomočjo človek to naredi mnogo učinkoviteje, podobno kot bagerist v nekem času lahko izkoplje mnogo več materiala kot nekdo s krampom in lopato in je odvisen zgolj od moči svojih mišic. In kot je bager mnogo bolj učinkovit podaljšek roke kot kramp, tako je UI zelo učinkovit podaljšek človeških možganov, saj jih v nekih pogledih lahko močno presega. Ali pa UI lahko primerjamo z možgani? To ni nekaj novega, že pred desetletji so računalnik imenovali »elektronski možgani«, sedaj smo iznašli izraz »umetna inteligenca«, ki pa, po mojem, lahko zavaja. Inteligenca (mišljenje, misel) je namreč sposobnost in proizvod sive možganske skorje, torej nekega našega organa, medtem ko gre pri UI še vedno za stroj, in kakorkoli bo le-ta morda še visoko razvit, bo ostal stroj, nikoli ne bo mogel biti »organ«. Zato: ali pri UI lahko govorimo o misli, mišljenju?
Ker gledam na delovanje UI kot na delovanje stroja, se mi izraza kot »elektronski možgani« in »inteligenca« zdita neprimerna. Izraz »inteligenca« zavaja: navaja k predstavi, da ta stroj deluje kot človekov razum, še več, da ga v nekih pogledih lahko celo prekaša, visoko presega. UI po mojem lahko zelo dobro posnema, oponaša misel in govorjenje človeka, to je pokazal ta zadnji izum, imenovan ChatGPT. Posnema tako dobro, da bo mogoče izdelati robota, ki bo vsaj na videz in na prvi pogled izgledal in deloval kot pravi človek. Vse skupaj pa seveda predstavlja nove izzive in številne etične dileme. Pod vprašaj bodo postavljeni številni poklici, npr. novinarja in učitelja – če bo ChatGPT lahko napisal boljši članek kot novinar, in če bo namesto učencev pisal domače naloge in proste spise. Razvrednoteno bo delo pisateljev, pod vprašaj postavljeno nadaljnje ustvarjanje literature. Jezik bo dokončno razvrednoten – če bo stroj lahko povedal več kot mi, ljudje. In če bodo nekoč (humanoidni) roboti prišli v splošno rabo: kaj storiti, če ne bomo sigurni, ali imamo opravka z robotom ali človekom?! Ali bo sploh še misliti vredno, če bo UI presegala vsakega človeškega genija?
Da, ko sem bil še študent, mi je nek kolega, apologet Znanosti, dejal, da človeških genijev ne bo več veliko, ker jih bo nadomestila mnogo bolj zmogljiva UI. Spet se pojavi vprašanje: ali UI lahko misli, na enak način, v enakem pogledu kot človek?
Ali je človek samo telo?
UI gradi samo materija, čeprav deluje na izrabljanju določenih lastnosti njenih subtilni pojavnih oblik (elektroni, atomi, molekule). Bistvena snovna stvar pri njej so zato polprevodniki, delovanje čipa nekoliko spominja na delovanje nevrona (tudi v možganih so električni impulzi in tokovi!), treba je vedeti, da možgani še zdaleč niso raziskani. Možgani so organ, del telesa.
Prepričan sem, da v primeru, ko primerjamo človeka in stroj, moramo pogledati na človeka celovito, tudi na človeka kot duha, upoštevati tudi dušo, ki je v telesu. Človek ima zavest, je bitje, ki se zaveda samega sebe, ima »jaz«, in to je mogoče samo zato, ker je (tudi) duh, ne le telo. Duša je nosilec »jaza« in zavesti.
Jasno, UI nima duše, ker je samo iz materije, zato se že tu pokaže neka globoka razlika med njo in človekom: UI nima »jaza« in se ne zaveda sama sebe. Kaj pa njena »misel« in misel človeka, ki je proizvod sive možganske skorje? Tudi tu se pokaže neka velika, nepremostljiva razlika: če namreč izhajamo iz Svetega pisma, ki prinaša celovit pogled na človeka, misli generira duša, misli prihajajo »iz srca« (iz globin duše), možgani so torej samo področje njihove artikulacije, tu misli, ki so širše, subtilnejše od besede (ki je močno vezana na snov), doživijo svoje zoženje, da jih potem lahko, če hočemo, tudi izgovorimo. Misli so torej »proizvod« duše, zato UI, ker nima duše, ne more proizvajati misli, torej nima lastnega mišljenja. Zapovrh pa sta duša, so možgani, vezana na fizično telo, ki je del materialnega sveta, in k njemu sodijo tudi čustva, strasti, nagoni… . Človek v 80% funkcionira kot (tudi) čustveno bitje! In njegove misli in besede so rezultat in artikulacija tako teh čustvenih kot tudi mnogokrat povsem nezavednih vsebin iz globin duše, in vsega tega pri UI ni, ne more biti in nikoli ne bo moglo biti. Zato je jasno, da pri UI ne moremo govoriti o inteligenci in mišljenju v človeškem pomenu te besede.
In če je človek tako kompleksno (tudi duhovno in čustveno) bitje, se pojavi vprašanje, če lahko njegov jezik, ki ga je iznašel kot sredstvo medsebojnega sporazumevanja, lahko vse to izrazi. Seveda ne. Zato si pri govorjenju pomaga tudi z govorico telesa, s kretnjami, barvo glasu, poudarki, glasnostjo ipd. . Dokazano je, da se poslušalec v samo 12% orientira le po besedah govorca, vse ostalo odpade na te navedene stvari! Tako ISTE besede, vendar izrečene s takšno ali drugačno »spremljavo«, lahko izrazijo široko paleto dokaj različnih pomenov. In nek robot, še tako dovršeno izdelan, vsega tega nikoli ne bo premogel. Lahko zaključimo, da med strojem in organizmom zija globok prepad, ki ga nikoli ne bomo mogli premostiti. Stroj bo vedno izrazil mnogo manj kot človek. Nekaj drugega pa je pisana beseda. Tu bo teže ugotavljati avtorstvo.
Kaj zmore UI, česar človek ne?
Jasno, da v določenih pogledih zmore več, sicer njeno izumljanje in njen razvoj ne bi imela nobenega smisla. Glede na povedano sem osebno prepričan, da UI nima svojega jaza, zavesti in ni sposobna razmišljanja, zlasti seveda nikoli ne bo premogla izvirnega, kreativnega mišljenja in pisanja. Ostala bo orodje, ki ga človek lahko uporablja tako ali drugače.
Kaj zmore in česa ne, o tem ne morem pisati v detajle, iz dveh razlogov: ker mi manjka smisel za tehniko in ker nimam izobrazbe te smeri. Iz tega, kar vem, sem skušal potegniti le nekaj najbolj grobih, okvirnih zaključkov. UI vidim samo kot nadaljnji razvoj računalnika, človek tu izkorišča šibke tokove elektronov, torej: najpomembnejši delec, ki omogoča UI, je elektron, in UI je še vedno del digitalne tehnike. Kar se tiče prakse, pa imam nekaj izkušenj z računalnikom, in v njem sem prepoznal orodje za prenos, shranjevanje in obdelavo podatkov, in tu res meja skorajda ni videti. V desetih letih sem se naučil uporabljati le nekaj procentov funkcij, in še na tem terenu se včasih izgubim in se lovim. Takoj sem spoznal, koliko aplikacij premore računalnik in kako številne so funkcije in orodja znotraj njih, in da vsega tega nikoli ne bom mogel obvladati. Tu se pokaže prednost UI: ona to obvlada oz. bo to enkrat zagotovo vse obvladala. Tehnika, ki izgrajuje UI, je omogočila digitaliziranje stvari, s katerimi imamo opravka: vizualnih in zvočnih senzacij in slik, znakov in besed, ko so te stvari digitalizirane, pa jih je mogoče shranjevati in obdelovati, tudi pošiljati na daljavo, in vse to zmore UI opravljati natančno in bliskovito, in njena »spominska kapaciteta« je pri tem mnogo večja kot pri človeku. UI je npr. sposobna poiskati tisoč člankov na neko temo na spletu, jih analizirati in na tej osnovi sestaviti nek nov članek, ki bo morda boljši od vseh teh. Se pravi, UI v nekih pogledih zmore mnogo več kot naši možgani, in kot takšna se nam pokaže kot zelo koristno orodje, kot koristen, močan podaljšek možganov. Kot vsako orodje se pa seveda da zlorabiti, in čim učinkovitejše je orodje, tem hujše so lahko posledice zlorab. Cepitev atomskega jedra lahko daje veliko energije. Njena uporaba: jedrski reaktor. Njena zloraba: atomska bomba. Tako tudi čudovite lastnosti elektrona (ki v naravi izgrajuje atomski ovoj!) lahko uporabimo ali zlorabimo – v Orodjih, ki so zelo učinkovita. Učinkovito zbiranje in obdelava podatkov se lahko zlorabi za zbiranje in obdelavo podatkov o ljudeh ( tu UI lahko prepoznava celo njihova čustvena in bolezenska stanja), kar lahko vodi v totalno kontrolo množic. Nasploh bo digitalizacija civilizacije (robotizirane tovarne, pametna stanovanja in celo mesta) to kulturo naredila še bolj ranljivo in še bolj izpostavljeno hekerskim napadom. UI bo (je že) omogočila izdelavo humanoidnih robotov (ideja »robota« je sicer že dokaj stara). Tudi tu so zlorabe lahko strašljive – primer robot-vojak, ki ga oborožimo, ki nam lahko uide izpod nadzora… . Vsekakor bi z napredkom tehnike morala napredovati tudi človekova moralnost, a tu lahko ugotovimo samo propadanje. Če tega napredka ne bo, bo svet prihodnosti vedno bolj nadzorovan in nevaren.
