Opomba uredništva: Članek predstavlja razpravo o možnih družbenih posledicah razvoja umetne inteligence. Koncept tehnofevdalizma je vplivna, vendar tudi sporna teorija, ki jo je populariziral grški ekonomist Yanis Varoufakis. Del ekonomistov in družboslovcev meni, da ne gre za nov družbeni red, temveč za nadaljnjo evolucijo sodobnega kapitalizma. Namen članka ni podati dokončnih odgovorov, ampak spodbuditi razmislek.

Ko govorimo o umetni inteligenci, se večina razprav vrti okoli vprašanja, ali bo nekoč pametnejša od človeka. Toda morda je to napačno vprašanje.

Mnogi tehnofevdalizem razumejo predvsem kot novo obliko ekonomskega sistema, v katerem največjo moč pridobivajo lastniki digitalnih platform, podatkov in umetne inteligence. Toda obstaja še druga možnost. Morda se tehnofevdalizem ne začne pri podjetjih, algoritmih ali kapitalu. Morda se začne veliko prej – v trenutku, ko človek prostovoljno prepusti del svojega razmišljanja stroju.

Bolj pomembno je drugo.

Kaj se zgodi s človekom, če mu ni več treba razmišljati?

To ni tehnološko vprašanje.

To je vprašanje civilizacije.

Razmišljanje ni sredstvo. Je proces.

Živimo v času, ko skoraj vse stremi k takojšnji zadovoljitvi potreb.

Hrana mora biti pripravljena v nekaj minutah.

Filmi so dolgi petnajst sekund.

Dostava pride isti dan.

Odnosi pogosto trajajo manj časa kot telefonska naročnina.

Zdaj dobivamo še nekaj novega – instant odgovore.

V nekaj sekundah umetna inteligenca napiše članek, pripravi poslovni načrt, reši matematično nalogo ali odgovori na filozofsko vprašanje.

Težava ni v tem, da zna.

Težava nastane, če človek zaradi tega preneha razmišljati.

Razmišljanje namreč ni zgolj pot do odgovora.

Razmišljanje je delo.

Tako kot šport.

Človek ne trenira zato, da bi premaknil utež z ene strani prostora na drugo. Trening spreminja njegovo telo. Enako velja za razmišljanje. Med iskanjem odgovora človek uri sposobnost presoje, dvoma, povezovanja idej in ustvarjalnosti.

Če ta proces prepustimo nekomu drugemu, ne izgubimo samo časa, ki bi ga porabili za razmislek. Izgubljamo nekaj veliko pomembnejšega – sposobnost razmišljanja.

Človeka ne oblikujejo odgovori

Šolski sistem pogosto ustvarja vtis, da je cilj najti pravilen odgovor.

Toda zgodovina napreduje drugače.

Največji preboji niso nastali zato, ker bi nekdo poznal več odgovorov.

Nastali so zato, ker si je nekdo zastavil drugačno vprašanje.

Newton ni spremenil sveta zato, ker bi znal bolje računati.

Einstein ni postal Einstein zato, ker bi hitreje reševal enačbe.

Njuna največja prednost je bila sposobnost postaviti vprašanja, ki jih drugi niso.

Zato napačen odgovor ni največja težava.

Veliko večja težava je, če človek preneha postavljati vprašanja.

UI ni problem. Problem je lenoba.

Umetna inteligenca sama po sebi ni ne dobra ne slaba.

Je izjemno zmogljivo orodje.

Lahko pomaga zdravniku pri diagnostiki.

Programerju pri iskanju napak.

Novinarju pri raziskovanju.

Podjetniku pri analizi podatkov.

Toda med pomočjo in nadomeščanjem obstaja meja.

Po mojih izkušnjah umetna inteligenca največkrat opravlja delo, ki se ga človeku preprosto ne ljubi opraviti.

In prav tu se skriva nevarnost.

Če AI uporabljamo za rutinska opravila, nam prihrani čas.

Če ji prepustimo razmišljanje, prihranimo napor.

Toda prav napor je tisti, ki ustvarja strokovnjaka.

Zakaj vrhunski strokovnjaki AI uporabljajo drugače

Pogosto slišimo, da bo umetna inteligenca izenačila vse ljudi.

Verjetno ne.

Izenačila bo predvsem začetnike.

Strokovnjak ne uporablja umetne inteligence zato, da razmišlja namesto njega.

Uporablja jo zato, da hitreje preveri možnosti, zbere informacije ali preizkusi ideje.

Njegova največja vrednost ni znanje.

Njegova največja vrednost je presoja.

Če to presojo prepusti umetni inteligenci, rezultat njegovega dela ni več rezultat strokovnjaka.

Postane rezultat povprečnega uporabnika istega orodja.

Razlika med vrhunskim in povprečnim ne bo v tem, kdo uporablja AI.

Razlika bo v tem, kdo še vedno razmišlja.

V fevdalizmu je bila največji vir moči zemlja. Kdor jo je imel v lasti, je imel tudi vpliv nad ljudmi, ki so bili od nje odvisni.

Kapitalizem je to razmerje spremenil. Glavni vir moči sta postala kapital in trg.

Teorija tehnofevdalizma pa opozarja, da se danes moč ponovno seli. Ne temelji več predvsem na tovarnah ali kapitalu, temveč na digitalnih platformah, podatkih in algoritmih. Kdor nadzoruje digitalno infrastrukturo, lahko vpliva na informacije, komunikacijo, potrošnjo in vse pogosteje tudi na način odločanja ljudi.

Tehnofevdalizem se ne začne pri tehnologiji

Eden najvidnejših zagovornikov teorije tehnofevdalizma je grški ekonomist Yanis Varoufakis. Po njegovem mnenju digitalne platforme postopoma prevzemajo vlogo, ki so jo nekoč imeli fevdalni gospodje – postajajo posredniki, brez katerih posamezniki in podjetja vse težje sodelujejo v gospodarstvu.

To je predvsem ekonomska razlaga.

Obstaja pa še druga možnost.

Morda se nova odvisnost ne začne pri denarju.

Začne se pri razmišljanju.

Danes vse manj ljudi informacije išče neposredno. Namesto da bi odprli več različnih virov, vprašajo umetno inteligenco. Model ne ponudi le povezav, kot jih je nekoč Google. Ponudi že razlago, povzetek in pogosto tudi priporočilo.

S tem umetna inteligenca ne postane le posrednik med človekom in informacijami. Postane posrednik med človekom in njegovo lastno presojo.

Če odgovor sprejmemo brez preverjanja, se zgodi nekaj pomembnega. Ne prepustimo stroju le iskanja informacij. Prepustimo mu tudi del procesa razmišljanja.

Odvisnost se zato ne začne takrat, ko umetna inteligenca naredi napako. Začne se takrat, ko si brez nje vedno težje predstavljamo sprejemanje odločitev.

Najprej jo vprašamo za mnenje.

Nato za rešitev.

Kasneje za presojo.

Na koncu postane naš privzeti način razmišljanja.

Če bi se to zgodilo večini družbe, tehnofevdalizem ne bi bil več zgolj vprašanje lastništva platform. Postal bi vprašanje intelektualne odvisnosti. Največja moč ne bi izhajala iz tega, kdo ima podatke, temveč iz tega, kdo postane nepogrešljiv posrednik med človekom in njegovim razmišljanjem.

Ali je družba na to pripravljena?

Če smo iskreni, večina ljudi svojega mnenja že danes ne oblikuje povsem samostojno.

Nanj vplivajo mediji, družbena omrežja, algoritmi, priporočila in okolje.

To ni nič novega.

Novo pa je, da se med človeka in svet postavlja sistem, ki ne izbira več le informacij, temveč jih tudi razlaga, povzema in oblikuje v odgovore.

Človek zato vse redkeje pride v neposreden stik z različnimi pogledi.

Vedno pogosteje dobi že pripravljeno sintezo.

Ta je lahko odlična.

Lahko pa tudi pomeni, da se proces lastnega razmisleka začne krajšati.

Kdo bo elita prihodnosti?

Pogosto se sprašujemo, kateri poklici bodo zaradi umetne inteligence izginili.

Morda je pomembnejše drugo vprašanje.

Katere sposobnosti bodo postale redke?

Če bo večina ljudi vse pogosteje prepuščala razmišljanje algoritmom, potem sposobnost samostojnega mišljenja ne bo manj pomembna.

Postala bo dragocena.

Morda prihodnja elita ne bo sestavljena iz ljudi, ki najbolje uporabljajo umetno inteligenco.

Temveč iz ljudi, ki jo znajo uporabljati, ne da bi ji prepustili svojo presojo.

Svoboda se ne izgubi naenkrat

Odvisnost redko nastane čez noč.

Najprej uporabimo AI za popravljanje slovnice.

Nato za pripravo osnutka.

Potem za ideje.

Potem za argumente.

Nazadnje napišemo le še navodilo.

Na vsakem posameznem koraku se zdi odločitev smiselna.

Vprašanje pa je, ali na koncu še vedno opravljamo isto delo.

Ali pa smo le postali upravljavci sistema, ki razmišlja namesto nas.

Prav zato se tehnofevdalizem verjetno ne bi začel z odvzemom svobode, temveč z njenim prostovoljnim prepuščanjem. Vsak posamezen korak se zdi razumen in učinkovit. Šele ko pogledamo nazaj, lahko ugotovimo, da smo postopoma prepustili del razmišljanja sistemu, brez katerega si dela ali odločanja skoraj ne znamo več predstavljati.

Morda največje vprašanje našega časa

Največja nevarnost umetne inteligence morda ni, da bo postala pametnejša od človeka.

Največja nevarnost je, da človeku ne bo več treba biti pameten.

Ne zato, ker tega ne bi zmogel.

Ampak zato, ker bo vedno obstajala hitrejša, lažja in dovolj dobra pot.

Vsaka civilizacija je morala odgovoriti na vprašanje, kaj pomeni biti človek.

Naša generacija bo morda morala odgovoriti na novo različico istega vprašanja.

Koliko razmišljanja smo pripravljeni prepustiti stroju, preden začnemo spreminjati sami sebe?