Nova evropska pravila ne zahtevajo oznake na prav vsaki vsebini, pri kateri je sodelovala umetna inteligenca. Podjetja pa morajo jasno označiti določene klepetalne robote, globoke ponaredke in nekatere avtomatizirano pripravljene objave.

Od 2. avgusta 2026 v Evropski uniji veljajo nova pravila o preglednosti sistemov umetne inteligence. Podjetja morajo uporabnikom v določenih primerih povedati, da komunicirajo z umetno inteligenco oziroma da je bila vsebina ustvarjena ali spremenjena z njeno pomočjo.

Ob tem se hitro pojavi poenostavljena razlaga, da bo treba odslej označiti prav vsako besedilo, fotografijo ali videoposnetek, pri katerem je sodelovala umetna inteligenca.

To ne drži.

Pravila so precej bolj natančna. Pomembno je, kakšna vsebina je nastala, kako je uporabljena, ali bi lahko zavedla uporabnika in ali jo je pred objavo vsebinsko pregledal človek.

Nova pravila veljajo od 2. avgusta 2026

Evropska komisija je konec julija potrdila, da se bodo določbe 50. člena Akta o umetni inteligenci začele izvajati 2. avgusta 2026. Nanašajo se predvsem na:

• sisteme, ki neposredno komunicirajo z ljudmi,
• vsebine, ustvarjene ali spremenjene z umetno inteligenco,
• sisteme za prepoznavanje čustev in biometrično kategorizacijo,
• globoke ponaredke,
• avtomatizirano pripravljena besedila o vprašanjih javnega interesa.

Komisija je avgusta objavila tudi podrobnejše smernice o obveznostih glede preglednosti.

Podjetje, ki uporablja AI, ni nujno ponudnik sistema

Pri razumevanju pravil je pomembna razlika med ponudnikom in uvajalcem oziroma uporabnikom sistema.

Ponudnik je podjetje, ki sistem umetne inteligence razvije ali ga pod svojim imenom ponudi na trgu. Uvajalec pa je podjetje, ki takšen sistem uporablja pri svojem poslovanju.

Ponudnik klepetalnega robota mora na primer tehnično omogočiti, da je uporabnik obveščen o komunikaciji z umetno inteligenco. Podjetje, ki robota namesti na svojo spletno stran, pa mora preveriti, ali je obvestilo obiskovalcu dejansko prikazano na jasen način.

Če podjetje naroči razvoj lastnega sistema in ga uporablja pod svojo znamko, je lahko njegov položaj drugačen. Zato ni dovolj preveriti samo, katero programsko opremo uporablja, ampak tudi, pod čigavim imenom in odgovornostjo sistem deluje.

Klepetalni robot se ne sme pretvarjati, da je človek

Če obiskovalec spletne trgovine komunicira s klepetalnim robotom, virtualnim pomočnikom ali AI-agentom, mora praviloma vedeti, da na drugi strani ni človeka.

Obvestilo mora biti jasno že ob začetku prvega pogovora. Dovolj je lahko preprost zapis:

Pogovarjate se z virtualnim pomočnikom, ki uporablja umetno inteligenco.

Obvestilo ni potrebno, kadar je povprečnemu uporabniku očitno, da komunicira z umetno inteligenco. Evropska komisija opozarja, da je treba to izjemo razlagati ozko. Ime robota ali majhna ikona še ne pomenita nujno, da bo vsak uporabnik razumel, kdo oziroma kaj mu odgovarja.

Za podjetja je zato varneje, da obvestilo dodajo neposredno v pozdravno sporočilo.

Vsaka AI-fotografija še ni globoki ponaredek

Vidno označevanje je potrebno predvsem pri globokih ponaredkih. To so umetno ustvarjene ali spremenjene fotografije, videoposnetki oziroma zvočni posnetki, ki posnemajo resnične osebe, kraje, predmete ali dogodke in lahko pri uporabniku ustvarijo lažen vtis, da so pristni.

Če podjetje ustvari posnetek direktorja, ki izgovarja besede, ki jih v resnici nikoli ni izrekel, gre praviloma za globoki ponaredek. Enako lahko velja za umetno ustvarjen posnetek resničnega dogodka ali izdelka, če je predstavljen kot avtentičen.

Generična ilustracija izmišljenega človeka v izmišljeni pisarni pa sama po sebi še ni nujno globoki ponaredek. Pomembna sta vsebina in kontekst objave.

Pri umetniških, satiričnih in podobnih delih mora biti razkritje izvedeno tako, da ne uniči samega namena oziroma prikaza dela.

Kaj pa besedila, pripravljena s ChatGPT?

Pri besedilih je položaj za podjetja in spletne medije nekoliko bolj preprost.

AI-generirano besedilo o zadevi javnega interesa mora biti jasno označeno, če je objavljeno brez resnega človeškega pregleda ali uredniškega nadzora. Med vprašanja javnega interesa sodijo politika, javno zdravje, gospodarstvo, finance, okolje, znanost, kultura, javne storitve in podobne teme.

Toda oznaka ni obvezna, če je besedilo pred objavo vsebinsko pregledala odgovorna oseba, ki ga lahko spremeni, zavrne, preveri vire in zanj prevzame uredniško odgovornost.

Zgolj popravljanje slovnice ali tipkarskih napak ne šteje za vsebinski pregled.

To pomeni, da spletni medij, ki umetno inteligenco uporablja za pripravo osnutka, besedilo pa nato dejansko preveri, dopolni, popravi in zanj prevzame uredniško odgovornost, praviloma ni dolžan vsakega takšnega članka označiti kot AI-generiranega.

Povsem avtomatizirano objavljanje člankov brez preverjanja pa je druga zgodba.

Kaj to pomeni za opise izdelkov in oglase?

Običajni opis izdelka praviloma ni besedilo o vprašanju javnega interesa. Samo zaradi uporabe umetne inteligence ga zato po 50. členu Akta o umetni inteligenci ni treba avtomatično opremiti z vidno oznako.

Še vedno pa veljajo pravila o varstvu potrošnikov in prepoved zavajajočega oglaševanja. Podjetje umetne inteligence ne more uporabiti kot izgovor za:

• izmišljene lastnosti izdelkov,
• lažne izjave strank,
• neresnične prikaze rezultatov,
• izmišljena priporočila strokovnjakov,
• fotografije, ki bistveno drugače prikazujejo izdelek.

Posebej previdna morajo biti podjetja pri oglasih z resničnimi osebami in umetno ustvarjenimi pričevanji.

Strojna oznaka ni enako kot napis pod fotografijo

Akt o umetni inteligenci določa tudi obveznost strojno berljivega označevanja sintetičnih vsebin. Gre za tehnične podatke, s katerimi lahko sistemi zaznajo, da je bila fotografija, zvočni posnetek, videoposnetek ali besedilo ustvarjeno oziroma spremenjeno z umetno inteligenco.

Za tehnično označevanje so v prvi vrsti odgovorni ponudniki sistemov. Uporabniki pa teh podatkov ne bi smeli namenoma odstranjevati.

Strojna oznaka sama po sebi ni dovolj pri globokem ponaredku. V takšnem primeru mora biti razkritje razumljivo tudi človeku, na primer kot vidna oznaka ob fotografiji ali obvestilo v videoposnetku.

Nadzor v Sloveniji bo izvajal AKOS

Za nadzor nad izvajanjem 50. člena je v Sloveniji pristojna Agencija za komunikacijska omrežja in storitve Republike Slovenije. AKOS je tudi slovenska enotna kontaktna točka za vprašanja v zvezi z izvajanjem Akta o umetni inteligenci.

Slovensko ministrstvo je ob začetku uporabe pravil podjetja posebej opozorilo, naj preverijo, katere obveznosti veljajo za njihove sisteme in načine uporabe. Pojasnilo slovenske vlade je objavljeno na GOV.SI.

Najvišje globe za kršitve pravil o preglednosti lahko po evropski uredbi dosežejo 15 milijonov evrov oziroma tri odstotke svetovnega letnega prometa podjetja. Pri malih in srednjih podjetjih se upošteva sorazmernost, zato najvišja možna globa seveda ne pomeni običajne kazni za vsako napačno ali manjkajočo oznako.

Kaj naj podjetje preveri?

Podjetje, ki umetno inteligenco že uporablja, lahko začne s kratkim pregledom:

1. Ali imamo na spletni strani klepetalnega robota ali AI-agenta?
2. Ali uporabnik jasno vidi, da ne komunicira s človekom?
3. Ali ustvarjamo posnetke resničnih ljudi, izdelkov, krajev ali dogodkov?
4. Ali umetno inteligenco uporabljamo za vsebine o vprašanjih javnega interesa?
5. Kdo vsebino pred objavo preveri in kdo zanjo prevzame odgovornost?
6. Ali uporabljena orodja ohranijo strojno berljive podatke o izvoru vsebine?
7. Ali imamo postopek pregleda in odobritve tudi dokumentiran?

Večina podjetij zaradi novih pravil ne potrebuje zapletenega sistema skladnosti. Potrebuje pa jasno določeno odgovornost in konec prakse, pri kateri vsebine iz umetne inteligence brez preverjanja potujejo neposredno na spletno stran.

Ne gre za oznako na vsaki vsebini

Nova pravila ne prepovedujejo uporabe umetne inteligence pri pisanju, oblikovanju ali komuniciranju s strankami. Prav tako ne zahtevajo, da podjetje na vsako računalniško ustvarjeno ilustracijo nalepi opozorilni znak.

Zahtevajo pa preglednost tam, kjer bi uporabnik lahko zmotno verjel, da govori s človekom oziroma da gleda ali bere pristno vsebino.

Za večino podjetij bo zato najpomembnejše preprosto načelo: umetno inteligenco lahko uporabljajo, vendar njenega dela ne smejo skrivati tam, kjer bi to lahko zavedlo uporabnika.