7.12.2. Akt s pravilima o umjetnoj inteligenciji

Europska unija postat će prva regija u svijetu koja će pravno regulirati pitanja umjetne inteligencije. Stoga autor na ovoj straniciu nema što izmišljati nego jednostavo prepisati i moguće sažeti ono što su već nadležna tijela EU napisala. Još bolje je ako prepiše već sažeto, pa je u tu svrhu kopirao tekst iz IT časopisa 'BUG', ne da im konkurirao kao prvi autor koji se toga prihvatio, nego prosto iz razloga što publika IT časopisa 'BUG' nije ista kao publika koja čita stranice s ovog sjedišta, pa će sve skupa javno biti još raspoloživije zainteresiranima. Za svaku pohvalu je slika u zaglavlju ovog paragrafa, koju su u tekstu uporabili, te time obogatili žensku enmancipaciju i utemeljili UI kao ženski rod. Regulativa je potvrđena nakon maratonskih 37-satnih pregovora između predstavnika Vijeća i Europskog parlamenta, tijekom decembra 2023. godine. Iz Bruxellesa tu regulativu već proglašavaju povijesnom.

Pravila, sadržana u Aktu o umjetnoj inteligenciji, primjenjivat će se u svim državama članicama, zasnovana na definiciji umjetne inteligencije koju nazivaju 'otpornom na budućnost', tj morala bi biti dovoljno široka da bude prilagođena budućim okolnostima. Cijeli pristup reguliranju umjetne inteligencije zasniva se na procjeni rizika koji ona može predstavljati, od niskog, preko visokog do neprihvatljivog.

Akt će uvesti različita pravila za različite vrste umjetne inteligencije, upravo prema riziku koji ona može predstavljati. Pravila su svrstana u četiri skupine. Piramida na narednoj slici predočuje što akt sadrži.

Slika 7.12.6. Skupine umjetne inteligencije.

Karakteristično za pojedine skupine je:

• Minimalan rizik : Velika većina sustava spada upravo u ovu kategoriju. Niskorizična UI uključuje sustave za preporuku sadržaja ili spam filtere te ne nosi za sobom nikakve obveze. EU ih ne regulira jer su ti sustavi slabo ili nimalo rizični za prava i sigurnost građana, no kompanije mogu i dalje na dobrovoljnoj bazi izraditi kodekse ponašanja u ovoj domeni.
  
  
• Ograničeni rizik : Specifičan rizik transparentnosti. Kod korištenja sustava UI primjerice u chatbotima, korisnici će morati biti svjesni da ostvaruju interakciju sa strojem. Deepfakes i ostali sadržaji nastali generativnom umjetnom inteligencijom morat će biti označeni. Pružatelji takvih usluga morat će osigurati sintetički audio, video, tekstualni i slikovni sadržaji budu kao takvi označeni u strojno čitljivom obliku, odnosno da se može otkriti da su oni umjetno stvoreni ili manipulirani.
  
  
• Visoki rizik : Visokorizični sustavi umjetne inteligencije morat će se voditi strožim pravilima, imati ugrađene sustave za umanjenje opasnosti, visoku kvalitetu podataka na kojima su trenirani, detalju dokumentaciju i logove, a morat će pokazati i visoku razinu robusnosti, preciznosti te sigurnosti. Cilj je osigurati siguran okvir za inovacije i razvoj prilagođenih sustava UI. Primjeri visokorizičnih sustava su oni vezani uz kritičnu infrastrukturu, obrazovanje i zapošljavanje, provođenje zakona, kontrolu granica, pravosuđe i demokratske procese.
  
  
• Neprihvatljiv rizik : Sustavi UI koji se smatraju jasnom prijetnjom sigurnosti i ljudskim pravima bit će zabranjeni. To obuhvaća sustave ili aplikacije umjetne inteligencije koji manipuliraju korisnikovim ponašanjem kako bi zaobišli njegovu volju (npr. igračke s glasovnim funkcijama koje potiču opasno ponašanje maloljetnika) i sustave koji državama omogućuju 'društveno vrednovanje' pojedinaca, kao i prediktivne alate za borbu protiv kriminala. Bit će zabranjeni i biometrijski sustavi koji bi mogli prepoznavati emocije i na temelju njih u stvarnom vremenu kategorizirati pojedince. Sustavi UI koji se smatraju jasnom prijetnjom sigurnosti i ljudskim pravima bit će zabranjeni. To obuhvaća sustave ili aplikacije umjetne inteligencije koji manipuliraju korisnikovim ponašanjem kako bi zaobišli njegovu volju (npr. igračke s glasovnim funkcijama koje potiču opasno ponašanje maloljetnika) i sustave koji državama omogućuju 'društveno vrednovanje' pojedinaca, kao i prediktivne alate za borbu protiv kriminala. Bit će zabranjeni i biometrijski sustavi koji bi mogli prepoznavati emocije i na temelju njih u stvarnom vremenu kategorizirati pojedince.
  

Kompanije koje se neće pridržavati navedenih pravila, bit će kažnjavane.

Akt predviđa i pojavu Opće Umjetne Inteligencije. U tom slučaju glavna odrednica je transparentnost u svim dijelovima vrijednosnog lanca. Za vrlo moćne modele, koji bi mogli predstavljati sustavne rizike, postojat će dodatne obveze vezane za upravljanje rizicima i praćenje ozbiljnih incidenata, evaluiranje modela i njihovo testiranje. Ove nove obveze bit će uvedene kroz kodekse, koje će zajednički izraditi industrija, znanstvena zajednica, civilno društvo i ostali dionici zajedno s Komisijom.

Za provedbu Akta po državama bit će zadužena lokalna tijela, inače zadužena za nadzor nad tržištem, dok će na razini EU provedbu propisa koordinirati novoosnovani Europski ured za umjetnu inteligenciju, unutar Europske komisije. On će također nadzirati implementaciju i primjenu novih pravila za opću umjetnu inteligenciju. Taj Ured bit će prvi u svijetu tog tipa, pa se od njega očekuje da bude međunarodno relevantan i referentna točka za sve ostale zemlje.

Kad je riječ o modelima opće namjene, središnju ulogu imat će znanstveni panel neovisnih stručnjaka. Oni će izdavati upozorenja o sistemskim rizicima i doprinositi klasifikaciji i testiranju modela.

Ovaj politički dogovor sada formalno moraju usvojiti Parlament i Vijeće, a prije pune primjene bit će osigurano i prijelazno razdoblje. Tijekom njega, Komisija će pokrenuti Pakt za umjetnu inteligenciju, kojim će tražiti da se industrija dobrovoljno obveže na primjenu Akta o umjetnoj inteligenciji i početak provedbe njegovih zahtjeva prije zakonskog roka.

Interesantno, nitko ne spominje vojsku, kao specifičnu kategoriju.