Umjetna inteligencija (UI) ubrzano napreduje, potičući pitanja o tome kako društva i vlade mogu iskoristiti njezine prednosti, a istovremeno upravljati rizicima koji često nadilaze nacionalne granice. Zabrinutost se pojačala nakon što je bivši istraživač tvrtke za umjetnu inteligenciju Anthropic 8. rujna upozorio da bi UI mogla predstavljati egzistencijalnu prijetnju čovječanstvu.
Za UN, najbolji način rješavanja globalnih rizika povezanih s UI-jem jest okupljanje zemalja radi usvajanja zajedničkih načela i obveza u pogledu upravljanja umjetnom inteligencijom.
Koordinacija je „neophodna”
„Nacionalno djelovanje je ključno, ali globalna koordinacija je neophodna”, izjavio je u srijedu glavni tajnik UN-a António Guterres.
UN već nekoliko godina radi na stvaranju platforme putem koje zemlje mogu razviti zajedničko razumijevanje tehnologija umjetne inteligencije i raspravljati o načinima suradnje – te osigurati regulatorni okvir – po pitanjima kao što su sigurnost, ljudska prava i nejednakosti u pristupu.
Razvoj utemeljen na pravilima
Trenutačni rad UN-a na upravljanju umjetnom inteligencijom proizlazi iz Globalnog digitalnog sporazuma, koji su države članice usvojile 2024. godine u sklopu UN-ova Pakta za budućnost, prije točno dvije godine.
Taj je sporazum pozvao na međunarodnu suradnju u području umjetne inteligencije i predložio dva nova mehanizma: neovisni znanstveni panel za procjenu rizika i prilika povezanih s UI-jem te godišnji globalni dijalog u kojem bi vlade i drugi dionici mogli uskladiti pristupe upravljanju umjetnom inteligencijom.
U kolovozu 2025. Opća skupština UN-a (skraćeno UNGA) službeno je osnovala oba tijela.
Cilj Neovisnog međunarodnog znanstvenog panela za umjetnu inteligenciju jest pružiti vladama neovisnu procjenu onoga što je poznato – a što nije – o toj tehnologiji koja se ubrzano razvija.
Sonia Livingstone govori na panelu o globalnom dijalogu o upravljanju umjetnom inteligencijom u centru Palexpo u Ženevi. Uz nju sjedi sudionik panela.
UN Photo/Elma Okic Prvo preliminarno izvješće Neovisnog međunarodnog znanstvenog panela za umjetnu inteligenciju ukazalo je na značajne prilike za primjenu umjetne inteligencije, kao i na znatne rizike. Globalni dijalog o upravljanju umjetnom inteligencijom, u međuvremenu, okuplja vlade i druge dionike kako bi raspravljali o međunarodnoj suradnji, dijelili iskustva i radili na većoj kompatibilnosti između različitih pristupa upravljanju umjetnom inteligencijom.
Glavna skupština osmislila je dvije institucije kako bi se međusobno nadopunjavale: Znanstveni panel pruža dokaze, a zemlje na Globalnom dijalogu odlučuju što će učiniti kao odgovor.
Prvo preliminarno izvješće Znanstvenog panela, objavljeno 1. srpnja, zaključilo je da se sposobnosti umjetne inteligencije brzo razvijaju - posebno u područjima kao što su zaključivanje, kodiranje i znanost - stvarajući značajne prilike.
Također je identificirao rizike poput dezinformacija, diskriminacije, kršenja privatnosti, kibernetičkih napada i takozvane „superinteligencije“ koje bi moglo postati teško kontrolirati.
„Potrebno nam je zajedničko razumijevanje o tome kako unaprijediti siguran, zaštićen i odgovoran razvoj umjetne inteligencije - istovremeno identificirajući kada sve moćniji sustavi mogu zahtijevati jače zaštitne mjere ili dodatne mjere za upravljanje potencijalnim rizicima“, rekao je g. Guterres u svom obraćanju svjetskim medijima u New Yorku prije Opće skupštine UN-a.
Rad prema zaštitnim mjerama za umjetnu inteligenciju
Rad UN-a dolazi u trenutku kada se rasprave kreću od toga treba li umjetnu inteligenciju regulirati do pitanja o tome koje zaštitne mjere treba provesti.
U srijedu je g. Guterres pozvao na međunarodnu suradnju kako bi se osiguralo da razvoj umjetne inteligencije ostane siguran, zaštićen i odgovoran. Dodao je da dobrovoljni napori za usporavanje razvoja umjetne inteligencije neće biti dovoljni ako su izolirani, neprovjerljivi ili neravnomjerno primijenjeni.
Na pitanje kako bi UN mogao sazvati samit kao dio procesa koji vodi do učinkovite regulacije za čovječanstvo, rekao je da se to ne može učiniti sljedeći tjedan - ali da bi se trebalo dogoditi uskoro, uz "sve uključene" iz javnog, privatnog, znanstvenog i civilnog sektora.
"Ako vjerujemo da bi se razvoj umjetne inteligencije trebao usporiti kada rizici postanu preveliki, potrebno nam je više od dobrih namjera", rekao je.
Glavni tajnik pozvao je na Obvezu sigurnosti djece u području umjetne inteligencije i Globalni fond za umjetnu inteligenciju, koji bi podržao zemlje u razvoju u izgradnji infrastrukture i kapaciteta umjetne inteligencije.
Također je naglasio potrebu za zaštitnim mjerama koje čine umjetnu inteligenciju "sigurnom, transparentnom, odgovornom, s ljudskim dostojanstvom u središtu".
Dok nacionalne i regionalne vlade same donose odluke o regulaciji umjetne inteligencije, uloga UN-a bit će okupiti te vlade, pružiti znanstvenu osnovu za rasprave i identificirati područja za međunarodnu suradnju.
Umjetna inteligencija na Općoj skupštini UN-a
Neki diplomatski izvori, navedeni u medijskim izvještajima, nagađaju da će Vijeće sigurnosti raspravljati o umjetnoj inteligenciji tijekom tjedna na visokoj razini.U sjedištu UN-a, na marginama Opće rasprave – tijekom koje će pitanja vezana uz umjetnu inteligenciju (UI) zasigurno zauzeti istaknuto mjesto – UN-ova medijska zona za ciljeve održivog razvoja (SDG Media Zone) 21. rujna bit će domaćin događaja, dok će serijal o UI-ju i ljudskom razvoju kulminirati raspravom 23. rujna. Oba će se događaja usredotočiti na odnos između umjetne inteligencije i ljudskog djelovanja.
Glavni tajnik Guterres naglasio je na konferenciji za novinare u srijedu da će umjetna inteligencija biti „važna tema” u njegovim razgovorima sa svjetskim čelnicima idućeg tjedna.
Uspoređujući razvoj umjetne inteligencije s utrkom u naoružanju iz doba Hladnog rata između SAD-a i Sovjetskog Saveza, glavni tajnik pozvao je na suradnju zemalja koje predvode razvoj te tehnologije – uključujući SAD i Kinu – kako bi se usporio njezin razvoj dok se istovremeno procjenjuju rizici.
„Zemlje s najvećim kapacitetima na području razvoja umjetne inteligencije trebale bi, po mom mišljenju, uspostaviti mehanizme komunikacije, razmjenjivati informacije i (stvoriti) zajedničke zaštitne mehanizme kako bi se izbjegla utrka prema dnu koja bi jednog dana mogla dovesti do goleme katastrofe na globalnoj razini”, rekao je Guterres.
Uz sada uspostavljene znanstvene i diplomatske mehanizme, UN će nastaviti raditi na pretvaranju te suradnje u konkretne poteze kako umjetna inteligencija postaje sve moćnija.
Photo by Homa Appliances on Unsplash