Fotografija UN-a/Manuel Elías
Vijeće sigurnosti UN-a sastalo se na neviđenoj sjednici prošli mjesec tijekom Tjedna na visokoj razini kako bi raspravljalo o umjetnoj inteligenciji i međunarodnoj sigurnosti.
Svijetu ponestaje vremena za postavljanje ograda za umjetnu inteligenciju, upozorio je u ponedjeljak visoki povjerenik UN-a za ljudska prava Volker Türk, jer „nemilosrdna utrka“ između tvrtki i zemalja izaziva zabrinutost zbog ljudske sigurnosti, pa čak i opstanka čovječanstva.
Govoreći u Velikoj Britaniji na Summitu o umjetnoj inteligenciji i ljudskim pravima u Oxfordu u ponedjeljak, g. Türk rekao je da bi tehnologija mogla donijeti zapanjujući napredak u znanosti, zdravstvu, obrazovanju – pa čak i radu na ljudskim pravima.
Ali njezine alate grade i kontroliraju odabrani, bez javnog nadzora, i već rade stvari koje njihovi tvorci ne mogu u potpunosti predvidjeti ili upravljati.
Distopija
Upozorio je da umjetna inteligencija može suptilno potkopati jednakost, slobodu, privatnost i javnu raspravu, „dopuštajući da se distopija uvuče nezapaženo“. Čitave populacije mogle bi biti odsječene od komunikacije, čiste vode, grijanja i financijskih usluga „jednim klikom“.
Pozvao je na hitnu akciju kako bi se strojevima zabranilo odlučivanje o tome tko će živjeti, a tko umrijeti, napominjući da umjetna inteligencija već mijenja lice ratovanja.
Također je naveo studije koje pokazuju da studenti koji se oslanjaju na umjetnu inteligenciju manje pamte i manje samostalno razmišljaju te je pitao ide li svijet prema budućnosti u kojoj nitko ne može razumjeti, propitivati ili čak voditi tehnologiju.
Dok se povjerenik UN-a za ljudska prava obraćao summitu u Velikoj Britaniji, Gradsko vijeće New Yorka - dom financijskog srca američkog gospodarstva - također je održalo rijedak sastanak Odbora cjeline kako bi ispitalo rizike umjetne inteligencije za Njujorčane.
Vijeće razmatra 10 zakona za reguliranje umjetne inteligencije u najvećem gradu u zemlji, uz svjedočenja Anthropica, OpenAI-a, Googlea i Mete.
Obvezne zaštitne mjere
Türk je pozvao na obvezne zaštitne mjere za ljudska prava i dužnu pažnju u načinu na koji se umjetna inteligencija razvija i koristi, prilagođavajući se kako se tehnologija razvija. Zemlje koje su domaćini tvrtkama umjetne inteligencije ili imaju utjecaj na njihove lance opskrbe moraju od njih zahtijevati da djeluju odgovorno i pozivati ih na odgovornost kada to ne čine, rekao je.
Ne leži svaki odgovor u postojećem zakonodavstvu i nekim područjima će biti potrebni novi pravni pristupi, dodao je. No, ažuriranje pravila o odgovornosti, kibernetičkoj sigurnosti i zaštiti podataka moglo bi u međuvremenu ponuditi zaštitu.
Također je pozvao na jaču suradnju na sigurnosti i neovisno praćenje unutar industrije – „ne riječima, već u praksi“ – te veći utjecaj civilnog društva i ljudi čija su prava pogođena.
„Više si ne možemo priuštiti čekanje ili oslanjanje na dobru volju“, rekao je.
Određeni zamah
Türk je pozdravio stvaranje Globalnog dijaloga o upravljanju umjetnom inteligencijom i Neovisnog međunarodnog znanstvenog panela o umjetnoj inteligenciji – obje inicijative UN-a – uz zajednički poziv na strožu kontrolu graničnih modela umjetne inteligencije koje podržava 29 država i Europska unija.
Također je rekao da su čelnici industrije umjetne inteligencije prošli tjedan poduzeli nove korake u pogledu zaštitnih mjera, samoregulacije i procjene rizika – očito se referirajući na dobrovoljni sporazum koji su 29. rujna u Bijeloj kući potpisali predsjednik Donald Trump i čelnici šest tvrtki za umjetnu inteligenciju.
Nema kazni za tvrtke koje ga ignoriraju, a predsjednik Trump ga je opisao kao „moralno obvezujući“.
„Slijedite obećanje“
„Premalo ih se drži obećanja“, rekao je povjerenik za ljudska prava, koji je prije tri tjedna napisao državama i pograničnim tvrtkama za umjetnu inteligenciju pozivajući ih da djeluju odmah kako bi smanjili rizike.
„Ako ne uspijemo brzo djelovati, riskiramo nepredvidive posljedice – za nas same i buduće generacije“, rekao je.