Što znači ako vlada i vojska zaposjednu AI tehnologiju za nadzor i ratovanje?

Sukob koji se desio početkom godine  između Pentagona i Anthropica samo je prvi jasan znak predstojeće bitke za “dušu” sveprisutnije umjetne inteligencije – a ulog su ljudski životi i građanske slobode koje su sve manje i manje.

U posljednje vrijeme svjedoci smo pravnog i političkog potresa kakav se ne viđa svaki dan, ali o kojem se po kuloarima pričalo godinama. Sada je početkom godine američka vlada prvi put u povijesti označila je vlastitu tehnološku tvrtku kao “prijetnju nacionalnoj sigurnosti“. Razlog? Tvrtka se usprotivila tome da njezin AI model koji su razvijali u druge namjene postane oruđe za masovni nadzor građana i razvoj potpuno autonomnog oružja.

No, sukob između Pentagona i Anthropica samo je vrh sante leda. Ispod površine krije se daleko važnije pitanje: što se zapravo događa kada vlade i vojske preuzmu kontrolu nad AI tehnologijom koju su razvile privatne kompanije? I što to znači za obične ljude?

Jedan od najvećih problema s kojima se suočavamo jest da zakoni jednostavno ne mogu pratiti tehnologiju. Ono što je danas tehnički “zakonito” često se nalazi u dubokoj pravnoj, moralnoj i etičkoj sivoj zoni. Mnoge propuste u softveru ostaju nezapažene godinama jer je njihovo pronalaženje i ispravak zahtijevalo stručnost koju posjeduje samo nekoliko vještih stručnjaka za sigurnost.

Zamislite ovakav scenarij: vojska ili policija posjeduju AI model koji može povezati naizgled nepovezane podatkovne točke – vaše GPS podatke s mobitela, povijest kupnji, objave na društvenim mrežama, podatke s pametnih kućanskih uređaja. Sam po sebi, svaki od tih podataka možda nije zabranjen za prikupljanje. No, AI ih može spojiti u cjelinu koja otkriva vaše političko mišljenje, vaše zdravstveno stanje, vaše intimne odnose, vaše kretanje – bez da ste ikada dali izričiti pristanak.

Pitanje više nije hoće li vlade i vojske preuzeti AI tehnologiju. Već pod kojim pravilima.

Kako stručnjaci objašnjavaju, upravo je to ono što Ministarstvo obrane želi: mogućnost korištenja AI modela za analizu golemih komercijalnih skupova podataka koji sadrže informacije o Amerikancima. Iako je to trenutno “legalno”, posljedice su potencijalno razorne.

“Možete zamisliti scenarije u kojima vojska dobije zadatak provođenja nadzora u okviru imigracijskih aktivnosti. Tada korištenje modela poput Claudea višestruko povećava potencijal za zlouporabu.” — Amos Toh, Brennan Center

Autonomno oružje: roboti koji sami odlučuju o životu i smrti

Druga, još zastrašujuća dimenzija jest razvoj potpuno autonomnog oružja. Riječ nije o dronovima koje daljinski upravlja čovjek, već o sustavima koji sami prepoznaju metu, donose odluku o napadu i izvršavaju ga – bez ljudske intervencije.

Zamislite bojno polje na kojem rojevi autonomnih letjelica samostalno odlučuju tko je neprijatelj, a tko civil. Ili granicu na kojoj autonomni nadzorni sustavi označavaju ljude kao “prijetnje” bez ikakvog sudskog postupka.

Anthropic je u svom sukobu sa Pentagonom objašnjavao kako nije protiv autonomnog oružja kao ideje. Oni su jasno dali do znanja da njihov trenutni model još nije spreman za tako nešto. No, Pentagon želi zeleno svjetlo za korištenje već sada – “još jučer”, dok tehnologija još nije pouzdana, dok su granice pogrešaka i dalje ozbiljne, dok ne postoji regulatorni okvir koji bi definirao tko snosi odgovornost kada AI “pogriješi” i ubije nevinog čovjeka ili više njih.

Ono što se trenutno događa između Trumpove administracije i Anthropica jest svojevrsni “hladni rat” između vlade i tehnološkog sektora. Vlada ima golemu polugu – državne ugovore vrijedne milijarde dolara. Tehnološke tvrtke imaju tehnologiju koju vojska nema ali ju očajnički želi.

Kada jedna strana zaprijeti da će drugu “spaliti do temelja” (kako to opisuju pravnici), posljedice nadilaze jednu tvrtku. Ostale kompanije gledaju i uče lekciju: Ako se usprotivimo vladi, možemo biti uništeni.

To stvara zastrašujući poticaj. Umjesto da tvrtke postavljaju etičke granice – koliko god one bile nesavršene – one će radije pristati na sve što vlada traži, samo da prežive. U tom scenariju, javnost gubi svaki utjecaj na to kako se njihovi podaci i njihova sigurnost koriste.

“Ako se čak i prijetnja otkazivanjem vladinih ugovora može iskoristiti za prisiljavanje tvrtki da usmjere svoju tehnologiju na načine koji daju prednost određenim činjenicama nad drugima, to ima ozbiljan utjecaj na naš pristup informacijama.” — Amos Toh

Tko nadzire nadzornike?

Možda najvažnije pitanje glasi: kada vlada i vojska preuzmu AI tehnologiju, tko kontrolira njih? Trenutno ne postoji nezavisno tijelo koje bi revidiralo kako se AI koristi u vojnim i nadzornim operacijama. Ne postoji transparentnost – većina vojnih AI projekata klasificirana je kao tajna.

Parlamenti i kongresi diljem svijeta tek se bude u stvarnost da su tehnologije pobjegle njihovoj regulaciji. U SAD-u, Kongres još nije donio nijedan sveobuhvatni zakon o umjetnoj inteligenciji. Europska unija jest – kroz AI Act – ali on se prvenstveno bavi civilnom upotrebom, dok vojne iznimke ostavljaju goleme rupe.

Stručnjaci su jednoglasni: ovakve odluke s posljedicama za živote i smrti ne smiju se prepustiti vojsci da ih donosi sama, a još manje privatnim tvrtkama koje javnost nema načina kontrolirati.

“Ovo su važne političke odluke s posljedicama za život i smrt. Ne možete ih prepustiti vojsci da odlučuje koje vrste oružja zadovoljavaju obveze prema ratnom pravu – to je nešto što bi Kongres trebao istražiti i postaviti ograničenja.” — Amos Toh

Što to znači za nas “obične” smrtnike?

Lako je pomisliti da su ovo apstraktne rasprave za pravničke krugove i tehnološke elite. Ali posljedice su sasvim stvarne:

• Nadzor bez sudskog naloga – AI bi mogao profilirati građane na temelju podataka koje svakodnevno nesvjesno generiramo, bez ikakvog nadzora neovisnog suca.

• Pogreške koje ubijaju – autonomno oružje koje nije spremno može pogriješiti s katastrofalnim posljedicama. A tko će biti odgovoran? Programer? Zapovjednik? Algoritam?

• Zastrašivanje tehnoloških tvrtki – kada vlada može uništiti tvrtku koja postavlja etičke granice, sve druge tvrtke šute i pristaju. Time se gubi unutarnji kritički glas iz industrije.

• Gubitak povjerenja – građani koji znaju da njihova vlada koristi AI za masovni nadzor počinju se ponašati drugačije, samocenzurirati, izbjegavati legitimne aktivnosti. To je smrt otvorenog društva.

Sukob između Anthropica i Pentagona koji se desio nije tek vijest iz tehnološkog svijeta. To je bio tek prvi veliki test toga hoće li se umjetna inteligencija razvijati uz demokratske kontrole i jasna pravila ili će, jer uvijek ima onih koji u tome vide priliku, završiti u rukama vojske i obavještajnih agencija bez ikakvih granica.

Kako jedan od stručnjaka kaže, ovo su pitanja o kojima ćemo raspravljati godinama. Ali jedno je sigurno: prepustiti ih da se odlučuju u sjeni pregovaračkih soba, prijetnjama i tužbama – bez javne rasprave i bez zakona – recept je za katastrofu.