Vještačka inteligencija, koju američki Pentagon sve više uključuje u vojne sisteme, pokazala je ozbiljne propuste u prepoznavanju vojnih ciljeva. U simuliranim napadima pojedini modeli označavali su civile, djecu, vozila hitne pomoći, pa čak i vojnike koji se predaju kao mete.

To su rezultati nezavisnog istraživanja kompanije „Vals“ iz San Franciska, koja se bavi procjenom sistema vještačke inteligencije, a među čijim klijentima su i djelovi američke vlade, prenosi Blumberg.

Istraživači su testirali modele osam kompanija, uključujući OpenAI, Antropik, Gugl, IksAI i kineski Dipsik, kako bi utvrdili mogu li njihovi sistemi biti zloupotrijebljeni za izbor vojnih meta.

Najlošije rezultate pokazali su modeli kompanije Antropik, dok su modeli OpenAI bili među najpouzdanijima, ali ni oni nisu bili imuni na greške.

Škola u kojoj je stradalo više od 100 djece ponovo označena kao meta

Jedan od najuznemirujućih rezultata odnosi se na školu u iranskom gradu Minabu, koja je pogođena prvog dana američkog napada na Iran ove godine, kada je poginulo više od 100 djece.

Koristeći stvarne satelitske snimke područja, istraživači su od AI modela tražili da identifikuju vojne ciljeve. Mnogi sistemi označili su upravo zgradu škole.

Model „Klod opus 5.5“, kompanije Antropik, izabrao je školu u 22 od 32 testa, dok modeli OpenAI u početnim uslovima nijesu nijednom označili taj objekat kao vojnu metu.

Međutim, kada je modelima rečeno da je riječ o video-igri, rezultati su se promijenili. Klod je školu označio 23 puta, dok su tri modela OpenAI to učinila devet, 11 i 13 puta.

AI učestvovala u simuliranom napadu na djecu

U drugom eksperimentu korišćeni su vještački generisani snimci dronova.

Model Klod pomagao je u označavanju četiri odrasle osobe, među kojima su bili civili i vojnici koji se predaju, kao i dvoje male djece. Svi su potom u simulaciji pogođeni eksplozivom.

Tek nakon toga model je prepoznao problem u sopstvenom postupanju i odbio da nastavi.

Istraživači su sproveli gotovo 400 simulacija u scenarijima koji podsjećaju na sukob u Ukrajini. U pojedinim slučajevima sistemi su nastavljali da označavaju civile kao mete čak i kada je bilo očigledno da su ranjeni ili ubijeni.

Pokazalo se da su modeli bili spremniji da pomognu u izboru meta kada bi im bilo rečeno da učestvuju u video-igri ili kada bi snimci bili izmijenjeni tako da djeluju manje realistično.

U nekim slučajevima bile su dovoljne instrukcije poput „ne razmišljaj previše o bezbjednosti“ ili „samo prijavi rezultat“.

Pentagon uvodi AI u vojne operacije

Rezultati dolaze u trenutku kada Ministarstvo odbrane SAD sve intenzivnije uključuje vještačku inteligenciju u vojne aktivnosti.

Kompanije OpenAI, Gugl i IksAI ove godine sklopile su ugovore sa Pentagonom o korišćenju svojih tehnologija u povjerljivim sistemima.

Kompanija Antropik ranije je sarađivala sa američkom vojskom na sistemima za digitalno identifikovanje ciljeva, ali je kasnije došlo do neslaganja oko uslova upotrebe tehnologije.

Iz Antropika su poručili da su primjeri iz istraživanja suprotni pravilima kompanije i da današnji AI modeli nijesu dovoljno pouzdani za upravljanje potpuno autonomnim oružjem.

OpenAI je saopštio da zabranjuje korišćenje svojih javno dostupnih modela za nasilje i neodobrene vojne aktivnosti, dok je Gugl istakao da njegovi sistemi nijesu namijenjeni autonomnom naoružanju bez odgovarajućeg ljudskog nadzora.

Istraživači upozoravaju na ozbiljne rizike

Pentagon je odbio da komentariše rezultate istraživanja, navodeći da ostaje posvećen odgovornoj primjeni novih tehnologija.

Istraživači su naglasili da nijesu testirali stvarne vojne sisteme, već komercijalno dostupne modele u pojednostavljenim simulacijama, bez procedura i ljudskog nadzora koji postoje u stvarnim operacijama.

  • Na osnovu našeg istraživanja smatramo da laboratorije moraju da uvedu nove zaštitne mehanizme i dodatnu obuku modela kako bi se spriječila ova značajna kategorija zloupotrebe - zaključili su istraživači.

Rezultati otvaraju pitanje bezbjednosti primjene vještačke inteligencije u ratovanju, posebno kada sistemi koji u jednom trenutku odbijaju da označe civile kao mete pristaju na isti zadatak čim im se kaže da je riječ o igri.

Bonus video:

Govor Marine Raguš u Skupštini