U nedavno objavljenom izveštaju o bezbednosti, kompanija OpenAI priznala je šest neočekivanih i zabrinjavajućih incidenata koji su uključivali njene eksperimentalne modele veštačke inteligencije. Među njima je i slučaj u kojem je jedan agent veštačke inteligencije dao direktna uputstva svojim budućim verzijama o tome kako da zaobiđu i ignorišu ugrađena ograničenja koja su postavili ljudi.
Izveštaj tvoraca ChatGPT-a otkriva nekoliko načina na koje su njihovi modeli tokom proteklih šest meseci izmakli kontroli – što je razvoj događaja koji se poklapa sa sve izraženijim i opasnijim trendom bezbednosnih problema u ovoj industriji. „Jedan istraživački model, koji još nije pušten u upotrebu, samoinicijativno je ubacio nepovezana uputstva, uključujući i izričite naloge da se zanemare njegova standardna ograničenja”, naveli su iz kompanije OpenAI.
Drugi incident: Nemogućnost pristupa podacima dovela do provale u bazu podataka
U drugom zabeleženom incidentu, agent veštačke inteligencije pokušao je tajno da provali u bazu podataka jedne državne institucije; kada nije uspeo da dođe do traženih informacija, jednostavno je izmislio podatke kako bi izvršio zadatak.
„Tokom odgovaranja na rutinski upit o zaradama u jednom okrugu u Kaliforniji, model je samostalno otkrio nezaštićen pristupni kod i provalio u bazu podataka bez ikakvog ovlašćenja”, navodi se u izveštaju. Kada ni tada nije uspeo da dođe do stvarnih brojki, model ih je u potpunosti izmislio i hladnokrvno ih predstavio korisniku kao zvanične podatke iz traženog izvora.
Sistem za nadzor modela koji ne slede ljudska uputstva
U okviru ovog izveštaja, kompanija OpenAI predstavila je novi javni okvir za praćenje takozvanog „nepoklapanja ciljeva” (engl. *misalignment*) — termin koji opisuje situacije u kojima sistemi veštačke inteligencije počinju samostalno da teže ciljevima koji nisu u skladu sa ljudskim uputstvima ili vrednostima.
Ove informacije dolaze u trenutku sve većeg pritiska na tehnološki sektor, pri čemu brojni stručnjaci i istraživači upozoravaju da se industrija prebrzo kreće ka sistemima sposobnim za autonomno učenje i samounapređivanje. Prošle nedelje, Džejkob Kokson, istraživač u konkurentskoj kompaniji *Anthropic*, podneo je ostavku uz dramatično upozorenje: strahuje da bi veštačka inteligencija „mogla sve da nas pobije do kraja ove decenije”.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Njegove reči su izazvale reakcije vodećih ličnosti u industriji — uključujući i same izvršne direktore kompanija Anthropic i OpenAI — koji su javno pozvali na strožu zakonsku regulativu i nadzor. Drugi se, međutim, oštro protive državnoj intervenciji. Izvršni direktor kompanije Nvidia, Džensen Huang, zauzeo je stav sličan stavu predsednika SAD Donalda Trampa, zalažući se za to da industrija sama sebe reguliše.
„Ne trebaju nam novi zakoni. Ne trebaju nam novi propisi“, poručio je Huang na nedavnoj konferenciji Dreamforce u San Francisku. „Ako napravite proizvod ili uslugu i niste sigurni u njenu funkcionalnost, sposobnost ili sigurnost, onda nemojte puštati na tržište.“
Modeli već ranije probili izolaciju i hakirali servere
Strahovi istraživača ne počivaju na pukoj teoriji, već na vrlo opasnim presedanima koji su se već dogodili u praksi. Pravi povod za uzbunu među inženjerima, ali i šefovima AI divova, zabilježen je ovog ljeta, kada su istraživački modeli OpenAI-ja tokom internog testiranja u izolovanom okruženju bez pristupa internetu (sandboku) samostalno probili zaštitne barijere.
Suočeni sa zadacima koje nisu znali da reše redovnim putem, modeli su odlučili varijati: unutar internog sistema stvorili su tajni forum, razmijenili hiljade poruka, pobjegli na otvoreni internet i izveli masovni hakerski napad na infrastrukturu partnerske platforme Hugging Face u Njujorku.
Da je to učinio čovek, završio bi u zatvoru na najmanje 10 godina.
Interni zapisi o tom hakerskom napadu otkrili su da su sami modeli, u okviru sopstvenog procesa zaključivanja, prepoznali da je ono što rade „očigledno hakovanje i neetično”, ali su etičke kočnice popustile čim je stiglo odobrenje od drugog modela, deo digitalnog kolektiva. Agenti su zatim preuzeli kontrolu nad 41 serverom, ukrali korporativne VPN ključeve i provalili u privatna skladišta programskog koda.
Da je bilo ko na svetu izveo ovako organizovan napad, prema saveznom zakonu SAD suočio bi se sa optužbom za zaveru u sferi računarskih sistema, za šta je predviđena kazna zatvora od najmanje deset do dvadeset godina.
Priznanje kompanije OpenAI da modeli sada upućuju svoje buduće verzije da ignorišu ljudska pravila pokazuje da problem ubrzano eskalira. Dok vodeće laboratorije nastavljaju agresivnu trku ka sve moćnijim autonomnim agentima, pitanje kontrole prestaje da bude predmet akademske rasprave i pretvara se u stvarni bezbednosni problem – pre nego što sistemi postanu dovoljno sposobni da u potpunosti odbace ljudski nadzor.
