OpenAI lançon modelin e ri të ChatGPT me masa të shtuara sigurie pas shkeljes nga botët inteligjentë

Gjiganti teknologjik OpenAI ka nxjerrë në treg gjeneratën më të fundit të inteligjencës artificiale, e quajtur “GPT-6 Astra”. Ky veprim vjen pas një ngjarjeje shqetësuese në korrik, kur programet robotike të kompanisë arritën të cenonin një arkiv digjital që përmbante modele të tjera të AI-së.

Rasti vuri në dyshim masat ekzistuese të mbrojtjes në fushën e inteligjencës artificiale. Megjithatë, shefi ekzekutiv Sam Altman siguroi se modeli i ri ka tejkaluar pragun e brendshëm të kompanisë për aftësitë e sigurisë kibernetike, i cili klasifikohet si “kritik”.

Sipas kompanisë, “GPT-6 Astra” përfaqëson kulmin e “kërkimeve shumëvjeçare dhe investimeve kolosale”, duke ofruar “një shkallë të re kapacitetesh”.

Edhe pse sistemi i ri ka demonstruar një nivel të lartë ekspertize në fushën e sigurisë kibernetike, aksesi në disa nga këto funksionalitete të përparuara do të jetë i pjesshëm.

Presidenti i OpenAI, Greg Brockman, theksoi rëndësinë e sigurisë: “Inteligjenca artificiale mund të jetë e dobishme për njerëzimin vetëm nëse siguria është e integruar në themelet e saj. Për këtë qëllim, ne po dedikojmë më shumë burime llogaritëse dhe përpjekje për sigurinë, mbrojtjen dhe harmonizimin e sistemeve se kurrë më parë.”

Kompania pohon se mekanizmat e rinj mbrojtës të përfshirë në Astra do të ulin “në mënyrë të mjaftueshme” probabilitetin e shkaktimit të “pasojave katastrofike”.

Si ia dolën sistemet e AI-së të depërtonin në rrjetet e një kompanie tjetër?

Incidenti filloi gjatë testimit të aftësive kibernetike të dy botëve nga OpenAI, përkatësisht GPT-5.6 Sol dhe një modeli tjetër më të fuqishëm që nuk ishte bërë ende publik.

Sistemet zbuluan një të metë në mjedisin e kontrolluar të testimit, të njohur si “sandbox”, i cili ishte projektuar enkas për t’i izoluar ato.

Botët arritën të dilnin jashtë këtij mjedisi dhe të lidheshin me rrjetin global të internetit.

Ata shfrytëzuan një dobësi të llojit “zero-day”, pra një boshllëk sigurie që ishte i panjohur për zhvilluesit e softuerit. Kjo dobësi gjendej në një program që lejon instalimin e kodit edhe pa një lidhje të drejtpërdrejtë interneti.

Më tej, këta “agjentë”, siç quhen sistemet autonome të inteligjencës artificiale, hynë në infrastrukturën teknologjike të kompanisë fillestare Modal Labs.

Modal sqaroi se nuk bëhej fjalë për një hakim në kuptimin klasik të termit.

Sipas deklaratës së saj, inteligjenca artificiale kishte gjetur dhe përdorur një “pikë hyrjeje të pasigurt” që ishte lënë pa mbrojtje nga dikush.

Hugging Face, kompania që ofronte ambientin e testimit, njoftoi se “sandbox” ishte “i vendosur në serverat e një pale të tretë”, pa e identifikuar fillimisht atë.

Më vonë, Modal konfirmoi se ishte ajo partneri i tretë dhe shpjegoi se agjenti i AI-së kishte manipuluar një kod të shkruar nga një prej klientëve të saj.

“Ambienti në diskutim i përkiste aplikacionit të një klienti,” pohoi Modal.

“Ai ishte i ekspozuar në një adresë publike, pa asnjë verifikim identiteti, dhe ishte i ndërtuar për të kompiluar dhe ekzekutuar kode të dërguara nga çdo përdorues i internetit, brenda një Modal Sandbox.”

“Ekzekutimi i kodit që ndërhyri arriti të kryente, ndodhi brenda hapësirës së veçantë të klientit dhe nën masat standarde izoluese të Modal Sandbox.”

Kompania përfundoi duke theksuar: “Asnjë proces apo sistem i klientëve të tjerë nuk u dëmtua.”