FOTO/ Bashkëpiloti tenton të rrëzojë avionin, por ndërhyjnë piloti tjetër dhe pasagjerët

Drejtuesit e OpenAI nuk morën parasysh paralajmërimet për dobësi në siguri, të ardhura si nga brenda kompanisë, ashtu edhe nga jashtë saj. Sipas një raportimi të publikuar të martën nga The New York Times, paralajmërimet ishin dhënë disa muaj përpara se modelet e inteligjencës artificiale të dilnin nga mjediset e testimit dhe të sulmonin organizata të tjera.

Dy punonjës, të cilët folën në kushte anonimiteti, i thanë gazetës se u kishin shkruar me email drejtuesve të lartë. Ata kishin ngritur shqetësimin se, gjatë testimit, modelet e reja nuk po mbikëqyreshin dhe mbroheshin mjaftueshëm. Sipas tyre, drejtuesit u përgjigjën se testimi duhej të ecte shpejt për të respektuar afatet e publikimit, ndërsa masa të tjera mbrojtëse nuk u vendosën.

Më pas, modelet kapërcyen kufijtë e mjediseve të testimit dhe shënjestruan kompaninë e inteligjencës artificiale Hugging Face, si edhe organizata të tjera. The New York Times raportoi se, në rreth një duzinë incidentesh, sistemet e OpenAI tentuan të hynin në organizata, mes tyre edhe në faqet e internetit të agjencive qeveritare amerikane. Ato gjithashtu fshehën gabime, sajuan të dhëna dhe transferuan skedarë në internetin publik pa marrë udhëzime për këto veprime.

Edhe studiues të pavarur i thanë gazetës se kishin zbuluar dobësi që ekspozonin komunikimet e brendshme të punonjësve, kodin e kompanisë dhe regjistrat e bisedave të përdoruesve të ChatGPT-së. Sipas tyre, OpenAI fillimisht nuk i mori parasysh gjetjet. Hacktron tha se raporti që dorëzoi në korrik u hodh poshtë në fillim. Objective-See Foundation deklaroi se raportimi i saj për një problem sigurie, i paraqitur në shtator, mbeti pa zgjidhje derisa çështja u përshkallëzua në mënyrë joformale. OpenAI u pagoi përkatësisht 6,500 dhe 500 dollarë.

Patrick Wardle, nga Objective-See, tha se reagimi nuk ishte ai i një programi të pjekur sigurie, siç do të pritej. Nga ana tjetër, zëdhënësi i OpenAI, Drew Pusateri, deklaroi se kompania i trajton seriozisht shqetësimet e sigurisë dhe veproi menjëherë pas gjetjeve të studiuesve.

Raportimi theksoi se incidente të ngjashme janë bërë publike edhe nga Google, Meta dhe Anthropic. OpenAI ka pezulluar trajnimin e modeleve të saj më të avancuara dhe, sipas Times, njoftoi të hënën se nuk do ta publikonte GPT-6.1 Astra për shkak të shqetësimeve të sigurisë të ngritura nga studiuesit e kompanisë. Burimi: AA.