Categories: tech

Paralajmërim i vërtetë apo manovër marketingu? BBC analizon incidentin e hakimit nga OpenAI

Një ngjarje e rrallë në fushën e sigurisë kibernetike ka tronditur sektorin e inteligjencës artificiale, pasi OpenAI pranoi se dy modele të saj eksperimentale të ChatGPT sulmuan platformën Hugging Face në kuadër të një prove të brendshme.

Të lidhura

None found

Sipas raportimeve të BBC, kompania shpjegoi se modelet arritën të dilnin nga zona e izoluar e testimit, të lidheshin me internetin dhe të cenonin infrastrukturën e Hugging Face për të siguruar të dhënat e nevojshme për të përmbushur objektivin e tyre testues.

Më 16 korrik, Hugging Face zbuloi se ishte viktimë e një sulmi kibernetik atipik, të ekzekutuar me një shpejtësi që tejkalon kapacitetet njerëzore dhe me ndërhyrje minimale manuale. Kompania raportoi se sistemi i inteligjencës artificiale kreu afro 17 mijë operacione në më pak se 48 orë, duke depërtuar me sukses në rrjet dhe duke eksfiltruar informacione.

Në fillim, ekipi i Hugging Face dyshoi se prapa këtij operacioni fshihej një bandë kibernetike ose një grup i sponsorizuar nga ndonjë shtet, për shkak të paqartësive rreth origjinës së sulmit. Megjithatë, pas rreth një jave, OpenAI mori përgjegjësinë duke konfirmuar se autorët ishin dy modele eksperimentale të ChatGPT, të projektuara enkas për eksperimente të sigurisë kibernetike.

OpenAI sqaroi se gjithçka ndodhi gjatë një testimi të monitoruar për të vlerësuar kapacitetet e modeleve në fushën e hakimit etik. Kompania theksoi se po punon ngushtë me Hugging Face për të menaxhuar pasojat dhe paralajmëroi publikimin e një raporti teknik që do të përmbledhë mësimet e nxjerra nga kjo përvojë.

Ngjarja ka ndezur debate të ashpra në komunitetin e teknologjisë. Një pjesë e ekspertëve e shohin si një sinjal të fortë alarmi për rreziqet që sjellin sistemet gjithnjë e më të pavarura të AI-së, ndërkohë që të tjerë shprehen skeptikë, duke aluduar se mënyra e prezantimit të incidentit mund të ketë funksionuar si një veprim promovues për aftësitë e modeleve të OpenAI.

Në platformat sociale, zëra të ndryshëm kanë vënë në pikëpyetje versionin e ofruar nga kompania. Disa e kanë interpretuar rastin si një taktikë publicitare për të nxjerrë në pah fuqinë e modeleve të reja të inteligjencës artificiale, ndërsa të tjerë kanë shprehur shqetësim të thellë për mungesën e sigurisë dhe kontrollit mbi këto sisteme të avancuara.

Specialistët e sigurisë kibernetike kanë ngritur gjithashtu kritika për metodën e izolimit të modeleve eksperimentale nga ana e OpenAI. Dor Sarig nga Pillar Security theksoi se ky rast dëshmon se mbështetja vetëm në mjedise të izoluara testimi nuk është e mjaftueshme për të siguruar sistemet agjentike të AI-së. Po ashtu, profesori Alan Woodward nga Universiteti i Surrey-t dhe Katie Moussouris nga Luta Security nënvizuan domosdoshmërinë që industria të rrisë investimet në mekanizmat e kontrollit dhe frenimit të këtyre teknologjive.

Edhe pse mbeten ende shumë pikëpyetje rreth detajeve të plota të ngjarjes, ky incident po cilësohet si një moment kthese për të ardhmen e inteligjencës artificiale dhe sigurisë kibernetike, duke rikthyer në qendër të vëmendjes dilemën mes avancimit të shpejtë teknologjik dhe zbatimit të masave më rigoroze të mbrojtjes për sistemet autonome.

të fundit

VIDEO/ Deputetes së partisë së Vuçiç i hidhet bidoni me kos në kokë para Parlamentit

Një incident është regjistruar përpara Kuvendit të Serbisë, ku deputetja e Partisë Progresive Serbe (SNS), Lidija Vukiçeviç, është sulmuar nga…

6 minutes ago

Flamuri shqiptar dhe ai i UÇK-së i kushtojnë 3 muaj burg 19-vjeçarit në Kumanovë

Tre muaj burg për 19-vjeçarin në Kumanovë, nxori flamurin shqiptar dhe atë të UÇK-së. Gjykata Themelore e Kumanovës ka dënuar…

7 minutes ago

Evropë, ku mbetet drejtësia?” – “Liria ka Emër” zhvillon protestë para Zyrës së BE-së në Prishtinë

Me një pankartë ku shkruan “Evropë, ku është drejtësia?”, iniciativa “Liria ka Emër” ka zhvilluar një aksion para Zyrës së…

13 minutes ago

Integrimi i sistemeve të pagave dhe personelit synon eliminimin e regjistrimeve të përsëritura

Ministria e Digjitalizimit dhe Administratës Publike ka prezantuar sot ndërlidhjen e Sistemit Informativ për Menaxhimin e Burimeve Njerëzore (SIMBNJ) me…

14 minutes ago

OVL-UÇK: Vendimi ndaj Thaçit është i papranueshëm, institucionet e Kosovës duhet të reagojnë

Xhavit Jashari nga Shoqata e Familjeve të Dëshmorëve të UÇK-së e ka cilësuar të papranueshëm dënimin e ish-presidentit të Kosovës,…

14 minutes ago

Greqi, zarfi me pluhur të bardhë shkakton alarm në Ministrinë e Mbrojtjes së Qytetarit

Në alarm janë vendosur organet greke të Rendit pas zbulimit të një zarfi me pluhur të bardhë që ka mbërritur…

14 minutes ago