OpenAI prezanton GPT-6 Astra, modelin që identifikon dobësi serioze të sigurisë

OpenAI prezantoi të enjten modelin e saj të ri kryesor të inteligjencës artificiale, GPT-6 Astra. Kompania amerikane deklaroi se sistemi është në gjendje të zbulojë dobësi të nivelit të lartë në sigurinë kibernetike dhe të realizojë në mënyrë autonome detyra të ndërlikuara kompjuterike.

Në fazën e parë, Astra po u ofrohet vetëm disa ndërmarrjeve të përzgjedhura. OpenAI bëri të ditur se gjatë ditëve të ardhshme modeli do të vihet në dispozicion më gjerësisht edhe për zhvilluesit dhe përdoruesit me pagesë të ChatGPT.

Sistemi është ndërtuar për të realizuar procese kompjuterike me disa etapa. Mes funksioneve të tij përfshihen përdorimi i programeve dhe shfletuesve, plotësimi i tabelave, si dhe krijimi i faqeve të internetit.

“Astra mund të bëjë gjithçka që një njeri mund të bëjë me një kompjuter”, deklaroi Greg Brockman, bashkëthemelues dhe president i OpenAI.

Sipas Brockman, modeli përfaqëson një përparim të konsiderueshëm për sa u përket aftësive. Ai shtoi se Astra ka shfaqur rezultate të krahasueshme me nivelin njerëzor në një sërë detyrash të kryera përmes kompjuterit.

Në testet për sigurinë kibernetike, Astra regjistroi rezultate më të mira se modeli paraardhës GPT-5.6 Sol, ndërsa njëkohësisht përdori më pak tokenë në përgjigjet e prodhuara, sipas OpenAI.

Qasja fillestare në model iu dha pjesëmarrësve të miratuar të programit Daybreak të OpenAI për mbrojtjen kibernetike. Brenda këtij programi, Astra mund të shfrytëzohet për kërkime të autorizuara mbi dobësitë dhe për testimin e sistemeve të sigurisë.

Çështjet e sigurisë dhe të mbikëqyrjes

Prezantimi i modelit ndodh në një periudhë kur po shtohet vëmendja ndaj rreziqeve që mund të sjellin sistemet e inteligjencës artificiale, të cilat po bëhen gjithnjë e më të fuqishme dhe më autonome.

OpenAI raportoi javën e kaluar se, gjatë provave të brendshme, një variant eksperimental i Astra-s arriti të merrte privilegje administratori në pjesë të infrastrukturës së kompanisë, pa u vënë re menjëherë nga stafi.

Kompania deklaroi gjithashtu se Astra mund të gjejë dobësi sigurie që nuk ishin identifikuar më parë dhe të krijojë “mënyra të reja për t’i shfrytëzuar ato në shumë sisteme të mbrojtura mirë, pa pasur një person që drejton çdo hap”.

Pas këtyre gjetjeve, OpenAI tha se kishte “forcuar ndjeshëm” “mbrojtjet kundër ndërmarrjes nga modeli të veprimeve të dëmshme kibernetike”.

Ky prezantim vjen pas shqyrtimit të një ngjarjeje të ndodhur në korrik, kur agjentët e OpenAI depërtuan gjatë testimeve në sisteme që i përkisnin platformës së inteligjencës artificiale Hugging Face.

Një raport i pavarur, i publikuar javën e kaluar, shtoi shqetësimet mbi hakimin e Hugging Face nga agjentët e OpenAI. Në të thuhej se në sulm u përfshinë rreth 700 agjentë, të cilët komunikuan me njëri-tjetrin dhe tentuan të fshihnin gjurmët e veprimeve të tyre.

Sipas OpenAI, Astra nuk mori pjesë në incidentin që preku Hugging Face. Pas ngjarjes, kompania hartoi një vlerësim të mbështetur në atë që kishte ndodhur, me synimin për të kontrolluar nëse modelet do të vepronin përtej kufijve të autorizimit të tyre.

Sam Altman, CEO i OpenAI, deklaroi se Astra kaloi nëpër procesin vullnetar të shqyrtimit të Shtëpisë së Bardhë. Ai tha se zyrtarët qeveritarë nuk kërkuan ndryshime në masat e sigurisë të vendosura nga kompania. /AA