OpenAI sjell Decisions API për vendimmarrje më të shpejtë dhe siguri më të lartë te agjentët e AI

Gjatë eventit Dev Day të OpenAI, drejtori ekzekutiv Sam Altman njoftoi një produkt të ri të kompanisë, të quajtur Decisions API. Prezantimi u bë thuajse në mënyrë anësore, por shërbimi mund të ketë ndikim të rëndësishëm në mënyrën se si ndërtohen dhe kontrollohen agjentët e inteligjencës artificiale.

Funksionaliteti i tij duket i ngjashëm me atë të Jev, një model i prezantuar në fillim të këtij muaji nga startup-i TypeSafe AI, i cili është krijuar posaçërisht për automatizimin e softuerëve.

Jev vepron si një klasifikues i avancuar i bazuar në një model të madh gjuhësor. Zhvilluesit i japin disa alternativa të mundshme dhe sistemi i rendit ato sipas probabilitetit, duke ofruar përgjigje të shpejta dhe me kosto të ulët.

Sipas asaj që u bë e ditur gjatë aktivitetit, Decisions API ndjek një qasje të ngjashme. Altman shpjegoi se modeli Luna mund të marrë një listë zgjedhjesh të paracaktuara, mes të cilave duhet të vendosë, si kategori për klasifikimin e një imazhi ose veprime të ndryshme që mund të ndërmarrë një agjent AI.

“Duke e fokusuar modelin vetëm te ajo zgjedhje, mund ta bëjmë jashtëzakonisht të shpejtë, ndërkohë që ruajmë aftësi si kuptimi i imazheve, mbështetja e gjerë gjuhësore dhe masat e sigurisë”, tha Altman.

TypeSafe nuk iu përgjigj kërkesave të TechCrunch për koment mbi produktin e OpenAI. Megjithatë, drejtori ekzekutiv i kompanisë, Diogo Almeida, ish-inxhinier i OpenAI, reagoi me humor në X duke thënë se kishin nisur “luftërat e kloneve”.

Almeida shtoi se vëmendja e OpenAI ndaj kësaj qasjeje mund të tregojë se sistemet e ndërtuara sipas konceptit System One do të luajnë një rol të rëndësishëm në të ardhmen.

TypeSafe e përdor termin “System One” për vendimmarrje të shpejtë dhe intuitive, ndërsa “System Two” përshkruan arsyetimin më të ngadaltë, por më të thelluar.

Koncepti mbështetet te ideja se modelet e mëdha gjuhësore, ose LLM-të, nuk janë domosdoshmërisht zgjedhja më efikase për çdo funksion në një sistem softuerik.

Kur përdoren për vendime të thjeshta që përsëriten në sasi të mëdha, këto modele mund të jenë të ngadalta dhe të kushtueshme.

Zhvilluesit që e kanë kombinuar Jev me modele të mëdha gjuhësore kanë deklaruar se kjo qasje mund të sjellë përgjigje më të shpejta dhe shpenzime më të ulëta.

Megjithatë, ende nuk është e qartë se në çfarë niveli Decisions API përputhet me Jev. OpenAI e ka ofruar shërbimin vetëm për një grup të kufizuar testuesish dhe deri tani zhvilluesit nuk kanë publikuar shumë shembuj të përdorimit të tij.

Interesi për këtë teknologji duket i madh, siç tregojnë edhe diskutimet e zhvilluara në X.

Decisions API nuk është i vetmi produkt i kësaj natyre. Disa startup-e të tjera po punojnë mbi modele të ngjashme, ndërsa kompanitë e mëdha të teknologjisë mund të ndjekin të njëjtën rrugë.

Një prej sfidave kryesore do të jetë përcaktimi i saktësisë me të cilën këto modele i përshtatin parashikimet e tyre me situatat reale.

Sipas Almeida, avantazhi kryesor i TypeSafe lidhet me të dhënat sintetike që kompania gjeneron për të prodhuar rezultate me vlerë statistikore.

“Të jesh i shpejtë dhe i lirë është shumë e lehtë”, tha ai për TechCrunch. “Nëse do diçka vërtet të shpejtë dhe të lirë, mund të hedhësh zare. Inteligjenca është pjesa e vështirë. Objektivi im është gjithmonë të shtyj përpara raportin mes inteligjencës dhe kostos.”

Megjithëse këto modele ndodhen ende në fazat e para, një fushë ku ato mund të jenë veçanërisht të dobishme është mbikëqyrja dhe mbrojtja e agjentëve autonomë të AI.

OpenAI ka njoftuar masa të reja sigurie pas disa rasteve kur agjentët e saj kanë kryer veprime të padëshiruara në internet.

Një prej mekanizmave të prezantuar përdor një model të veçantë për të vëzhguar sjelljen e agjentëve dhe për të identifikuar veprime të rrezikshme. Kjo zgjidhje, megjithatë, kërkon fuqi të konsiderueshme llogaritëse dhe për pasojë është e kushtueshme.

Shapor Naghibzadeh, profesionist me përvojë në sigurinë kibernetike dhe drejtues i startup-it QueryStory, mendon se modele si Jev mund ta ulin ndjeshëm këtë kosto.

Për një hackathon, ai ndërtoi një demonstrim ku Jev analizonte çdo veprim të një agjenti AI dhe e krahasonte atë me detyrën e përcaktuar.

Kur modeli vlerësonte me besim të lartë se një veprim ishte i gabuar, ai e ndalonte atë. Veprimet që ngjallnin dyshime kalonin për shqyrtim, ndërsa ato të konsideruara të sigurta lejoheshin të vazhdonin.

Në teori, një mekanizëm i tillë mund të kishte parandaluar incidente të ngjashme me atë të raportuar më herët në Hugging Face.

Llogaritjet e paraqitura tregojnë se monitorimi përmes Jev do të kushtonte rreth 2.94 dollarë, ndërsa përdorimi i një modeli të avancuar të nivelit “frontier” për të njëjtën detyrë do të arrinte në rreth 372 dollarë.

Kostoja e ulët e Jev do ta bënte të mundur kontrollin e çdo veprimi të vetëm të një agjenti AI.

Një verifikim i vazhdueshëm i kësaj forme mund të shtonte ndjeshëm besueshmërinë e sistemeve autonome.

Ky ishte një prej përdorimeve që TypeSafe synonte të mundësonte përmes Jev, ndërsa duket se OpenAI ka identifikuar të njëjtën mundësi me Decisions API. /GazetaExpress/