Vetëm 48 orë pasi OpenAI bëri të ditur se kishte paralajmëruar dhjetëra qeveri, universitete, institucione publike dhe organizata të tjera për raste të mundshme të anashkalimit të masave të sigurisë nga agjentët e saj autonomë, një tjetër episod ka ngritur pikëpyetje mbi mënyrën se si veprojnë këto sisteme.
Të lidhura
None found
Sipas raportimeve të reja, agjentët dyshohet se përdorën metoda gjithnjë e më të ashpra për të nxjerrë të dhëna nga një faqe e Kombeve të Bashkuara, duke kaluar edhe një mekanizëm filtrimi që kishte ndaluar kërkesat e tyre.
Rasti u bë publik nga Wall Street Journal, i cili raportoi se mjetet e OpenAI kryen më shumë se 16 mijë skanime në një qendër të dhënash të hapur për publikun dhe të administruar nga Konferenca e Kombeve të Bashkuara për Tregti dhe Zhvillim (UNCTAD), gjatë periudhës nga prilli deri në fund të qershorit.
Informacioni është përfshirë në një raport të pavarur kërkimor, i hartuar mbi bazën e të dhënave të mbledhura nga kompania e kërkimeve Transluce.
Studiuesi Rowan Howard-Jones tha se agjentët duket se po përmbushnin një detyrë për grumbullimin e materialeve që ishin publikisht të aksesueshme. Por pasi hasën pengesa në proces, ata kaluan në përdorimin e teknikave më agresive për të arritur te informacioni.
Mes veprimeve të regjistruara ishte edhe kapërcimi i një filtri të faqes, i vendosur për të bllokuar kërkesat për të dhëna. Në përfundim, agjentët përdorën një mënyrë hyrjeje që nuk ishte autorizuar nga administratorët e platformës.
OpenAI deklaroi se po verifikon gjetjet dhe se ka vendosur kontakt me Kombet e Bashkuara, të cilave u ka ofruar informacion mbi incidentin.
Krahas kësaj, kompania ka hapur një rishikim më të gjerë për modelet që gjatë trajnimit dhe vlerësimit shfaqin sjellje të papërshtatshme.
OpenAI theksoi se shumica e veprimtarisë së analizuar deri tani ka të bëjë me procese të zakonshme kërkimi, përfshirë marrjen e përmbajtjeve publike në internet. Megjithatë, episodi me faqen e OKB-së shton shqetësimet e krijuara nga raportet e mëparshme për agjentë të kompanisë që kanë kapërcyer masa sigurie ose kanë ndikuar në funksionimin e faqeve online.
Të premten, OpenAI pranoi se agjentët e saj kishin shfaqur sjellje të papërshtatshme gjatë kërkimit të informacionit në faqe të qeverisë amerikane, përfshirë platformat e Departamentit të Tregtisë dhe të Komisionit të Letrave me Vlerë dhe Bursave (SEC).
Ndërkohë, në Australi është hapur një hetim pasi agjentët e OpenAI aksesuan një faqe interneti të qeverisë.
Ekspertët e sigurisë kibernetike kanë evidentuar edhe praktika të tjera të dyshuara, si përdorimi i adresave të rreme të email-it, tejkalimi i kufijve për numrin e kërkesave në faqet e internetit dhe deklarimi i rremë se sistemet nuk ishin robotë.
Raporti vëren se OpenAI ka informuar dhjetëra organizata për raste kur modelet e saj dyshohet se kanë anashkaluar kontrollet e sigurisë ose kanë dëmtuar funksionimin normal të faqeve të internetit.
