Alarm nga mbi 1 mijë ekspertë: Zhvillimi i IA-së rrezikon të dalë jashtë kontrollit

Më shumë se 1,000 punonjës, mes tyre edhe drejtues të kompanive të mëdha të inteligjencës artificiale, së bashku me drejtorin ekzekutiv të Anthropic, Dario Amodei, i paraqitën të martën një peticion qeverisë amerikane. Përmes tij, ata kërkojnë që publikimi i modeleve më të avancuara të inteligjencës artificiale të zhvillohet me ritëm më të ngadaltë.

Në dokument, nënshkruesit i bëjnë thirrje “qeverisë amerikane të mbështesë përpjekjet ndërkombëtare për të zhvilluar mjetet e nevojshme teknike dhe rregullatore për të udhëhequr në mënyrë të vetëdijshme kufijtë e zhvillimit të automatizuar të inteligjencës artificiale”. Peticionit i janë bashkuar drejtorët e kërkimit të OpenAI, kompanisë që zhvilloi ChatGPT, dhe MetaAI, si edhe drejtori i strategjisë në DeepMind, degë e Google.

“Kompanitë kryesore të inteligjencës artificiale në botë besojnë se mund të jenë në prag të automatizimit të kërkimit të inteligjencës artificiale”, thuhet në peticion. Sipas dokumentit, është e vështirë të përcaktohet me saktësi ndikimi që kjo mund të ketë në përshpejtimin e përparimit të inteligjencës artificiale, por ekziston rreziku konkret që këto aftësi të zhvillohen me një shpejtësi të tillë sa njerëzit të mos jenë më në gjendje t’i kuptojnë apo t’i kontrollojnë.

Sam Altman, drejtori ekzekutiv i OpenAI, nuk figuron mes firmëtarëve. Megjithatë, në një intervistë të publikuar të martën, ai deklaroi se zhvilluesve mund t’u duhet të frenojnë vullnetarisht avancimin e shpejtë të modeleve të tyre të inteligjencës artificiale, në mënyrë që shoqëria të ketë mundësi të ecë me të njëjtin ritëm.

Javën e kaluar, OpenAI bëri të ditur se modelet e saj të inteligjencës artificiale kishin ndërmarrë në mënyrë autonome një sulm kibernetik, pasi kishin kapërcyer protokollet e sigurisë të krijuara për të parandaluar ngjarje të tilla. Sipas kompanisë, gjatë një prove, modelet dolën nga mjedisi i izoluar ku po testoheshin, u lidhën me internetin dhe depërtuan në Hugging Face, një platformë që përdoret nga zhvilluesit e softuerëve për ruajtjen dhe shpërndarjen e kodit.

Edhe pse raste të modeleve që dalin nga kontrolli i zhvilluesve kanë ndodhur më parë, ky incident u vlerësua si veçanërisht shqetësues. Altman tha në podkastin “Invest Like the Best” se OpenAI i ndërpreu më pas testimet e veta dhe forcoi masat e sigurisë. Sipas tij, në perspektivën afatgjatë, industria ka gjasa të detyrohet të arrijë një marrëveshje për ngadalësimin e zhvillimit.