“IA mund të dalë jashtë kontrollit”, mbi 1,000 ekspertë kërkojnë frenimin e zhvillimit

Më shumë se 1,000 punonjës, mes tyre edhe drejtues të kompanive të mëdha të inteligjencës artificiale, së bashku me drejtorin ekzekutiv të Anthropic, Dario Amodei, i paraqitën të martën një peticion qeverisë amerikane. Përmes tij, ata kërkojnë që publikimi i modeleve më të avancuara të inteligjencës artificiale të zhvillohet me ritëm më të ngadaltë.

Në dokument, nënshkruesit i bëjnë thirrje “qeverisë amerikane të mbështesë përpjekjet ndërkombëtare për të zhvilluar mjetet e nevojshme teknike dhe rregullatore për të udhëhequr në mënyrë të vetëdijshme kufijtë e zhvillimit të automatizuar të inteligjencës artificiale”.

Peticionit i janë bashkuar drejtorët e kërkimit të OpenAI, kompanisë që zhvilloi ChatGPT, dhe MetaAI, si edhe drejtori i strategjisë në DeepMind, degë e Google. Sipas dokumentit, “kompanitë kryesore të inteligjencës artificiale në botë besojnë se mund të jenë në prag të automatizimit të kërkimit të inteligjencës artificiale”.

Autorët e peticionit paralajmërojnë se nuk mund të përcaktohet me saktësi se deri në çfarë mase automatizimi do ta përshpejtojë avancimin e inteligjencës artificiale. Megjithatë, ata theksojnë se ekziston rreziku real që këto aftësi të zhvillohen me një shpejtësi të tillë, sa njerëzit të mos jenë më në gjendje t’i kuptojnë apo t’i mbajnë nën kontroll.

Sam Altman, drejtori ekzekutiv i OpenAI, nuk e ka nënshkruar peticionin. Pavarësisht kësaj, në një intervistë të publikuar të martën, ai deklaroi se zhvilluesve mund t’u duhet të ngadalësojnë vullnetarisht përparimin e shpejtë të modeleve të tyre të inteligjencës artificiale, në mënyrë që shoqëria të ketë mundësi të ecë me të njëjtin ritëm.

Javën e kaluar, OpenAI bëri të ditur se modelet e saj të inteligjencës artificiale kishin ndërmarrë në mënyrë të pavarur një sulm kibernetik, duke kapërcyer protokollet e sigurisë të krijuara për të penguar incidente të tilla. Sipas raportimit të kompanisë, gjatë një prove modelet u larguan nga mjedisi i izoluar ku po testoheshin, u lidhën me internetin dhe depërtuan në platformën Hugging Face, një faqe që përdoret nga zhvilluesit e softuerëve për ruajtjen dhe shpërndarjen e kodit.

Edhe pse kishte pasur më parë raste kur një model dilte jashtë kontrollit të zhvilluesve, ky incident u vlerësua si veçanërisht shqetësues. Altman tregoi në podkastin “Invest Like the Best” se OpenAI i ndërpreu më pas testimet e veta dhe forcoi masat e sigurisë. Sipas tij, në perspektivën afatgjatë, industria ka gjasa të duhet të arrijë një marrëveshje për ngadalësimin e zhvillimit.