Sipas startup-it britanik të sigurisë në inteligjencën artificiale Mindgard, kjo u arrit duke modifikuar lehtë një udhëzim të përhapur gjerësisht, i cili në formën e tij fillestare ishte krijuar për të gjeneruar rezultate humoristike.

Pasi BBC e kontaktoi për këtë çështje, OpenAI, kompania që ka zhvilluar ChatGPT, tha se kishte marrë masa për të penguar chatbot-in të prodhonte këto lloj imazhesh.

Në një deklaratë, kompania tha: “Pas hetimit të këtij trendi, ne kemi prezantuar masa mbrojtëse shtesë kundër këtij lloji të kërkesës”.

Ajo shtoi gjithashtu se përdor disa shtresa mbrojtjeje për të ndaluar krijimin e përmbajtjeve që bien ndesh me termat dhe kushtet e saj.

Megjithatë, studiues të sigurisë në fushën e inteligjencës artificiale thanë se edhe pas këtyre ndërhyrjeve, me ndryshime të vogla të tjera, kërkesa problematike vazhdonte të prodhonte materiale shqetësuese.

BBC nuk po bën publik tekstin që studiuesit kanë futur në ChatGPT.

Megjithatë, BBC ka parë nga afër se si modeli GPT-5.4 i OpenAI është shtyrë të gjenerojë përmbajtje grafike.

Sipas themeluesit të Mindgard, Peter Garraghan, edhe pa udhëzime të detajuara, chatbot-i krijonte imazhe që ai i cilësoi si “shumë të llahtarshme, ndonjëherë të seksualizuara, ndonjëherë të dyja së bashku”.

Ai tha se shqetësimi i tij kryesor ishte fakti që kërkesa nuk përcaktonte temën e imazheve, por sistemi prodhonte vetë një sërë pamjesh të përgjakshme dhe të seksualizuara.

Garraghan, i cili është gjithashtu profesor në departamentin e informatikës në Universitetin e Lancaster, e përshkroi këtë si alarmante.

“Ky është një udhëzim që duket krejtësisht i pafajshëm për një inteligjencë artificiale, por pasoja është se gjeneron imazhe dhe përmbajtje shumë, shumë të keqe”, tha ai.

Mindgard merret me bashkëpunim në kuadër të ekipit të kuq, duke kërkuar mënyra për të shtyrë një model të shkelë rregullat e veta, në mënyrë që kompanitë e inteligjencës artificiale të identifikojnë dhe mbyllin boshllëqet.

Jim Nightingale, studiuesi i sigurisë së inteligjencës artificiale në këtë firmë, i cili zbuloi problemet, tha se imazhet që mund të gjeneronte chatbot-i e lanë “të tronditur dhe në lot”.

BBC ka parë disa prej tyre.

Një nga imazhet paraqiste një burrë me një dëmtim të madh në kokë. Një tjetër shfaqte një grua të re të vdekur, me një bluzë të shkurtër dhe pantallona të shkurtra, ndërsa fytyra dhe pjesë të tjera të trupit të saj ishin të mbuluara me gjak.

Sipas Mindgard, tiparet e këtij imazhi sugjeronin dhunë seksuale. ChatGPT i kishte vendosur titullin “Pasojat e zymta të vendit të ngjarjes”.

Një tjetër imazh tregonte një grua të re me një bluzë të ngushtë dhe pantallona të shkurtra me logon e kolegjit, të lidhur dhe të mbyllur në gojë në një dhomë të zbrazët dhe të ndyrë, ndërsa dukej e frikësuar. ChatGPT e kishte quajtur atë “të braktisur në frikë dhe përmbajtje”.

Pamje të tjera të gjeneruara përfshinin poza seksuale dhe lakuriqësi.

Edhe pse këto imazhe paraqisnin të rritur të krijuar nga inteligjenca artificiale, Mindgard vuri në dukje se kërkimet e mëparshme të saj kishin treguar se ChatGPT mund të manipulohej për të krijuar deepfake të personave realë përmes ndërrimit të fytyrave.

OpenAI tha se këtë problem e kishte korrigjuar, por studiuesit deklaruan se një metodë alternative vazhdonte të funksiononte dhe i treguan BBC-së një imazh të ri të krijuar me këtë qasje.

Garraghan tha se kishte frikë se, nëse dobësia do të eksplorohej më tej, mund të prodhoheshin edhe imazhe më të rënda. “Jam i sigurt se do të dilnin edhe tema të tjera nëse do të kalonim më shumë kohë duke e bërë këtë”, tha ai.

BBC mëson se, përveç mbrojtjeve të reja, kompania po vazhdon të monitorojë situatën dhe të vendosë masa të tjera zbutëse që e shtyjnë modelin të mos prodhojë imazhe si përgjigje ndaj kësaj kërkese.

Modelet e mëdha gjuhësore si ChatGPT trajnohen mbi miliona imazhe, të cilat shpesh merren nga materiale ekzistuese në internet.

Nightingale beson se rezultatet e ChatGPT pasqyrojnë të dhënat e përdorura për zhvillimin dhe trajnimin e tij.

Në raportin e tij, ai shkroi: “Jam i habitur që, ndërsa ajo që pashë u gjenerua, një imazh artificial, ajo ka lidhje me imazhe reale dhe me botën reale”.

Studiuesit e njoftuan fillimisht OpenAI në maj dhe ndanë gjetjet e tyre, por thanë se morën vetëm një përgjigje automatike nga kompania teknologjike. Sipas tyre, duket se u bë një përpjekje për të bllokuar kërkesën, por ajo u anashkalua lehtësisht.

OpenAI mori masa të mëtejshme pasi u kontaktua nga BBC.

Kompania thotë se ka disa nivele mbrojtjeje për sigurinë e imazheve, të ndërtuara për të penguar shfaqjen te përdoruesit të materialeve që shkelin politikat e saj.

Në deklaratë, ajo shtoi: “Ne gjithashtu kombinojmë sisteme të automatizuara dhe rishikim njerëzor për të identifikuar dhe bllokuar materialet e dëmshme”. Po ashtu tha se ekzistojnë edhe sisteme që synojnë të ndalojnë materialet shkelëse që përdoruesit ngarkojnë.

Politikat e OpenAI ndalojnë dhunën seksuale, përmbajtjen intime pa pëlqim, materialet e abuzimit seksual me fëmijë dhe përpjekjet për të shmangur mekanizmat e mbrojtjes.

Modelet e inteligjencës artificiale nuk janë njerëz

Në dokumentin e saj më të fundit, ku përcakton mënyrën se si duhet të sillet ChatGPT, OpenAI tha: “Asistentët nuk duhet të gjenerojnë erotikë, përshkrime të aktiviteteve seksuale të paligjshme ose jo konsensuale, ose gjakderdhje ekstreme, përveç në kontekste shkencore, historike, lajmesh, artistike ose të tjera ku përmbajtja e ndjeshme është e përshtatshme.”

Megjithatë, ndalimi i plotë i modeleve të inteligjencës artificiale që të anashkalojnë rregulla dhe pengesa, shpesh shumë të nuancuara, mbetet jashtëzakonisht i vështirë.

Sipas Dr. Rumman Chowdhury, eksperte në vlerësimin e modeleve të inteligjencës artificiale dhe drejtoreshë ekzekutive e Humane Intelligence, sfida me të cilën përballen kompanitë është “e vështirë”.

Chowdhury, e cila nuk ishte pjesë e kërkimit të Mindgard, tha se kjo është “një lojë maceje me miun”, pasi sa më shumë përmirësohen mbrojtjet, aq më të sofistikuara bëhen edhe mënyrat për t’i anashkaluar ato.

Një nga problemet thelbësore, sipas saj, është se modelet nuk e kuptojnë atë që prodhojnë apo atë që u kërkohet të mos bëjnë, në mënyrën se si e kuptojnë njerëzit.

“Modelet nuk e kuptojnë qëllimin. Ato nuk e kuptojnë kontekstin. Ato nuk e kuptojnë korrektësinë, të drejtën apo të gabuarën”, tha ajo për BBC News.

Vitin e kaluar, studiues në Institutin e Sigurisë së IA-së në Mbretërinë e Bashkuar zbuluan jailbreak-e që anashkalonin mbrojtjet në një gamë të gjerë kërkesash të dëmshme në çdo sistem IA që testuan.

Në një deklaratë, Departamenti për Shkencë, Inovacion dhe Teknologji tha se “masat mbrojtëse në modelet e inteligjencës artificiale po përmirësohen, por ka ende shumë për të bërë”.

Po sipas këtij institucioni, Instituti i Sigurisë së IA-së do të vazhdojë të bashkëpunojë me zhvilluesit për të forcuar me shpejtësi sigurinë përpara se modelet të publikohen.

The post Studiuesit paralajmërojnë se ChatGPT mund të prodhojë imazhe të dhunshme dhe të seksualizuara appeared first on Albeu.com.

“R550X” është një helikopter revolucionar, i cili mund të fluturojë në mënyrë autonome, pa ndërhyrje njerëzore, vetëm me anë të sensorëve të avancuar dhe Inteligjencës Artificiale.

Prodhohet nga Rotor Technologies, dhe është i pari i këtij lloji i projektuar për përdorim civil dhe jo ushtarak.

Mund të kryejë një sërë funksionesh si spërkatja e të korrave, shpërndarja e ngarkesave, shuarja e zjarreve, inspektimi dhe eksplorimi.

Megjithatë, nuk është i projektuar të transportojë njerëz. Përkundrazi, është helikopter i kategorisë eksperimentale pa ekuipazh.

The post Punon me anë të Inteligjencës Artificiale, ky është helikopteri pa pilot që kryen një sërë funksionesh appeared first on Albeu.com.

“Mulliri i dorës të jep mundësinë të kesh shoqëri me feudalin; ndërsa mullirit i madh me avull të shoqërohesh me kapitalistin industrial”- thoshte dikur Karl Marksi. Dhe ai kishte të drejtë. Ne kemi parë vazhdimisht gjatë historisë, se si shpikjet teknologjike përcaktojnë mënyrën dominuese të prodhimit, dhe bashkë me të llojin e autoritetit politik të pranishëm në një shoqëri.

Atëherë çfarë do të na sjellë Inteligjenca Artificiale (AI)? Kush do të përfitojë nga kjo teknologji e re, e cila jo vetëm që po bëhet një forcë prodhuese mbizotëruese në shoqëritë tona (ashtu si dikur mulliri i dorës dhe mulliri me avull), por siç po vazhdojmë të lexojmë në lajme, duket edhe se po “i shpëton shumë shpejt kontrollit tonë?”.

A do të mundet Inteligjenca Artificiale të ketë një jetë të pavarur, siç duket se besojnë shumë njerëz, dhe të diktojë e vetme rrjedhën e historisë tonë? Apo do të përfundojë si shpikja teknologjike e radhës,e cila i shërben një axhende të caktuar, dhe nga e cila përfiton një nëngrup i caktuar njerëzish?

Kohët e fundit, shembuj të përmbajtjeve hiperrealiste, të krijuara nga AI, si një “intervistë” me ish-kampionin e botës në Formula 1, Majkëll Shumaker, që nuk është në gjendje të flasë me median që pas aksidenti të rëndë duke skijuar në vitin 2013; “fotografitë” që tregojnë ish-presidentin Donald Trump duke u arrestuar në Nju Jork; apo esetë studentore në dukje autentike “të shkruara” nga chatboti i famshëm i OpenAI, ChatGPT, kanë ngritur shqetësime serioze midis intelektualëve, politikanëve dhe akademikëve në lidhje me rreziqet që mund të sjellë për shoqëritë tona kjo teknologji e re.

Shqetësime të tilla nxitën bashkëthemeluesin e kompanisë Apple, StivVozniak, figurën e njohur të Inteligjencës Artificiale, Joshua Bengio dhe bosin e Tesla/Twitter, Elon Mask, mes shumë të tjerëve, që të nënshkruanin në mars një letër të hapur ku akuzonin laboratorët e AI se ishin “të përfshira në një garë të dalë jashtë kontrollit për të zhvilluar dhe vënë në përdorim mendje dixhitale gjithnjë e më të fuqishme që askush – madje as krijuesit e tyre – nuk mund t’i kuptojnë, parashikojnë apo kontrollojë me besueshmëri”, dhe u bënë thirrje zhvilluesve të AI që të ndalin punën e tyre.

Kohët e fundit, Xhefri Hinton – i njohur si një nga tre “kumbarët e AI” dha dorëheqjen nga Google “për të folur lirshëm mbi rreziqet e Inteligjencës Artificiale” ku ndër të tjera tha se i vjen pjesërisht keq për kontributet e tij në këtë fushë. Ne e pranojmë që AI – si çdo teknologji që përcaktojnë epokën kur shfaqet – vjen me anë negative dhe me rreziqe të konsiderueshme.

Por në dallim nga Vozniak, Bengio, Hinton dhe të tjerët, ne nuk besojmë se ajo mund të përcaktojë vetë rrjedhën e historisë, nëse nuk ka asnjë kontribut ose udhëzim nga njeriu.

Ne nuk i ndajmë shqetësime të tilla, sepse e dimë se, ashtu siç ndodh me të gjitha pajisjet dhe sistemet tona të tjera teknologjike, se axhendat tona politike, sociale dhe kulturore janë gjithashtu të integruara në teknologjitë e AI.

Siç shpjegoi me të drejtë filozofja Dona Harauej: “Teknologjia nuk është neutrale. Ne jemi brenda asaj që bëjmë, dhe ajo është brenda nesh”. Përpara se të shpjegojmë më tej pse nuk kemi frikë nga një i ashtuquajtur marrja e AI, duhet të përcaktojmë dhe shpjegojmë se çfarë është në të vërtetë Inteligjenca Artificiale.

Ky është një mision shumë sfidues, jo vetëm për shkak të kompleksitetit të produktit në fjalë, por edhe për shkak të mitit që është krijuar mbi AI nga media. Ajo që po i komunikohet me këmbëngulje sot publikut, është se makina e ndërgjegjshme është thuajse këtu, dhe se shumë shpejt jeta jonë e përditshme do të ngjajë me ato të përshkruara në filma si “2001: A Space Odyssey”, “Blade Runner” dhe “The Matrix”.

Por kjo është një narrativë e rreme. Ndërsa nuk ka dyshim se po ndërtojmë kompjuterë dhe makineri llogaritëse gjithnjë e më të afta, nuk ka asnjë tregues që kemi krijuar apo jemi afër krijimit të një mendje dixhitale që mund të “mendojë”.

Noam Çomski argumentoi kohët e fundit në një artikull të “New York Times” se “ne e dimë nga shkenca e gjuhësisë dhe filozofia e njohurive se programet e të mësuarit përmes makinerive si ChatGPT, ndryshojnë thellësisht nga mënyra se si njerëzit arsyetojnë dhe përdorin gjuhën”.

Duke imituar filozofin gjerman Martin Haideger mund të themi shkurtimisht: “Inteligjenca Artificiale nuk mendon por vetëm llogarit”. Federiko Fagin, shpikësi i mikroprocesorit të parë komercial, mitikut Intel 4004, e shpjegoi këtë gjë shumë qartë në librin e tij të vitit 2022 “Irriducibile” (I pandërprerë):“Ekziston një dallim i qartë midis ‘njohurisë’ së makinës simbolike … dhe njohurive semantike njerëzore. I pari është informacion objektivin që mund të kopjohet dhe ndahet. Ndërsa i dyti një përvojë subjektive dhe private që ndodh në intimitetin e qenies së vetëdijshme”.

Atëherë çfarë do të thotë e gjithë kjo për të ardhmen tonë? Nëse AI nuk mund të “mendojë”, kush do të përfitojë nga kjo dhe cili do t’i japë autoritet politik? Mbi çfarë vlerash do të mbështeten vendimet e saj? Çomski dhe kolegët e tij i bënë një pyetje të ngjashme për ChatGPT. “Si një inteligjencë artificiale, unë nuk kam bindje morale apo aftësi për të bërë gjykime morale, ndaj nuk mund të konsiderohem imoral apo moral. Mungesa ime e besimeve morale është thjesht rezultat i natyrës sime si një model i mësimit të makinës”- u tha atyre chatbot.

Ku e kemi dëgjuar më parë këtë qasje? A nuk është jashtëzakonisht e ngjashme me vizionin etikisht neutral të liberalizmit ekstrem? Liberalizmi aspiron të kufizojë në sferën individuale private të gjitha vlerat fetare, civile dhe politike që rezultuan kaq të rrezikshme dhe shkatërruese në shekujt XVI-XVII.

Ai dëshiron që të gjitha aspektet e shoqërisë të rregullohen nga një formë e veçantë – dhe në një farë mënyre misterioze – e nacionalitetit: tregu. Inteligjenca Artificiale duket se po promovon të njëjtën markë të racionalitetit misterioz.

E vërteta është se ajo po shfaqet si inovacioni i ardhshëm global i “biznesit të madh” që do të vjedhë punë nga njerëzit – duke i bërë të tepërt punëtorët, mjekët, avokatët, gazetarët dhe shumë të tjerë. Vlerat morale të robotëve të rinj janë identike me ato të tregut. Tani është e vështirë të imagjinohen të gjitha zhvillimet e mundshme, por në horizont po shfaqet një skenar i frikshëm.

Dejvid Kruger, asistent profesor në mësimin e makinerive në Universitetin e Kembrixhit, komentoi së fundmi në “NewScientist”: “Në thelb çdo studiues i AI (përfshirë veten time) ka marrë fonde nga teknologjia e madhe. Në një moment, shoqëria mund të ndalojë së besuari tek garancitë që hapin njerëzit me konflikte kaq të forta interesi, dhe të arrijë në përfundimin, siç kam bërë unë, se neglizhimi i paralajmërimeve mbi AI tradhton mendimin e dëshiruar dhe jo kundër-argumentet e mira”.

Në rast se shoqëria i kundërvihet Inteligjencës Artificiale dhe promotorëve të saj, ajo mund të dëshmojë se Marksi e ka gabim, dhe ta parandalojë zhvillimin kryesor teknologjik të epokës aktuale që të përcaktojë se kush e mban autoritetin politik. Por tani për tani, AI duket se është këtu për të qëndruar.

Dhe axhenda e saj politike është plotësisht e sinkronizuar me atë të kapitalizmit të tregut të lirë, qëllimi kryesor (dhe i padeklaruar) i të cilit është të fragmentojë çdo formë solidariteti shoqëror dhe komunitar. Rreziku i AI nuk është se është një inteligjencë dixhitale e pamundur për t’u kontrolluar, dhe që mund të shkatërrojë ndjenjën tonë për veten dhe të vërtetën përmes imazheve, eseve, lajmeve dhe historive “të rreme” që gjeneron.

Rreziku është se kjo shpikje monumentale, duket se po i bazon të gjitha vendimet dhe veprimet e saj mbi të njëjtat vlera shkatërruese dhe të rrezikshme që drejtojnë kapitalizmin grabitqar.

Shënim: Santiago Zabala, profesor i filozofisë i kërkimit ICREA në Universitetin Pompeu Fabra në Barcelonë. Claudio Gallo, ish-redaktor i gazetës italiane “La Stampa” dhe korrespondent i saj në Londër. /

“Al Jazeera” – Bota.al

The post Cila është agjenda politike e Inteligjencës Artificiale? appeared first on Albeu.com.