Rrjetet sociale të përmbytura me përmbajtje të Inteligjencës Artificiale: Rrezik i shtuar i dezinformimit dhe manipulimit

Në një projekt të titulluar “AI Slop & Algorithmic Virality”, studiuesit nga AIF Forensics analizuan përhapjen e përmbajtjes së krijuar me inteligjencë artificiale (IA) në TikTok dhe Instagram në tre vende evropiane.

Ata zbuluan se deri në 25 përqind e kërkimeve më të njohura në TikTok përmbajnë imazhe sintetike të IA-së, me më shumë se 80 përqind të përmbajtjes së IA-së në TikTok që vjen nga elementë vizualë të krijuar nga “llogaritë e agjentëve të IA-së”, të ngjashme me profilet e automatizuara që shpërndajnë masivisht përmbajtje, ndërsa në Instagram, vetëm 15 përqind e postimeve bëhen nga llogaritë e agjentëve të IA-së. Ajo që ne i referohemi në këtë studim si “llogari agjentësh të inteligjencës artificiale” ose AAA (Artificial Intelligence Agent Accounts) i referohet llogarive që postojnë përmbajtje sintetike të inteligjencës artificiale duke përdorur procese pjesërisht ose plotësisht të automatizuara.

“Llogari të tilla përdorin mjete gjeneruese të IA-së për të automatizuar krijimin e përmbajtjes, duke mundësuar testimin e shpejtë dhe përsëritës të algoritmeve të platformës dhe interesave të audiencës me qëllim gjetjen e përmbajtjes që do të bëhet virale”, thonë studiuesit.

Ata theksojnë se llogari të tilla në mediat sociale përdorin mjete të inteligjencës artificiale për të gjeneruar dhe publikuar automatikisht përmbajtje. Ato publikojnë një numër të madh postimesh të krijuara me inteligjencë artificiale në mënyrë që të “tejkalojnë” algoritmet e rekomandimeve dhe të rrisin shanset që përmbajtja të bëhet virale. Ata testojnë sistematikisht se çfarë tërheq vëmendjen e audiencës dhe si funksionojnë algoritmet e rekomandimeve.

Çfarë janë sistemet e agjentëve të inteligjencës artificiale?

Një llogari konsiderohet “agjent” nëse 10 postimet e saj të fundit përmbajnë ekskluzivisht imazhe të krijuara me inteligjencë artificiale, edhe nëse më parë ka postuar përmbajtje të ndryshme (gjë që ishte e rrallë), theksojnë ata.

Sistemet e agjentëve të inteligjencës artificiale përdorin inteligjencën artificiale për të: hulumtuar trendet, për të krijuar video/imazhe, për të planifikuar postime dhe për të përshtatur mesazhet për audiencën. E gjithë kjo në një cikël të automatizuar, pa pasur nevojë për ndërhyrje njerëzore. Llogari të tilla mund të përhapin përmbajtje masivisht dhe të kenë një ndikim të madh në sferën publike.

Përmbajtja është fotorealiste, duke e bërë të vështirë dallimin midis të rremeve dhe të vërtetave. Etiketat e përmbajtjes së inteligjencës artificiale shpesh janë të fshehura, të paqarta ose joekzistente – veçanërisht në versionet për desktop. Si pjesë e një analize sistematike, studiuesit studiuan etiketimin e përmbajtjes së gjeneruar nga inteligjenca artificiale në TikTok dhe Instagram dhe analizuan rezultatet e kërkimit për 13 hashtagje (#trump, #health, #histori…) në Spanjë, Gjermani dhe Poloni në qershor 2025.

Përmbajtja më popullore mbi temat politike dhe më gjerë u rishikua manualisht, duke identifikuar të ashtuquajturat “llogari agjentësh të inteligjencës artificiale” – profile të specializuara që gjenerojnë dhe shpërndajnë automatikisht përmbajtje të inteligjencës artificiale.

Zhvillimi i agjentëve të inteligjencës artificiale – të cilët mund të kryejnë në mënyrë të pavarur detyra komplekse dhe të komunikojnë me mjedisin e tyre – pritet të mundësojë automatizimin e plotë të procesit të krijimit dhe publikimit të përmbajtjes pa nevojën e ndërhyrjes njerëzore.

“Mbetjet e inteligjencës artificiale” si mbeturina të reja dixhitale

Rrjetet sociale janë gjithnjë e më të ngopura me përmbajtje të krijuar nga inteligjenca artificiale – e cila “mashtron algoritmet” me besueshmëri vizuale dhe potencial viral. Ky fenomen, i quajtur “mbetje e inteligjencës artificiale”, i referohet përmbajtjes së prodhuar në masë, me cilësi të ulët dhe potencialisht mashtruese të krijuar nga inteligjenca artificiale. Shembujt përfshijnë videot e inteligjencës artificiale që reklamojnë shtesa të dyshimta dietike, “ringjalljen” e fëmijëve të vdekur për shkak të historive të vërteta kriminale, skenat fetare dhe politike të krijuara nga inteligjenca artificiale (p.sh., Trump në Gaza) dhe përmbajtje virale por të pakuptimtë. Qëllimi i një përmbajtjeje të tillë është të tërheqë vëmendjen, të mbledhë shikime dhe të gjenerojë të ardhura përmes vendosjes algoritmike – pa shumë përpjekje njerëzore. Rregullorja dhe legjislacioni

Edhe pse platformat (në përputhje me Aktin e Shërbimeve Dixhitale) janë zotuar të etiketojnë përmbajtjen e krijuar nga inteligjenca artificiale, hulumtimet tregojnë se vetëm rreth 50 përqind e përmbajtjes së tillë etiketohet si e krijuar nga inteligjenca artificiale, pavarësisht kërkesave rregullatore evropiane, gjë që rrit rrezikun e dezinformimit dhe manipulimit.

Akti ekzistues i Inteligjencës Artificiale (BE, 2024) dhe Akti i Shërbimeve Dixhitale (DSA) kërkojnë që përmbajtja e krijuar nga inteligjenca artificiale të etiketohet qartë. Platformat (TikTok, Instagram) premtojnë mjete teknike për zbulim, por etiketat shpesh janë të padukshme. Spanja ka njoftuar gjoba deri në 35 milionë euro për përmbajtje të paetiketuar të krijuar me inteligjencë artificiale.

Masat aktuale të etiketimit janë të pamjaftueshme dhe jokonsistente dhe nuk i mbrojnë përdoruesit. Nëse ky trend nuk frenohet, vërshimi i inteligjencës artificiale mund të dëmtojë seriozisht besimin në hapësirën dixhitale.

/The Geopost