- Vyšetřování společností RTVE a Maldita.es odhalilo falešné profily generované umělou inteligencí na TikToku.
- Tito avatary šíří zázračné diety, propagují produkty a klamou uživatele.
- Detekční nástroje potvrzují jeho umělý původ, ale mnoho z nich jej neoznačuje.
- Odborníci doporučují ověřit si obsah, než ho začnete důvěřovat.
Umělá inteligence otevřela novou frontu v boji proti dezinformacím. V posledních týdnech dvě nezávislá vyšetřování odhalila znepokojivou síť falešných profilů na TikToku, které pomocí avatarů generovaných umělou inteligencí šíří zavádějící obsah pro komerční a v některých případech i nebezpečné účely. Tým VerificaRTV i platforma Maldita.es poukázaly na to, že tyto profily, na první pohled nerozeznatelné od skutečných lidí, představují pro španělské uživatele rostoucí hrozbu.
Tento jev není nový, ale jeho rozsah upoutal pozornost ověřovatelů faktů. Tyto účty používají uměle vytvořené obrázky a videa k simulaci svědectví o fyzických proměnách, zdravotních radách nebo dokonce profesních identitách. Nejvíce alarmující je, že ve většině případů neexistuje žádný náznak toho, že by obsah byl generován umělou inteligencí, což porušuje vlastní zásady platformy. Výzkumníci zjistili, že tyto účty reagují na komentáře, jako by se jednalo o skutečné lidi, a tím zvyšují důvěru svých sledujících.
Takto se vytvářejí a odhalují falešné avatary
Detekční metody kombinují automatizované nástroje s manuální analýzou. V případě VerificaRTV detekční nástroje s využitím umělé inteligence prokázaly s více než 90% pravděpodobností , že videa byla syntetická. Týmová práce jim navíc umožnila identifikovat společné vzorce: stejná prostředí, stejné pózy a dokonce i stejné oblečení napříč různými profily. To odhaluje, že se jedná o masovou produkci, pravděpodobně za účelem zisku. Maldita.es mezitím zdokumentovala případy falešných profesionálů, jako jsou údajní lékaři nebo nutriční poradci, kteří tyto avatary používají k doporučování produktů nebo léků bez jakéhokoli vědeckého základu.
Obchod založený na podvodu
Primárním cílem těchto účtů jsou finance. Mnohé propagují návody na hubnutí, placené aplikace nebo virální výzvy, které slibují nemožné výsledky. Například byl zjištěn vzorec, který povzbuzuje mladé ženy k 75denní výzvě, aby se staly „dokonalou dívkou“, která zahrnuje přísnou dietu, nadměrné cvičení a knihy o svépomoci. Tato rada, která pochází od neexistujících avatarů, může vést k nezdravému chování a frustraci u těch, kteří ji následují. Psychologové, kteří byli konzultováni, varují před emocionálním dopadem srovnávání se s falešným obrazem, který nikdy neexistoval. Tlak na přizpůsobení se určité estetice, spolu s neustálým bombardováním těmito profily, vytváří živnou půdu pro nejistotu a poruchy příjmu potravy.
Reakce platforem a doporučení
TikTok uvedl, že tyto účty porušují jeho pravidla komunity a že je po nahlášení uzavřel. Odborníci však trvají na tom, že řešení není pouze reaktivní. Platforma má povinnost zintenzivnit detekci obsahu generovaného umělou inteligencí a požadovat od tvůrců, aby označovali jakýkoli syntetický obsah, což je opatření, které je stále nedostatečně vymáháno. Doporučení ověřovatelů faktů je jasné: dávejte si pozor na profily, které ukazují pouze perfektní výsledky, ověřte si skutečnou existenci osoby nebo subjektu a vždy se poraďte s oficiálními zdroji, než se budete řídit radami ohledně zdraví nebo financí. V digitálním prostředí, kde se hranice mezi skutečným a umělým stírá, je opatrnost nejlepším nástrojem.
Vyšetřování RTVE a Maldita.es se shodují, že umělá inteligence se hojně využívá k vytváření falešného obsahu na TikToku, což má přímý dopad na Španělsko. Přestože se platformy snaží tyto účty omezit, tvůrci hoaxů rychle nacházejí nové způsoby, jak se vyhnout kontrolám. Klíčem je, aby si uživatelé rozvíjeli kritické myšlení a nenechali se ovlivnit nerealistickými sliby. Pokud tento jev něco jasně ukazuje, pak je to to, že na sociálních sítích ne všechno, co se zdá být skutečné, skutečně platí a že ověřování se stalo nezbytnou dovedností pro bezpečnou navigaci.
