- Deepfakes jsou audiovizuální manipulace vytvořené pomocí umělé inteligence, které se vydávají za někoho jiného za účelem klamání, podvodu nebo pomluvy.
- Existují technické metody k jejich detekci, jako je analýza mrkání, synchronizace rtů a umělé osvětlení obrazu.
- Ve Španělsku mají oběti trestní, občanskoprávní a správní (AEPD) možnosti odstranit obsah a požadovat náhradu škody.
Pravděpodobně jste zažili, že jste sledovali video na sociálních sítích a byli naprosto zmatení a přemýšleli, jestli je skutečné, nebo ne. V dnešní době technologie pokročila natolik, že už nemůžeme věřit svým očím ani uším. Takzvané deepfakes jsou obsahy vytvořené umělou inteligencí, která napodobuje hlas, obličej a gesta osoby tak přesvědčivě, že je neuvěřitelně snadné se do nich zamilovat.
Nejde jen o vtipy nebo filmové speciální efekty; je to nástroj, který lze použít ke zničení něčí pověsti , vyprázdnění bankovních účtů nebo manipulaci celých voleb. Proto je zásadní vědět, jak se v těchto kalných vodách orientovat, od toho, jak odhalit podvod, až po to, jaké dokumenty předložit soudci, pokud jste tímto druhem manipulace ovlivněni.
Co je to proboha Deepfake a jak se vyrábí?
Deepfake je v podstatě zvukový, obrazový nebo video soubor, který byl upraven pomocí softwaru umělé inteligence tak, aby vypadal autenticky. Název pochází z kombinace slov „ falešný“ a „falešný“. K dosažení tohoto realismu stroje používají neuronové sítě, které napodobují lidský mozek a analyzují tisíce fotografií a nahrávek osoby, dokud algoritmus nedokáže replikovat její rysy s ohromující přesností.
Existují dvě hlavní metody pro jejich vytváření. Na jedné straně existují systémy umělé inteligence , kde proti sobě soupeří dvě umělé inteligence: jedna vytváří falešný obraz a druhá se snaží chybu odhalit; vzájemně se tak zdokonalují, dokud není výsledek téměř dokonalý. Na druhé straně existují automatické kodéry , které komprimují podstatu obličeje a poté ji rekonstruují na těle jiné osoby, čímž eliminují vizuální šum a rušivé stíny.
Nejběžnější typy manipulací
- Hluboké tváře: Jde o typická videa, kde je něčí obličej nahrazen obličejem jiného. Často se používají k vytvoření falešné pornografie nebo k tomu, aby politik řekl něco, co ve skutečnosti nikdy neřekl.
- Zde je naklonován hlas. Jsou obzvláště nebezpeční, protože umožňují... telefonní podvody velmi věrohodné, takže útočník vypadá jako člen rodiny nebo šéf firmy.
Jak odhalit deepfake: Detekční triky
I když se mohou zdát dokonalé, deepfaky často zanechávají stopy, pokud víte, kam hledat. Klíčovým detailem je frekvence, s jakou člověk zavírá oči; umělá inteligence často nedokáže napodobit přirozenou rychlost, s jakou člověk zavírá oči. Za pozornost stojí také oblast úst, protože algoritmy se často potýkají s přesnou reprodukcí pohybů úst, když daná osoba mluví.
Další slabinou je vizuální konzistence. Pokud si všimnete, že osvětlení obličeje neodpovídá pozadí nebo tomu, co je kolem obličeje, okamžitě to podezřívejte. Věnujte také pozornost délce: velmi krátká videa s příliš dramatickým obsahem jsou často varovným signálem. A konečně, rozpor mezi pohyby rtů a zvukem je klasickou vadou, která prozrazuje falešnost.
Rizika a hrozby pro společnost
Nebezpečí je reálné a postihuje všechny úrovně. Na osobní úrovni se tyto techniky používají k online obtěžování , kdy se bez souhlasu vytvářejí sexuální snímky, které narušují emocionální stabilitu obětí. V obchodním světě podvod s generálním ředitelem zahrnuje vydávání se za hlas manažera za účelem nařizování bankovních převodů v hodnotě mnoha milionů dolarů na podvodné účty.
Na institucionální úrovni jsou deepfakes perfektním palivem pro masovou dezinformaci. To může destabilizovat mezinárodní vztahy nebo ovlivnit voliče během voleb a vyvolat krizi důvěry, kdy občané nakonec nevěří žádnému zdroji informací, a tím dusí kritické myšlení.
Co dělat, pokud jste obětí manipulace
Pokud na internetu objevíte falešné video, na kterém jste, v první řadě nepanikařte a nesnažte se ho vyvrátit, protože tím se jen stane virálním. Je nezbytné vše zdokumentovat: pořiďte snímky obrazovky s URL adresou, datem, časem a profilem, který video zveřejnil. Pokud je to možné, stáhněte si původní soubor, ale opatrně, abyste se příliš neodhalili.
Dalším krokem je požádat o jeho okamžité odstranění. Můžete použít kanály pro hlášení na sociálních sítích nebo v případě sexuálního či násilného obsahu ve Španělsku kontaktovat Španělský úřad pro ochranu osobních údajů (AEPD). Tento mechanismus je velmi účinný, jak přimět AEPD k rychlému smazání materiálu na základě skutečnosti, že váš obrázek je osobní údaj zpracovávaný bez vašeho souhlasu.
Právní možnosti, jak se ve Španělsku bránit
V závislosti na závažnosti můžete postupovat třemi různými cestami. V prvním případě mohou deepfaky představovat trestný čin pomluvy, krádeže identity nebo dokonce sexuálního deliktu, pokud se jedná o syntetickou pornografii. V těchto případech je nezbytné podat stížnost u Národní policie nebo Civilní gardy a poskytnout všechny shromážděné digitální důkazy.
Pokud se jedná primárně o poškození vaší pověsti, umožňuje vám to požadovat náhradu morální újmy a požadovat okamžité ukončení narušování vaší cti a soukromí. A konečně, je to nejrychlejší způsob, jak smazat obsah, protože GDPR zakazuje zpracování osobních údajů (například vašeho obličeje) bez jasného právního základu nebo souhlasu subjektu údajů.
Tipy pro ochranu vaší digitální identity
Abyste tomu zabránili, je nejlepší být trochu opatrnější ohledně toho, co nahráváte online. Nastavte si soukromí a omezte, kdo může vidět vaše fotografie a videa; čím méně materiálu o vás je, tím těžší bude pro umělou inteligenci se na vašem obrázku naučit. Je také vhodné používat dvoufaktorové ověřování na všech vašich účtech a často měnit hesla , abyste zabránili krádeži vašeho soukromého materiálu.
Pro firmy je klíčem bezpečnost . Zavedení ověřovacích protokolů, jako je použití tajného hesla u podezřelých hovorů nebo potvrzování finančních příkazů prostřednictvím druhého kanálu, může zabránit podvodům v řádu milionů dolarů. Aktualizace antivirového softwaru a používání VPN také pomáhá zabránit malwaru v krádeži dat, která by mohla být později použita k vytvoření deepfake.
Nejlepší obranou proti umělé manipulaci je zůstat ostražitý a rozvíjet kritický pohled na to, co konzumujeme online. V případě útoku nám kombinace pečlivého shromažďování důkazů, naléhavé žádosti o odstranění obsahu prostřednictvím Španělského úřadu pro ochranu osobních údajů (AEPD) a poradenství specializovaného právníka v trestních věcech umožňuje minimalizovat poškození pověsti a právně stíhat osoby odpovědné za tyto digitální útoky.
