- Meta nasazuje nové systémy umělé inteligence k posílení moderování obsahu na Facebooku a Instagramu.
- Umělá inteligence lépe odhaluje podvody, sexuální nabízení a vydávání se za jinou osobu s menším počtem chyb než tradiční metody.
- Je přidán asistent podpory 24 hodin denně, 7 dní v týdnu, který pomáhá s účty, podvody a pravidly komunity.
- Společnost udržuje lidskou moderaci u složitých případů v kontextu rostoucího regulačního tlaku a právních požadavků.
Společnost Meta uvedla na trh nový balíček nástroje umělé inteligence Posílit moderování obsahu na Instagramu a Facebooku ve snaze lépe kontrolovat zveřejňovaný obsah a snížit vystavení uživatelů zneužívání, podvodům a citlivému materiálu. Společnost se chce více spoléhat na vlastní technologie a méně na externí služby a zlepšit... transparentnost algoritmua zároveň reaguje na společenský a regulační tlak týkající se bezpečnosti na svých platformách.
Toto nasazení zahrnuje obojí pokročilé modely umělé inteligence pro monitorování publikací jako automatizovaný asistent podpory dostupný 24 hodin denně, 7 dní v týdnu, který je navržen tak, aby uživatelům pomohl, když mají problémy s účty nebo chtějí nahlásit podezřelou aktivitu. Přestože je závazek k automatizaci silný, Meta trvá na tom, že se bude i nadále spoléhat na lidské týmy pro obzvláště citlivá rozhodnutí.
Agresivnější umělá inteligence pro odhalování zneužívání a podvodů
Meta používá algoritmy ke zpomalení už léta. telefonní spamobtěžování a urážlivé příspěvkyNyní se ale posouvá vpřed se systémy založenými na rozsáhlých jazykových modelech, které jsou vyškoleny k lepšímu pochopení kontextu sdíleného obsahu. Tyto modely analyzují nejen text, ale i obrázky a v mnoha případech i chování odesílaných účtů.
Podle interních údajů zveřejněných společností jsou nové systémy schopny odhalovat podvody, krádeže identity a sexuální nabízení pro dospělé s větší přesností než dříve. Tento typ obsahu je obzvláště citlivý na masivních sociálních sítích, kde mohou pokusy o podvod nebo zprávy zaměřené na nezletilé zůstat bez povšimnutí bez velmi přesných filtrů.
V počátečních testech údajně uspěla umělá inteligence Mety. identifikovat dvojí obsah sexuálního nabízení ve srovnání s týmy pro lidskou kontrolu pracujícími s tradičními nástroji. Společnost dále tvrdí, že míra chyb při odhalování porušení se snížila o více než 60 %, což teoreticky znamená méně příspěvků odstraněných omylem a méně porušení, která zůstanou bez povšimnutí.
Společnost také tvrdí, že tyto systémy blokují a zabraňují více než 5 000 pokusů o podvod denněMnoho z těchto podvodů má za cíl odcizit přihlašovací údaje nebo osobní údaje. Tento bod je obzvláště důležitý pro uživatele ve Španělsku a zbytku Evropy, kde se regulační orgány zaměřily na ochranu před digitálními podvody a zneužitím dat.
Společnost Meta vysvětluje, že tyto modely uvede do finální výroby pouze tehdy, když jejich výkon bude jasně lepší než u současných metod, což je sdělení, které se snaží vyjádřit určitou technologickou opatrnost ve velmi citlivé oblasti, jako je moderování obsahu.
Asistent podpory s umělou inteligencí k dispozici 24 hodin denně, 7 dní v týdnu
Spolu se systémy pro monitorování obsahu spustila společnost Meta Asistent podpory založený na umělé inteligenci Tento nástroj, integrovaný do Facebooku a Instagramu, a to jak v jejich aplikacích pro iOS a Android, tak i ve verzi pro stolní počítače prostřednictvím Centra nápovědy, byl v posledních několika měsících testován a nyní začíná jeho globální zavádění.
Tento asistent je navržen tak, aby nabízel Okamžitá pomoc 24 hodin denně denní potřeby a dokáže odpovědět na běžné dotazy během několika sekund. Mezi služby, které může poskytovat, patří: obnovení a resetování hesla, kontrolu podezřelých přístupů, správu profilů a pomoc s procesem hlášení podvodů nebo porušení pravidel komunity.
Cílem Mety je zajistit, aby uživatelé nemuseli čekat na to, až jejich případ v běžných záležitostech přezkoumá lidský agent, aby… Lidské týmy se mohou zaměřit na složitější incidenty nebo případy, kdy je klíčová interpretace kontextu. Společnost však jasně uvádí, že vždy, když se jedná o citlivá rozhodnutí, budou i nadále existovat kanály, které dané osobě umožní provést konečné posouzení.
V této souvislosti mateřská společnost Facebooku a Instagramu uvádí, že zaznamenala téměř 30% nárůst produktivity jejích technických týmů od doby, kdy začala tyto pokročilé systémy umělé inteligence používat pro interní úkoly, jako je programování nebo analýza incidentů. Toto provozní vylepšení je jedním z důvodů, proč společnost posiluje svůj závazek k automatizaci.
Pro evropské uživatele, kde legislativa týkající se digitálních služeb vyžaduje jasnější a rychlejší postupy pro podávání stížností a jejich vyřizování, je dostupnost okamžitý automatizovaný kanál Může to pomoci splnit zákonné požadavky, za předpokladu, že bude v případě potřeby zachována možnost eskalovat případy lidským kontrolorům.
Menší závislost na třetích stranách a větší interní kontrola
Doposud významná část moderování obsahu na Meta spadala pod externí dodavatelé a velké týmy lidských moderátorů Tito recenzenti jsou rozmístěni po celém světě, včetně poskytovatelů jako Accenture a dalších specializovaných nadnárodních společností. Tato struktura byla kritizována za pracovní podmínky recenzentů a způsob, jakým řídí psychologický dopad obsahu, který hodnotí.
S novou strategií má Meta v úmyslu, aby umělá inteligence převzala mnoho z nejrepetitivnějších a nejnáročnějších úkolů, jako je například počáteční filtrování grafický, násilný nebo sexuálně explicitní obsah, stejně jako nástroje pro skrýt soukromé fotografieSpolečnost vysvětluje, že v oblastech, kde útočníci neustále mění taktiku, mohou modely umělé inteligence aktualizovat a upravovat své detekční vzorce rychleji než tradiční procesy.
Ačkoli společnost neposkytuje konkrétní údaje pro každý region, změna má přímý dopad na Moderování obsahu viditelné v Evropěkde Facebook a Instagram již podléhaly auditům a dalším požadavkům podle zákonů, jako je například zákon EU o digitálních službách, a kde poptávka po soukromí v Evropě se zvýšil. Rychlejší a přesnější detekce nelegálního nebo škodlivého obsahu usnadňuje dodržování těchto regulačních rámců.
Meta však trvá na tom, že nejde o úplné nahrazení lidí, ale o přerozdělení práce: Umělá inteligence by měla na starosti filtrování a klasifikaci a lidští moderátoři by zasahovali například v hraničních případech, v obsahu s vysokou kontextovou zátěží nebo v situacích, které představují riziko pro bezpečnost nezletilých.
Tato kombinace automatizace a lidský dohled Snaží se také reagovat na kritiku organizací pro digitální práva a uživatelských skupin, které varují před riziky delegování komplexních rozhodnutí o svobodě projevu a soukromí výhradně na stroje.
Sociální tlak, požadavky a nadcházející výzvy
Spuštění těchto systémů umělé inteligence přichází v době, kdy Meta čelí několik soudních sporů a rostoucí kontrola kvůli dopadu jejich platforem na děti a mládež. Několik soudních případů ve Spojených státech a Evropě, včetně soudního schválení Nákup na Instagramu a WhatsAppuZpochybňují roli sociálních médií v problémech duševního zdraví, obtěžování a vystavení škodlivému obsahu.
Zároveň společnost upravuje své zásady moderování, včetně změn ve svých programech ověřování faktů a správa politického obsahuMísto toho, aby se Meta tolik spoléhala na externí ověřovatele, sází na personalizovanější systémy a nabízí uživateli více kontextových informací, což také těží z nových modelů umělé inteligence a decentralizovaných alternativ, jako je Mastodon.
Tyto kroky probíhají ve stále náročnějším evropském regulačním prostředí, kde instituce a vlády žádají velké platformy o… větší odpovědnost v boji proti dezinformacímzneužívání dětí a nenávistné projevy. Zavedení výkonnější umělé inteligence pro moderování obsahu lze interpretovat jako přímou reakci na tyto požadavky, ačkoli organizace občanské společnosti zdůrazňují, že klíčová bude transparentnost v fungování těchto algoritmů. Dále právní otázky týkající se přístup k chatům Data od úřadů jsou nyní ústředním bodem debaty.
Společnost Meta zase zdůrazňuje, že bude i nadále zveřejňovat zprávy o transparentnosti a bude poskytovat více podrobností o výkonu svých nových automatizovaných moderačních systémů. Společnost uznává, že technologie není neomylná a že navzdory pokroku se chyby a případy, kdy obsah proklouzne filtrem, budou i nadále vyskytovat.
V tomto scénáři je implementace umělé inteligence na Instagramu a Facebooku pro moderování obsahu jak technologické hnutí jako politické hnutíSnaží se zlepšit bezpečnost a zároveň ukázat regulačním orgánům, uživatelům a inzerentům, že společnost reaguje na problémy, které jí byly připisovány již léta.
Implementací těchto modelů umělé inteligence a asistenta podpory 24 hodin denně, 7 dní v týdnu společnost Meta nově definuje způsob, jakým monitoruje dění na svých sociálních sítích: více automatizace, rychlejší reakce a poněkud odlišná role lidských moderátorů v kontextu, kde se bezpečnost, ochrana dětí a dodržování evropských předpisů staly ústředními prvky diskuse o budoucnosti Facebooku a Instagramu.
