Image Alternative text

Přibývá lidí, kteří se snaží oklamat novináře, a redakce na to nejsou připraveny

Publikováno: 01/04/2019

Článek původně publikovaný 19. července 2018 na webu NiemanLab byl přeložen se souhlasem vydavatele.

Autor: Heather Bryant

 

Robyn Tomlin v posledních dvaceti letech vedla redakce v New Yorku, Texasu a Severní Karolíně a ve víru neustálých změn si všimla jedné věci, která přetrvává: plejáda lidí, kteří se snaží podvést novináře, neustále roste.

„Když se zvyšuje zájem, lidé vynalézají nové technologie, jak si ve svém záměru pomoct. V tomto případě je ten záměr oklamat nás,“ říká Tomlin, oblastní editorka vydavatelství McClatchy pro Severní a Jižní Karolínu. Dříve pracovala jako vedoucí redaktorka novin Dallas Morning News a editorka projektu Thunderdome zpravodajského vydavatelství Digital First Media.

Jakoby v malých i velkých redakcích novináři jako Tomlin museli hrát videohru, u které nejde změnit nastavení a každý rok se jim zvýší obtížnost novými překážkami, větším počtem protivníků, složitějšími událostmi a nepřátelskou mašinérií, která jakoby věděla předem, co udělají.

Čím dál rychlejší rozvoj nástrojů založených na umělé inteligenci, které dovedou pozměňovat nebo od základu vytvořit přesvědčivá videa, fotografie, a zvukové záznamy, znamená přechod na novou úroveň obtížnosti. Dnes již většina z nás viděla nějaký sofistikovaný falzifikát (deepfake), například video Jordana Peelea/Baracka Obamy, belgické video Donalda Trumpa a další.

 

Vědci z Washingtonské univerzity vyvinuli nástroje, které dokážou podle zvukového záznamu vytvořit odpovídající realistické video člověka. Snímek z videa.

 

Redakce mají trojí problém: jak rozpoznat kvalitní padělky, jak vzdělávat veřejnost a nevyvolávat přitom apatii a ještě hlubší nedůvěru, a jak zabránit tomu, aby nástup těchto technologií zpochybnil legitimní a pravdivá zpravodajství.

„Možná nejtěžší bude zvládnout mnohostrannost problému,“ říká Mandy Jenkins, vedoucí zpravodajství platformy sociální inteligence Storyful, na kterou mnoho redakcí spoléhá při ověřování obsahu generovaného uživateli. Jenkins bude v roce 2018/19 bádat na Standfordské univerzitě jako stipendistka John S. Knight Journalism Fellowships, kde se spolu s kolegy zaměří na problémy, se kterými se v budoucnu bude muset vyrovnat žurnalistika.

 

 

„Umělá inteligence se zlepšuje a bude skoro k nerozeznání. Proto se budeme muset víc zaměřit na zdroje,“ říká Jenkins. „Kdo to sdílí? Jakou má motivaci? Kde se to skutečně vzalo? Původ zprávy bude důležitější než dřív, protože nebude možné důvěřovat například místu události. Druhotná svědectví začnou být významnější a možná i komplikovanější, podle toho, co na tom videu bude, ale i v takové situaci by mělo být zpravodajství možné. Alibi, zkoumání souvisejících událostí. Kdo to ještě viděl? Kdo o tom ještě ví? Kdo to natočil?“

 

Závod ve zbrojení v boji o pravdu

Existují snahy vytvořit software, který by mohl pomoci ověřit původ obsahu. Je to například software, který rozpozná anomálie, nebo digitálně podepsané soubory, které zaznamenají každý krok od vytvoření fotografie, videa nebo zvukového záznamu až do bodu jeho šíření a přitom si zapamatují každou provedenou změnu. Nicméně většina těchto nástrojů ještě není použitelná nebo je většina zpravodajských organizací nemá k dispozici.

Odborník na digitální forenziku Hany Farid z Dartmouth College poznamenává, že závod ve zbrojení mezi nástroji k falšování obsahu a nástroji k odhalování padělků se zatím nevyvíjí ve prospěch pravdy. „Dnes je skutečnost taková, že hrstka lidí na světě dokáže taková digitální média ověřit, ale to samozřejmě nestačí,“ říká. „Nemůžete volat těm samým třem lidem, kdykoli potřebujete něco zkontrolovat.“ Když redakce jako New York Times kontaktovaly Farida, aby jim pomohl ověřit nějaký materiál, ještě nedávno mu na to daly den. Při dnešním super rychlém tempu zpráv už chtějí mít novináři tuto složitou analýzu hotovou během hodin.

Washington Post důvěřuje videím a fotografiím od Associated Press, Reuters a Storyful a spoléhá „silně na jejich metody ověřování, kterým rozumíme, máme je vyzkoušené, a o kterých jasně víme, jak videa kontrolují,“ říká senior editor Micah Gelman, ředitel videa deníku Washington Post. Gelmanův tým zatím však nemá zdaleka takovou důvěru k obsahu generovanému uživateli.

Za běžnější formu pokusů o klamání veřejnosti považuje Gelman dezinterpretaci fotografií a videonahrávek. Jsou to například fotografie předkládané jako současné snímky třeba ze Sýrie, které jsou ve skutečnosti staré nebo z jiných nesouvisejících událostí. Pracovníci Washington Post se školí u odborníků, jak dělat víc, než je obvyklá ověřovací praxe, která většinou spočívá v hledání nedokonalostí v práci falzifikátora. Jsou to chyby jako nedůsledné odstranění někoho nebo něčeho, nepřesné stíny, chybějící odrazy nebo jiné porušování fyzikálních zákonů, či hrubé střihy, které odhalí analýza snímků z videa nebo zvukové stopy.

„Ještě nějakou dobu potrvá, než opravdu přijdeme na to, jak s tím bojovat kromě tradičních metod, které už se pár let používají,“ říká Gelman. „Myslím, že je to zásadní změna. Společnost ještě nikdy nečelila tak mocné schopnosti falšovat. Když vezmete v úvahu, kolik lidí ještě pořád naletí na primitivní falešné články, a přidáte k tomu možnost zfalšovat něco, co pak i uvidíte, včetně hlasu a tváře veřejného činitele, myslím, že to může napáchat škody po celém světě."

V blízké budoucnosti bude možné fotografické aplikace, které automaticky zlepšují fotografie nebo umožňují zásahy jako změnu denní doby, použít snadno jako filtry na Instagramu. Ačkoli tyto technologie existují už dnes, Jenkins ze Storyful věří, že je ještě dost času, aby redakce investovali do školení a vzdělávání veřejnosti, a tím zmenšily účinnost vysoce kvalitních falzifikátů.

 

Badatelé Google a Massachussettského technologického institutu (MIT) vytvořili systém, který umí automaticky retušovat snímky ve stylu profesionálních fotografů. Systém může běžet i na mobilním telefonu a je tak rychlý, že vyretušované fotografie dokáže zobrazovat v reálném čase, takže fotograf vyretušovanou verzí vidí dřív, než vůbec stiskne spoušť. (Převzato ze zpráv MIT)

 

„Ještě nějakou dobu to nebude v tak vysoké kvalitě dostupné všem a snad se nám podaří ten příliv částečně odrazit vzděláváním veřejnosti ve školách i v médiích,“ říká Jenkins. „Je na nás novinářích, abychom sehráli svou úlohu ve vzdělávání, odhalování a transparentnosti ohledně tohoto procesu, jelikož technologickým firmám rozhodně nelze vždy důvěřovat. Bylo by to krásné, ale já myslím, že to nelze.“

 

 

Dokud ještě zbývá čas, redakce by měly výrazně zapracovat na začlenění ověřovacích technologií do svých pracovních postupů i přes tlaky na uzávěrky, a najít způsoby, jak je zaplatit. Málokterá redakce kromě těch vybavených velkým technickým zázemím může pomýšlet na vývoj vlastních technických řešení. Robyn Tomlin z McClatchy říká: „Myslím, že to je aktuální problém a to zvláště pro menší a střední redakce, které nemají zkušenosti, technologie a odbornost k potřebné k rozhodování anebo ani nemusí vědět, co mají hledat."

Většina organizací značně zaostává ve využívání profesionálních digitálních nástrojů. Průzkum využití technologií v mezinárodních redakcí, který provedlo Mezinárodní centrum pro žurnalisty, zjistil, že 71% novinářů používá sociální sítě jako zdroj zpráv, ale jen 11% z nich používá sociální sítě jako nástroj k ověřování. Navíc jen 5% redaktorů má vysokoškolské vzdělání v oborech souvisejících s technologiemi. Studie došla k závěru, že novináři s technologiemi nedrží krok.

 

Problém máme teď a tady

Odborníci na digitální úpravy médií ohledně připravenosti na tuto hrozbu hovoří naléhavěji než novináři.

„Upřímně si myslím, že na to nejsme připravený nikdo. Není to jen otázka žurnalistiky nebo technologií, ale i sociálních sítí,“ říká Farid, který se zabývá digitální forenzikou, analýzou obrazu a lidským vnímáním. Pracuje například na vývoji nástrojů a postupů k detekci zneužívání dětí nebo extremistického obsahu.

Farid je součástí projektu Medifor americké Agentury ministerstva obrany pro pokročilé výzkumné projekty (DARPA), který má za cíl zpřístupňovat forenzní techniky policii a novinářům. Měl také veřejné prezentace o potřebě globální komise pro etiku v kybernetice, která by přivedla k odpovědnosti firmy umožňující šíření dezinformací.

Aviv Ovadya, vrchní technolog Centra pro společenskou odpovědnost, problém rozděluje na tvorbu, šíření a přijímaní. Tvorba je vývoj software a aplikací, které usnadňují manipulaci nebo vytváření klamavého materiálu a s tím související dostupnost takových nástrojů. Šíření zahrnuje platformy, kde jsou lidé manipulaci vystaveni. Přijímání je pak dopad těchto manipulací na veřejnost a její vnímání světa.

V současné době, říká Ovadya, není žádná infrastruktura, která by zajišťovala odpovědnost inženýrů, kteří tyto technologie vytvářejí, ať už pracují pro technologické firmy nebo pro akademickou sféru. „Potřebujete lidi, kteří za to budou placení, bude to jejich práce. Jejich práce bude porozumět následkům, vedlejším efektům. A to v současné době neexistuje. A něco takového nutně potřebujeme.“

Zároveň firmy jako Facebook, YouTube a Twitter musí začít přemýšlet v širším měřítku než jen z perspektivy obchodních modelů založených na reklamě, říká Farid. Tvrdí, že všechny tyto platformy musí uznat, že jsou víc než jen neutrální komunikátory.

„Kdyby šlo jen o ukládání obsahu, mohli bychom se rozumně bavit o tom, jak aktivní by tyto platformy měly být,“ říká Farid a dodává: „Ale ve skutečnosti dělají o hodně víc. Aktivně obsah propagují.“

Farid poukazuje na uprchlickou krizi Rohingyů v Myanmaru jako na příklad těchto úskalí. Videa a příspěvky, které se snaží podněcovat nálady proti Rohingyům, se sdílí na sociálních platformách. „Jsou tu v sázce skutečné lidské životy a tyto firmy se musí rozhodnout, jaká je jejich odpovědnost,“ říká. „Myslím, že dokud se nerozhodnou chovat lépe, tak ať se na jiných frontách zlepšíme jakkoli, stejně budeme mít velký problém. Protože nakonec nám všechen obsah přinášejí právě tyto platformy.“

Pokud šíření zpráv zkoumáme z pohledu redakcí, nikdo ještě nevyřešil, jak udržet krok s bleskově se šířící záplavou dezinformací v informačním ekosystému. Clay Lambert je ředitel pětičlenné redakce Half Moon Bay Review v Severní Kalifornii, kde, jak říká, postrádá lidi a technologie k odhalování a ověřování v potřebném tempu. „Věci lze od základu zfalšovat tak, že vypadají naprosto normálně. Takže Bůh žehnej naději, že žurnalistika odhalí všechny podvodníky,“ říká.

Na místní úrovni je pravděpodobnější hrozba přehánění za účelem pokřivení obecného vnímání, zakrývání podvodů nebo šíření netolerance. „Problém nejsou videa nebo fotografie z akcí, kde je více svědků, ale když jde o něco výjimečného nebo neobvyklého, co nikdo jiný nezachytil," říká Lambert.

Ať už se ověřování vyvine jakkoli, Micah Gelman z Washington Post se nedomnívá, že by se v budoucnosti redakce méně spoléhaly v získávání informací na obsah generovaný uživateli.

„Je to problém způsobený příležitostí. Všichni teď máme pořád u sebe videokameru. Všichni. Mám na mysli kamery v telefonech. A to je žurnalistická příležitost zachycovat zprávy, jaká tu ještě nikdy nebyla,“ říká. „Nemůžeme říct, že s tím přestaneme. Nemůžeme se vzdát té obrovské příležitosti vyprávět příběhy, kterou nám dala technika. Místo toho si musíme přiznat, že stejně jako u všech převratných nových způsobů, jak vyprávět příběhy, které přinesla technika, je i tady riziko, a naše práce je tomuto riziku zabraňovat a nedělat chyby.“

 

Kapacita a transparentnost

Mnoho redakcí považuje potlačování těchto rizik za věc důkladného ověřování faktů a důsledné transparentnosti.

Versha Sharma je vedoucí redaktorka a kmenová korespondentka distribuované video-zpravodajské společnosti NowThis, která publikuje výhradně na sociálních sítích. Sharma zdůrazňuje důležitost vícevrstevné struktury NowThis. „Pro nás má nejvyšší prioritu, protože my děláme jen video na sociálních sítích,“ říká Sharma. „Dáváme si pozor, aby kontrola faktů a ověřování zpráv byla pro každého našeho zpravodajce na prvním místě.“

NowThis často zdroje záběrů uvádí přímo ve svých videích a opakuje je v závěrečných titulcích.

„Žádáme naše zpravodajce, aby uváděli zdroje záběrů, ať už jsou jakékoli: předplacená služba, soukromá osoba nebo sociální sítě, prostě cokoli, aby to naše publikum vždy vědělo,“ říká Sharma.

Transparentnost je jedna z taktik, která má nejlepší potenciál pomoci redakcím vyvracet čím dál běžnější tvrzení, že něco je falešná zpráva. Nejde jen o to, že technologie, které umožňují rafinované úpravy nebo tvoření nového mediálního obsahu, se používají ke klamání veřejnosti. Už pouhá existence takových technologií dává kritikům možnost tvrdit, že pravdivé zpravodajství a záznamy jsou falešné.

„Nejděsivější je to, že nové technologie jsou snadný nástroj pro politiky, komentátory nebo kohokoli jiného, kdo chce rozsévat nedůvěru. Teď k tomu mají velmi jednoduchý prostředek,“ říká Sharma.

Novináři ze všech oblastí přemýšlejí, jak vzdělávat veřejnost, aby rozumněla jak technologiím, tak etické otázkám, souvisejícím s tvorbou digitálního videa, fotografií a zvukových záznamů. Zpravodajské redakce stojí před jasným úkolem. Nedávný průzkum projektu Media Insight, který organizuje American Press Institute, na téma jak se vzájemně chápou Američané a zpravodajská média, došel k závěru, že „naše veřejnost ne zcela rozumí tomu, jak pracují novináři, a naši novináři se vyjadřují pro velkou část veřejnosti nesrozumitelně.“

Mnozí novináři si začínají uvědomovat, že nenastává konečná bitva o vítězství, jen přicházejí nové úrovně obtížnosti.

„Myslím, že se blíží situace, ve které se nutně spálíme a mnozí se spálí opravdu hodně,“ říká Tomlin, „než se začneme doopravdy snažit pochopit, jak je problém vážný.“

 

Poznámka redaktora: Heather Bryant je novinářka a vývojářka softwaru spolupracující s katedrou žurnalistiky a John S. Knight Journalism Fellowships na Stanfordské univerzitě. Jay Hamilton ze stanfordské katedry komunikace ji požádal o analýzu blízké budoucnosti manipulace médií a tvorby falešných videí, fotografií a zvukových záznamů s pomocí umělé inteligence, a také strategií zpravodajských redakcí, jak se s tím vypořádat. Následující článek shrnuje její zjištění. Redakčně upravil R. B. Brenner.

 

Vymstila se mediální gramotnost?

„Masové šíření a přijímání propagandy a falešných zpráv znervóznělo mnohé progresivisty, kteří nyní volají po větší snaze o výuku mediální gramotnosti. Jiní zase horují za řešení založená na odborném ověřování faktů a jejich označování. Obě snahy nejspíš nebudou k ničemu. Problém je totiž podstatně hlubší, než si většina lidí uvědomuje."

Hackování ekonomiky pozornosti

Nové formy informační manipulace jsou tu. Autorka Danah Boyd přibližuje nedávnou historii účinné práce s naší pozorností: „Na zpravodajská média manipulátoři hrají jako na housle, zatímco decentralizované skupiny lidí využívají neustále se rozvíjející síťové nástroje k manipulaci ekonomikou pozornosti.“

Ověřování faktů nás nezachrání před falešnými zprávami

„Když vidím, jak se falešné zprávy šíří, i když je dostupná fakta vyvrací, jsem z toho stejně nervózní, jako každý jiný novinář. Ale jestli nezáleží na faktech, tak na čem? Dějiny zpráv a mocenských struktur, které řídí jejich šíření a přijímání, mohou napovědět, jak se s falešnými zprávami poprat způsobem, na který ověřování faktů samo nestačí.“