Obsah
- Vztek proti stroji (učení)
- Řekni mi lži, řekni mi sladká lži
- Žádné chyby, žádný stres - Váš průvodce krok za krokem k vytváření softwaru pro změnu života, aniž by došlo ke zničení vašeho života
- Blokování řetězce lží Blockchainem
- Nekrmte Troll
Zdroj: Wrightstudio / Dreamstime.com
Odnést:
Falešné zprávy se pokoušejí lidi manipulovat k tomu, aby věřili nepravdivosti, a to z důvodů od jednoduchého zvyšování počtu kliknutí na sociálních médiích až po ovlivňování voleb. Technologie však bojuje s novými strategiemi, jak ji identifikovat a zastavit.
V posledních několika letech získala fráze „falešné zprávy“ nový význam, protože sloučila všechny formy dezinformací pocházejících z vládních spiknutí, veřejné propagandy, dospívajících internetových reklam a zavádějících reklam. Jinými slovy, ačkoli žijeme ve světě, kde jsou všechny druhy informací téměř okamžitě přístupné, hranice mezi pravdou a lži nebyla nikdy nejasnější.
Historie je plná těchto „nezdravých příběhů“, z nichž některé jsou tak staré jako samotný starověký Egypt. Věděli jste, že v 13. století před naším letem faraon Rameses the Great falešně vykreslil bitvu Kadesh jako ohromující vítězství pro svou armádu, zatímco ve skutečnosti skončil ve slepé uličce proti Chetitům? Pokud je vaše odpověď (téměř jistě) „ne“, tak jsem to taky neudělal. Jednoduše jsem si to přečetl na Wikipedii po rychlém hledání ne více než pár sekund - takže doufám, že to není také falešný příběh.
Dnes tu máme problém, protože nové nevyžádané zprávy jsou zveřejňovány den co den díky spoustě poněkud zlých technologií, které byly vyrobeny k tomu, aby uváděli lidi v omyl, někdy dokonce i v hlasování pro nějakého bezohledného politika. Ale hej, nemusíš se bát. Dobrou zprávou (odpusťte hříčku) je, že jiný jsou vyvíjeny technologie pro řešení falešných zpráv a jejich zpět na místo, kam skutečně patří - do koše. (Někteří si myslí, že příští iterace World Wide Web pomůže omezit falešné zprávy. Další informace najdete přímo od odborníků na techniku: Jaký bude hlavní rys webu 3.0?)
Vztek proti stroji (učení)
Jedním z nejběžnějších způsobů šíření falešných zpráv je použití velkého počtu robotů. Potenciál pro automatizaci je obrovský, pokud jde o distribuci nebo zlepšení viditelnosti na sociálních médiích. Boti mohou být naprogramováni tak, aby sdíleli, komentovali nebo jako post nespočet časů, zvyšovali dojmy obsahu a oslovovali velké množství lidí využíváním stejných pravidel, na nichž je postavena většina platforem sociálních médií.
Zastavení robotů v jejich stopách je proto jedním z nejúčinnějších způsobů potlačení epidemie, ale otázka zůstává stejná - jak můžete rozpoznat robota a poznat rozdíl mezi lidmi a stroji? Pro ostatní lidi je to docela jednoduché, ale žádné oddělení IT nikdy nedosáhlo škálovatelnosti potřebné k dobytí armády robotů. zřejmě vyvinul vlastní anti-bot technologii, ale nikdy nevysvětlil úplné podrobnosti o jeho funkčnosti. Během minulého rozhovoru s The New York Times Mark Zuckerberg jednoduše odhalil, že „nasadili některé nové nástroje AI k identifikaci falešných účtů a falešných zpráv“ pocházejících z makedonských falešných zpráv za účelem zisku.
Přestože stále existují nějaké spekulace ohledně skutečných metod používaných k identifikaci robotů, zdá se, že většinu těchto spamových účtů lze označit za umělou, protože všichni sdílejí určité podobnosti v prezentaci a načasování. Anti-bot software dokáže tyto vzory rozeznat pomocí analýzy dat a poté je označit pro další zkoumání. Biometrická autentizace se také používá k určení, které účty nejsou ničím jiným než robotem a zastaví problém u zdroje.
Řekni mi lži, řekni mi sladká lži
Další přístup k vykořenění tohoto problému je vypořádat se s falešnými zprávami samotnými - což je zřejmě ještě komplikovanější než jen zabíjení některých robotů. Navzdory různým pokusům zatím AI selhala na mnoha úrovních, protože prostě nedokáže porozumět psaní lidí tak, jak to dělají lidé. Teoreticky je stroj učen detekovat články "postoj", jako je tón, sentiment a styl používaný při psaní příběhu, a určit, zda informace mohou být nepřesné nebo očividně nepravdivé. AI provede hloubkovou analýzu obsahu, adresy URL a struktury nadpisu, jakož i webu, který zprávy zveřejnil, jeho webového provozu, účtu a celkového zapojení do sociálních médií. Výsledky však byly zvláště povzbudivé, s úrovní úspěchu zhruba 65 procent. Lidé jsou stále potřební, aby pomohli upřesnit výsledky a potvrdit zjištění, takže celý systém je stále v plenkách. Některé věci, jako je jemnost tónu, kulturní konotace nebo dokonce jen nějaký dobrý starý humor, jsou prostě mimo schopnost strojů pochopit.
Videa jsou však na úplně jiné úrovni. Nejchytřejší technologie strojového učení, jako je generativní protivníková síť (GAN), mohou vytvářet neuvěřitelně realistická videa lidí, jako je Barack Obama, který říká hodně věcí, které nikdy neřekl. Se správnými technologiemi nebylo nikdy tak snadné vytvořit falešný obraz. Jak vysvětlil Hany Farid, profesor informatiky na Kalifornské univerzitě, který bojuje proti těmto „hlubokým podvodům“, „technologie se demokratizuje“. Alespoň tentokrát však jiné stroje mohou detekovat tyto zjevně neviditelné modifikace aplikované na lidskou tvář a detekovat falešná videa. Ve skutečnosti mohou tyto umělé inteligence hledat podrobnosti, které lidské oko nikdy nemůže zachytit, jako jsou nepatrné změny světla, nedostatek blikání nebo změna barvy obličeje, která odpovídá tepu srdce. Vědci pracující na těchto projektech však musí své zřejmé strategie uchovat ze zřejmých důvodů v tajnosti.
Žádné chyby, žádný stres - Váš průvodce krok za krokem k vytváření softwaru pro změnu života, aniž by došlo ke zničení vašeho života
Nemůžete zlepšit své programovací schopnosti, když se nikdo nestará o kvalitu softwaru.
Blokování řetězce lží Blockchainem
Blockchain neustále poskytuje řešení téměř každého moderního problému. Kromě mnoha dalších věcí (které mohou zahrnovat bitcoiny) může tato neuvěřitelně všestranná technologie fungovat taky být zvyklý na vzpříčení zející rány, které falešné zprávy způsobily naší společnosti. Blockchain může ve skutečnosti zajistit tolik potřebnou transparentnost a odpovědnost, jakou svět zpráv tolik potřebuje. Zaprvé, může pomoci sledovat původ každého článku a části obsahu, jakož i jeho následné kroky, například kdo jej sdílí a kde.
Za druhé, může pomoci revoluci v současném systému monetizace, který je založen více na generování pohledů než na poskytování kvalitního obsahu. Ti, kteří vydělávají více peněz, jsou ti, kteří jsou schopni sdílet svůj obsah na více místech - což je mnohem jednodušší, když je článek nabitý alarmistickými tvrzeními, naplněnými konspiračními teoriemi a vylepšenými strašidelnou taktikou. Blockchain by mohl pomoci mediálním platformám vytvořit jejich vlastní soběstačné ekonomiky, kde by mohly být kryptocoiny použity k motivaci autorů k vytváření spolehlivých a fakticky ověřených informací. Interní šifrování dat, ověření identity a úplná sledovatelnost jakéhokoli kusu, aby se zkontrolovala autorská zaujatost, jsou jen třešničkou na dortu. (Více informací o blockchainu naleznete v tématu Jak blockchain mění způsob, jakým vy a já podnikáte.)
Nekrmte Troll
Vážně, dont. Hle, bude to obrovský, pokud ano. Pointa je, že ačkoliv nám stroje a technologie mohou pomoci omezit vznikající množství falešných příběhů, kterým byly vystaveny, v konečném důsledku je naší povinností pečlivě si přečíst vše, na co jsme se zaměřili. Koneckonců, lidé říkali ostatním lži od úsvitu civilizace, ale (pokud vím), starověcí Egypťané neměli tehdy AI, aby jim pomohli oddělit pravdu od lží.
Všichni máme mentální schopnosti strávit pár sekund déle než jeden za druhé a zkontrolujte zdroje toho, co čteme. S technologiemi nebo bez nich, které nám pomohou, až příště skončíš ve víře něčeho, co je naprostá lež, nezapomeň také, že je to tvoje chyba.