Obsah
- Hacking AI
- Boj zpět
- Žádné chyby, žádný stres - Váš průvodce krok za krokem k vytváření softwaru pro změnu života, aniž by došlo ke zničení vašeho života
Zdroj: Sdecoret / Dreamstime.com
Odnést:
AI má potenciál chránit data jako nikdy předtím, ale také má potenciál ukrást data jako nikdy předtím. Bezpečnostní profesionálové i hackeři se snaží z této technologie vytěžit maximum.
Odborníci na kybernetickou bezpečnost hledí na umělou inteligenci (AI) s nadšením i strachem. Na jedné straně má potenciál přidat zcela nové vrstvy obrany pro kritická data a infrastrukturu, ale na druhé straně může být také použit jako výkonná zbraň k potlačení těchto obran, aniž by zanechala stopy.
Jako každá technologie má AI jak silné, tak silné stránky, které lze využít. Výzvou pro dnešní bezpečnostní odborníky je udržet krok vpřed před padouchy, což by mělo začít jasným pochopením toho, jak může být umělá inteligence použita jako útočná datová zbraň.
Hacking AI
Pro jednu věc, říká Wiredova Nicole Kobie, bychom si měli uvědomit, že stejně jako v jakémkoli datovém prostředí, i samotná AI může být napadena. Srdcem každého inteligentního procesu je algoritmus a algoritmy reagují na data, která získají. Vědci již ukazují, jak lze neuronové sítě přimět k tomu, aby si mysleli, že obrázek želvy je ve skutečnosti obrázkem pušky a jak jednoduchý štítek na stopce může způsobit, že autonomní automobil jede přímo do křižovatky. Tento druh manipulace je možný nejen po nasazení AI, ale i když je školen také, což potenciálně dává hackerům možnost vyvolat všechny druhy chaosu, aniž by se museli dotknout infrastruktury klientského podniku.
I když rozhodně není nedostatek nespokojených osob, jejichž jediným cílem je ublížit lidem a způsobit teror, skutečnou cenou v hackerské hře je detekce hesla a všechny možnosti krádeží / vydírání, které s tím přicházejí. V loňském roce vytvořil Stevensův technologický institut program, který demonstruje sílu, kterou AI v tomto procesu přináší. Vědci naplnili řadu známých programů prolomení hesla pomocí inteligentních algoritmů, kteří byli vyškoleni, aby odhadovali pravděpodobné kombinace písmen a číslic, a během několika minut získali více než 10 milionů hesel LinkedIn. Jakmile se objeví více hesel, lze je samozřejmě použít k trénování těchto výukových algoritmů, takže se časem stanou efektivnějšími, i když jsou používána běžná obranná opatření, jako je rutinní změna hesla. (Další informace o heslech naleznete v části Jednoduše zabezpečená: Změna požadavků na heslo je snadnější pro uživatele.)
Je možné, že tyto nástroje již používá zločinecké podzemí? Vzhledem k tomu, že jsou snadno dostupné služby AI založené na cloudu a temný web funguje jako clearingový dům pro všechny druhy kryptografického softwaru, bylo by překvapivé, kdyby tomu tak nebylo. Společnost pro analýzu hrozeb Darktrace říká, že vidí rané známky populárních malwarových programů, jako je TrickBot, které ve svých úkolech vykazují neustálé povědomí o krádeži dat a uzamčení systémů. Zdá se, že vědí, co hledat a jak to najít studiem cílové infrastruktury, a pak se sami rozhodnou, jak nejlépe zabránit detekci. To znamená, že program již nemusí udržovat kontakt s hackerem prostřednictvím příkazových a řídicích serverů nebo jiných prostředků, což je obvykle jeden z nejúčinnějších prostředků pro sledování pachatele.
Mezitím tradiční phishingové podvody začínají vypadat stále více a více autenticky, z velké části proto, že nástroje AI mohou způsobit, že původní vzhled pochází z důvěryhodného zdroje. Například zpracování přirozeného jazyka je navrženo tak, aby napodobovalo lidskou řeč. V kombinaci s snadno dostupnými údaji, jako jsou jména a adresy výkonných osob, může vytvořit missive, který je tak realistický, že dokáže oklamat i blízké spolupracovníky. Průměrný spotřebitel je stejně citlivý, vzhledem k tomu, že společnost AI je schopna vytěžit všechny druhy dat a podvádět podvodníka osobními informacemi.
Boj zpět
Jak je uvedeno výše, AI je obousměrná ulice. I když to může hackerům umožnit provozovat kruhy kolem tradičních bezpečnostních systémů, ale také zefektivňuje současné bezpečnostní systémy. Podle časopisu Insurance Journal byl Microsoft v poslední době schopen zmařit pokus o hacknutí svého cloudu Azure, když jeho bezpečnostní režim naplněný umělou inteligencí zaznamenal falešný zásah ze vzdáleného webu. Pokus by byl bez povšimnutí podle dřívějších protokolů založených na pravidlech, ale schopnost AI učit se a přizpůsobovat se novým hrozbám by měla dramaticky zlepšit schopnost podniku chránit se, i když data a infrastruktura tlačí kolem tradičního firewallu do cloudu a internetu věci. Všichni přední poskytovatelé cloudů v hyperscale agresivně implementují AI na svých bezpečnostních patách, protože čím dříve je uveden do akce, tím více se toho dozví v době, kdy narazí na hackery s oprávněním na AI. (Další informace naleznete v tématu Jak vylepšení AI ovlivňují zabezpečení, kybernetickou bezpečnost a hackování.)
Tímto způsobem je AI pouze poslední eskalací v bezpečnostní válce tit-for-tat, která probíhá po celá desetiletí. Jak se objevují nové hrozby, narůstá nová obrana, která jim čelí, se stejnými základními technologiemi podporujícími obě strany.
Žádné chyby, žádný stres - Váš průvodce krok za krokem k vytváření softwaru pro změnu života, aniž by došlo ke zničení vašeho života
Nemůžete zlepšit své programovací schopnosti, když se nikdo nestará o kvalitu softwaru.
Pokud bude něco, AI tento proces pravděpodobně urychlí a současně odstraní mnoho praktických činností od lidských operátorů. Bude to pro dnešní kybernetické válečníky dobrá nebo špatná věc? Pravděpodobně kombinace jak bílých, tak i černých klobouků se vzdává matic a šroubů kódujících jejich útoky a obranu a soustředí se na strategičtější aspekty moderní počítačové kybernetické války.