Obsah
- Spalován strojem
- Automatizace a přerušení práce
- Žádné chyby, žádný stres - Váš průvodce krok za krokem k vytváření softwaru pro změnu života, aniž by došlo ke zničení vašeho života
- Aplikace ze spotřební elektroniky
- Opětovné získání kontroly
- Jak by to mohlo fungovat
Zdroj: Artinspiring / Dreamstime.com
Odnést:
Aby automatizace pracovala spíše s lidstvem, než proti němu, potřebujeme záruky a informované lidi, kteří jsou oprávněni zastavit nebo opravit chybu systému.
"Chybovat je lidské; K tomu, aby se věci opravdu zneškodnily, je zapotřebí počítač. “William E. Vaughan učinil toto pozorování již v roce 1969. Poskytnutí kontroly nad automatizovaným systémem nese potenciál systému, aby se zhoršil a způsobil vážné poškození, než bude zkontrolován.
Automatizace není nová, ale díky integraci digitálních a fyzických systémů se stává mnohem rozšířenější. Výhodou automatizace v měřítku je vysoká účinnost. Nevýhodou spoléhání na systém set-it-and-forget-it je však to, že to někdo nemusí správně nastavit.
Se systémem, který jednoduše následuje bez zásahu a bez zastavení strojního zařízení, můžete mít destruktivní účinky. V souladu s tím může technika vytvořit typ situace znázorněné v „Čarodějův učeň“, když to, co vypadá, že usnadňuje život, skutečně vyprší kontrole.
Spalován strojem
Automatizace bez zásahu vedla v loňském roce k tomu, že se technický pracovník v U.K. ocitl z práce bez příčiny. Ibrahim Diallo si všiml, že jeho bezpečnostní prověrka nepracuje v práci, a zjistil, že je to proto, že byl bez práce. „The Machine Fired Me“ je titul, který dal svému rozšířenému blogovému příspěvku na akci.
Příčinou ukončení Diallo nakonec nebylo nějaké hodnocení algoritmu, které určovalo, kdo by měl být vyloučen. Problém nebyl v systému, ale byl jednou z lidských chyb. V takovém případě šlo o automatickou reakci na to, že člověk nezadal informace o obnovení smlouvy Diallo.
Není to tak, že by se stroj rozhodl, že by měl být propuštěn pro něco konkrétního. Prostě provedl kroky, které do ní byly naprogramovány, pro někoho, jehož status se ukázal jako přestal být zaměstnán. Jak vysvětluje v komentářích, nejedná se o skutečnou umělou inteligenci, ale o „automatizovaný skript“. (Chcete-li se dozvědět, jak umělá inteligence může pomoci (místo zranění) v podnicích, podívejte se, co může umělá inteligence udělat pro podnik.)
Automatizace a přerušení práce
Tento druh účinku není přesně to, co si lidé myslí při popisu úžasných výhod, které můžeme v automatizované budoucnosti očekávat. Obvyklý optimistický výhled pro posun v úlohách, protože úkoly jsou přijímány automatizací, budou úlohy nově definovány - nebudou ukončeny automatizovanými systémy. Skutečností však je, že některá pracovní místa budou odstraněna a lidé, kteří je zastávali, nemusí být schopni do plynulého přechodu k novým profesím ve velmi automatizovaném odvětví.
Přerušení práce je jedním z menších rizik, které Elon Musk předpokládal pro vzestup AI, i když jeho vlastní vize dopadu na pracovní místa je mnohem pesimističtější než Fitzgeraldova. Podle názoru Muska vyžaduje umělá inteligence přísnou regulaci, protože představuje „základní existenciální riziko pro lidskou civilizaci“.
Žádné chyby, žádný stres - Váš průvodce krok za krokem k vytváření softwaru pro změnu života, aniž by došlo ke zničení vašeho života
Nemůžete zlepšit své programovací schopnosti, když se nikdo nestará o kvalitu softwaru.
Aplikace ze spotřební elektroniky
Přes Muskovy vlastní technické pověření, někteří odborníci v oboru, jako je Rodney Brooks, který sloužil jako zakládající ředitel počítačové laboratoře a laboratoře umělé inteligence MIT, a spoluzakládali iRobot a Rethink Robotics, tvrdí, že Musk se mýlí, pokud jde o hrozbu AI a jak robotika ve skutečnosti fungují.
V rozhovoru pro TechCrunch Brooks uvedl, že je pošetilé požadovat regulaci, aniž by technologie byla vyzrálá do bodu, kdy můžeme přesně určit, co musí být regulováno. Vyzval Muska: „Pověz mi, jaké chování chceš změnit, Elone?“
Brooks připustil, že roboti způsobí přemístění práce. Ale také si myslí, že je možné posunout paradigmu v průmyslu tak, aby se řídilo paradigmatem spotřební elektroniky.
Způsob, jakým to uvedl v rozhovoru TechCrunch, byl: „Ve výrobě zařízení máme tradici, že má hrozná uživatelská rozhraní a je to těžké a musíte absolvovat kurzy, zatímco ve spotřební elektronice jsme vyrobili stroje, které používáme, aby učili lidi jak je používat. “
To je to, co řekl, by mělo být cílem změnit způsob, jakým se vztahujeme k „průmyslovému vybavení a jiným druhům zařízení, aby stroje učily lidi, jak je používat.“
Opětovné získání kontroly
To, co Brooks navrhuje, nás může nasměrovat směrem k řešení problému lidské chyby, který odstartuje automatizovaný proces, který se zdá být mimo kontrolu. Vrátíme-li se zpět k Mickeyovu omylu v „Čarodějově učni“, problém pramení z osoby, která systém aktivuje, ale nemá žádný skutečný způsob komunikace, aby ho zastavil nebo změnil směr.
Pokud by však rozhraní bylo vytvořeno spíše podle spotřebitelské elektroniky než tradičních průmyslových modelů, mohlo by to doslova dát kontrolu zpět do lidských rukou. Aby bylo rozhraní skutečně efektivní, musí být nejen dostupné, ale musí být navrženo tak, aby udržovalo lidi ve smyčce o tom, co se děje, a poskytovalo údaje o aktualizacích, které obdrželo, ao tom, jaké kroky podniklo.
Jak by to mohlo fungovat
V případě náhodného ukončení Diallo by to znamenalo, že automatizovaný systém ho nejen uzamkne ze systému, a poté poskytne náborovému pracovníkovi, že byl ukončen. Nejprve uznává, že obnovení smlouvy nebylo uzavřeno v očekávaném datu. Před zahájením ukončovacích akcí by nabídl jeslíci a najal aktualizovanou zprávu o neexistenci obnovy a důsledcích, které by následovaly během dne, pokud nebudou přijata žádná opatření.
Takové varování by lidem umožnilo činit informovaná rozhodnutí o tom, zda nechat automatizaci pokračovat nebo zasáhnout, aby napravila lidskou chybu, která byla původní příčinou problému. Ale lidé také musí dělat svou roli, reagovat na varování a podniknout správné kroky. Jinými slovy, odpověď na otázku, kterou Brooks položil ohledně chování, se vztahuje na člověka; v automatizaci musí být méně pasivní. (Více informací o tom, jak mohou lidé a stroje spolupracovat, najdete v části „Řízení lidských zdrojů: politika, postup a proces“.)
Jak Diallo psal v sekci komentářů na svém blogu, důvodem, proč se to podařilo dosáhnout, bylo to, že lidé odmítli jít proti stroji:
Další věc, která se přehlíží, je, že ačkoli každý věděl, že to způsobila lidská chyba, a že to byla čistě chyba, rozhodli se následovat. Je to jako vložit do nemocnice znamení „kouření povoleno“ a lidé respektují značku místo toho, aby používali zdravý rozum.
V souladu s tím jsou politiky, které musíme přijmout, aby automatizace pracovala s lidstvem a spíše proti němu, dvojí: Na straně stroje potřebujeme rozhraní, která jsou přístupná a informativní, a na lidské straně potřebujeme, aby lidé byli zmocněn k identifikaci, kdy něco není v pořádku, a zasáhnout k nápravě.