Firmy se snaží o etičtější a odpovědnější používání umělé inteligence, zjistila studie

Lídři v oblasti umělé inteligence - kteří hodnotí její používání ve svých organizacích jako „úspěšné“ nebo „velmi úspěšné“ - se také starají o odpovědné používání AI. Téměř všichni (92 %) školí své technologické odborníky v oblasti etiky, v porovnání se 48 % ostatních uživatelů AI.

Tyto poznatky jsou založeny na globálním průzkumu mezi 305 hlavními představiteli firem, z nichž více než polovina jsou vedoucí pracovníci v IT, vedoucí pracovníci v oboru technologií nebo vedoucí pracovníci v oblasti analytiky. Provedením studie nazvané “ AI Momentum, Maturity and Models for Success (AI a pokrok, zralost a modely úspěchu),” byla společnostmi SAS, Accenture Applied Intelligence a Intel pověřena společnost Forbes Insights, která ji prováděla v červenci 2018.

Podle této zprávy má nyní AI reálný dopad na životy lidí, což klade důraz na důležitost silného etického rámce kolem jejího používání.

„Organizace začaly řešit témata a obavy z toho, co slýcháme, že by AI mohla způsobit, jako je např. neobjektivní a nespravedlivé zacházení s lidmi,“ řekla Rumman Chowdhuryová, odpovědná vedoucí za AI v Accenture Applied Intelligence. „To jsou sice pozitivní kroky, organizace se však musejí posunout za hranice etických kodexů AI, které jsou v duchu Hippokratovy přísahy „neublížit“. Musejí mít normativní, konkrétní a technické směrnice pro vývoj systémů AI, které jsou bezpečné, transparentní vysvětlitelné a odpovědné – abychom se vyvarovali nežádoucích důsledků a problémů s dodržováním pravidel, které by mohly ohrožovat jednotlivce, firmy i společnost. Vědci specializovaní na data již tyto směrnice netrpělivě očekávají.“

Lídři v oblasti AI si také uvědomují silné propojení mezi analytikou a úspěchem AI. 79 % z nich uvádí, že analytika hraje u AI v jejich společnostech hlavní nebo ústřední roli, v porovnání s pouhými 14 procenty těch, kteří zatím z využívání AI nemají žádný prospěch.

Ten, kdo AI již využívá, si uvědomuje, že úspěch v AI znamená úspěch v analytice,“ uvedl Oliver Schabenberger, vedoucí sekce operations a technologií v SAS. „Pro tyto lidi hraje analytika v AI hlavní roli.“

Dohled nad AI nemá volitelný charakter

Navzdory zprávám, které se k nám dostávají a tvrdí, že AI pracuje samostatně a bez lidského zásahu, výzkum ukazuje, že si lídři AI uvědomují, že dohled nad těmito technologiemi je a bude nutností. Téměř tři čtvrtiny (74 procent) lídrů AI uvedlo, že pečlivě provádí dohled nejméně na týdenní bázi v podobě kontrol nebo hodnocení výsledků (skupina méně úspěšných v zavedení AI: 33 procent). Kromě toho 43 % lídrů v oblasti AI uvedlo, že jejich organizace má během kontrol zaveden proces pro odlišné či sporné výsledky, které kontrola odhalila (u skupiny méně úspěšných v zavádění AI: 28 procent).

Přesto se ve zprávě uvádí, že procesy dohledu budou muset urazit ještě dlouhou cestu, než budou držet krok s pokroky v technologiích AI.

„Schopnost porozumět tomu, jak AI funguje a jejím rozhodovacím procesům, umožňuje budovat důvěru a účinný lidský dohled,“ uvedla Yinyin Liu, vedoucí sekce datových věd v Intel AI Products Group. „Budování důvěry potřebné pro široké přijetí AI bude trvat ještě dlouho. Důležitá v tomto ohledu bude transparentnost a odpovědnost.“

Je pochopitelné, že společnosti podnikají kroky v oblasti etiky AI a zajišťují dohled nad AI, protože vědí, že vadný výstup by mohl mít dalekosáhlé důsledky. Z organizací, které již AI používají nebo ji plánují používat, 60 % uvedlo, že mají obavy z důsledků rozhodnutí řízených AI na vztah s jejich zákazníky – například že jejich činnosti nebudou vykazovat dostatek empatie nebo že jim budou zákazníci méně důvěřovat.

Další klíčové poznatky z výzkumu:

•           Celkem 72 procenta organizací na celém světě nyní používá AI v jedné nebo více oblastech byznysu.

•           Více než polovina (51 %) uživatelů AI uvedla, že u nich bylo využívání AI opravdu úspěšné – jako hlavní přínosy respondenti uvedli přesnější prognózy a rozhodovací procesy, větší úspěchy při získávání zákazníků a větší produktivitu v organizaci.

•           Téměř polovina (46 %) uživatelů AI uvedla, že jejich organizace zavedla AI v plném rozsahu, v jednom i ve více případech využití.

•           Respondenti, kteří nejsou ve vedení firmy, měli větší tendenci vidět dopady AI pozitivně: Více než polovina (55 procent) vedoucích, kteří nejsou ve vedení firmy uvedla, že jejich úsilí v oblasti AI bylo „úspěšné“ nebo „velmi úspěšné“. Stejně odpovědělo pouze 38 procent představitelů nejvyššího vedení firmy.

•           Mnoho organizací vidí výhodu pro své zaměstnance v tom, že se budou moci zaměřit na úkoly na vyšší úrovni. Šedesát čtyři procent souhlasí nebo zcela souhlasí, že již vidí dopady v tom smyslu, že se zaměstnanci díky AI budou moci více soustředit na strategičtější úkoly než na ty operativní.

•           Nicméně téměř 20 procent identifikuje „odpor ze strany zaměstnanců kvůli tomu, že se obávají, že přijdou o své pracovní místo“ jako výzvu patřící k jejich úsilí v oblasti AI. Kromě toho 57 % souhlasí nebo zcela souhlasí s výrokem: „Máme obavy z dopadů AI na zaměstnanecké vztahy (např. že by se zaměstnanci mohli cítit ohroženi nebo přetíženi.)“

"Jako u každé nové technologie, která se rychle rozvíjí, se zde vyskytnou problémy a výzvy, které bude nutno překonat,“ řekl Ross Gagnon, ředitel výzkumu ve Forbes Insights. „Příležitosti, které AI nabízí, se ale zdají být nekonečné, od provozní efektivity po větší produktivitu a příjmy. Otázka, kterou by si vedení firem mělo položit, není, zda AI využívat, ale jak rychle ji zavádět.“