Proč je pro zavádění umělé inteligence nezbytné strukturované řízení

Pro téměř všechny podniky je umělá inteligence (AI) v současnosti velmi aktuálním tématem a většina z nich se snaží prozkoumat její údajné výhody. S umělou inteligencí jsou však spojeny potenciální výzvy a rizika, která je třeba zvládnout, aby byl zajištěn bezpečný, odpovědný, spolehlivý a etický vývoj, zavádění a používání. Právě zde vstupuje do hry norma ISO/IEC 42001 pro systémy řízení umělé inteligence jako uznávaný pilíř, který usměrňuje vývoj a zajišťuje důvěryhodná řešení v oblasti umělé inteligence.

Ačkoli je umělá inteligence na trhu již nějakou dobu, až donedávna se nesetkala s přílišným nadšením. Nedávný průzkum ViewPoint provedený společností DNV odhalil, že značná část firem (58 %) dosud technologie umělé inteligence nezavedla a celkem více než 70 % z nich se nachází v počáteční fázi zavádění umělé inteligence. Tato čísla jasně ukazují, že umělá inteligence zatím pro většinu firem nepředstavuje strategickou prioritu. 

Mnohé společnosti, které se průzkumu zúčastnily, jsou sice v oblasti umělé inteligence teprve na začátku, nejedná se však o začínající podniky v obvyklém slova smyslu, ani jim není cizí potřeba či přínosy správy a řízení. Již zavedly systém řízení, který splňuje alespoň jednu normu ISO, například ISO 9001 (kvalita), ISO 14001 (životní prostředí) nebo ISO/IEC 27001 (informační bezpečnost).  Zejména ty, které se nacházejí ve velmi raných fázích, však dosud nevidí potřebu uplatnit stejný přístup i na své cestě k AI.

Rostoucí potřeba řízení

Společnosti, které bychom mohli nazvat „začínajícími“, se zaměřují především na využití umělé inteligence ke zvýšení efektivity a zlepšení interních procesů. Jedná se o běžný první krok, a to díky relativní jednoduchosti řešení, jako jsou Copilot a ChatGPT, a jejich implementace. Jak však společnosti dozrávají, dochází k posunu směrem k externím, komplexnějším iniciativám v oblasti umělé inteligence, jejichž cílem je generovat příjmy a objevovat nové obchodní příležitosti. S pokrokem roste potřeba strukturovaného řízení, které umožní co nejlépe kontrolovat rizika a zajistit bezpečný, spolehlivý a etický vývoj, implementaci a využití AI.

Regulace v oblasti umělé inteligence se stále rozšiřuje a firmy budou muset prokázat, že ji dodržují. Navíc ze strany uživatelů panuje přirozená skepse, která vede k nedostatku důvěry, jenž je třeba překlenout. Abychom mohli technologii důvěřovat a využívat ji, musíme pochopit, jak funguje, a být schopni posoudit její bezpečnost, spolehlivost a transparentnost. Na tuto problematiku upozorňuje zpráva z března 2024 vydaná organizací AI Assurance Club s názvem „AI Governance and Assurance Global Trends 2023–24“. Zpráva podrobně popisuje globální trendy a vývoj legislativy po celém světě. K tématu důvěry zpráva uvádí: „V centru skládačky správy umělé inteligence stojí otázka důvěry. Vzhledem k tomu, že se systémy umělé inteligence stále více stávají součástí našich životů – v infrastruktuře, obchodních procesech, veřejných službách nebo ve spotřebním zboží – musí mít uživatelé jistotu, že systémy budou důsledně fungovat tak, jak je zamýšleno, aniž by způsobovaly škody.“

Překlenutí propasti

Pojem „důvěryhodnostní propast“ označuje potenciální nedostatek důvěry a transparentnosti v souvislosti s produkty a/nebo službami organizace využívajícími umělou inteligenci. Například pokud nemocnice využívá diagnostiku založenou na umělé inteligenci, mohu jako pacient věřit, že je stejně kvalitní nebo dokonce lepší než posouzení provedené samotným lékařem?  Překlenutí této důvěryhodnostní propasti dříve, než se systémy umělé inteligence stanou příliš složitými a autonomními, vyžaduje silné řízení.

Budování důvěry je ústředním prvkem všech norem ISO pro systémy řízení, a proto by nemělo být překvapením, že stejný přístup lze uplatnit i v případě umělé inteligence. Průzkum ViewPoint odhalil, že většina společností, které jsou průkopníky ve vývoji a zavádění umělé inteligence, již zvažuje zavedení systému řízení umělé inteligence s cílem zajistit náležitou správu a řízení a že již znají normu ISO/IEC 42001.

V současné době již existuje několik rámců pro umělou inteligenci a doplňkových norem, mezi něž patří rámec NIST pro řízení rizik umělé inteligence, norma ISO/IEC 23894 obsahující pokyny pro řízení rizik v oblasti umělé inteligence, norma ISO/IEC 5338 týkající se procesu životního cyklu systémů umělé inteligence a norma ISO/IEC TS 25058. V prosinci 2023 organizace ISO uvedla na trh normu ISO/IEC 42001 pro systémy řízení umělé inteligence (AIMS). Jedná se o první certifikovatelnou normu AIMS, která poskytuje robustní přístup k řízení mnoha příležitostí a rizik umělé inteligence v rámci organizace. Tato norma proto pomáhá společnostem učinit další krok k překlenutí propasti v důvěře, protože shoda s normou je potvrzena certifikátem vydaným nezávislým certifikačním orgánem, jako je DNV.  Navíc, jelikož vychází z ISO High Level Structure (HLS), lze ji snadno integrovat s jinými systémy řízení.  

Norma ISO/IEC 42001 je založena na stejných obecných strukturách jako ostatní normy ISO pro systémy řízení, a proto bude podnikům, které již zavedly jiný systém řízení podle ISO, dobře známá.  V souladu s metodikou „Plan-Do-Check-Act“ (Plánuj-Proveď-Zkontroluj-Jednej) specifikuje norma ISO/IEC 42001 požadavky a zaměřuje se na zavedení, implementaci, udržování a neustálé zlepšování systému řízení AI.  Vzhledem k tomu, že všichni respondenti průzkumu ViewPoint označili kyberbezpečnost za hlavní hrozbu pro implementaci AI, může být velmi prospěšné integrovat systém řízení bezpečnosti informací v souladu s normou ISO/IEC 27001.

Budování důvěry

Norma ISO/IEC 42001 nepochybně nabude ještě většího významu, jelikož stále více zemí zavádí předpisy týkající se umělé inteligence. V USA a Číně již takové předpisy a zásady existují. V Evropě nedávno vstoupil v platnost první komplexní zákon o umělé inteligenci na světě, tzv. EU AI Act. Cílem tohoto zákona je podporovat a zajistit bezpečný, spolehlivý, důvěryhodný a etický vývoj systémů umělé inteligence, přičemž zavedení správy a řízení umělé inteligence v podnicích se jeví jako klíčový aspekt pro zajištění souladu s předpisy a budování důvěry.

Zavedení ústřední centralizované funkce napříč mnoha týmy, která rozpoznává a rozumí technologiím umělé inteligence, jejich případům použití a poskytovatelům, je klíčové pro zajištění správy umělé inteligence. Vzhledem k neustálému vývoji v oblasti umělé inteligence a měnícímu se regulačnímu prostředí bude navíc nezbytné, aby určený řídící výbor a zainteresované strany pravidelně přezkoumávaly a aktualizovaly program správy umělé inteligence. Právě v tom spočívá další výhoda zavedení systému řízení v souladu s normou ISO/IEC 42001 a jeho certifikace.

Zavedení strukturovaného přístupu k řízení a odpovědné využívání umělé inteligence může v konečném důsledku představovat konkurenční výhodu a pomůže každé společnosti prokázat interním i externím zainteresovaným stranám, že disponuje robustním přístupem k ochraně uživatelů a neustálému zlepšování. Certifikovaný systém řízení dokládá závazek společnosti a každodenní opatření, která přijímá za účelem zajištění bezpečného, spolehlivého a etického vývoje, implementace a využívání umělé inteligence ve svých procesech a v nabídce produktů a služeb.