Od 1. srpna letošního roku začal v Evropské unii platit AI Act, legislativa zaměřená na regulaci umělé inteligence. Evropské regulace přinesou zásadní změny, které ovlivní podnikání firem po celém kontinentu, včetně České republiky. Mezi zasažené společnosti patří také Conectart, který patří k průkopníkům v implementaci umělé inteligence do provozu kontaktních center. Na rozdíl od Evropy, Spojené státy a Čína uplatňují mírnější regulační rámce, což jim dává větší volnost při rozvoji a využívání AI technologií.

Jedním ze základních prvků AI Actu je jeho působnost, která přesahuje hranice Evropské unie. To znamená, že jeho pravidla budou muset dodržovat i společnosti sídlící mimo EU, pokud mají jejich nástroje přesah na evropský trh. Další povinností je určení zástupce, který bude za dodržování pravidel zodpovědný, i když v rámci EU nesídlí, ale pouze působí. Týká se to tak například amerických nebo čínských technologických společností.

Za porušení pravidel AI Actu mohou firmy čelit pokutám až 35 milionů eur nebo 7 % jejich celosvětového ročního obratu, což je podobné úrovni sankcí za porušení GDPR. V případě méně závažných porušení jsou pokuty omezeny na 15 milionů eur nebo 3 % z obratu.

Nekritičtí čeští zákazníci

V Česku se umělá inteligence pomalu a jistě stává součástí rutinních činností široké veřejnosti a ta si přitom mnohdy neuvědomuje, že jsou s ní v kontaktu. Co se týká ověřování dat, které uživatelům umělá inteligence poskytne, si je podle agentury STEM/MARK neověřuje celých 16 % Čechů. Občas nebo zcela výjimečně si pak informace ověří 62,1 % české populace a 19,3 % tak činí pravidelně.^[1]

Využívání AI s rozumem

Conectart je jednou z prvních firem v Evropě, která implementovala AI technologie do oblasti zákaznické péče. „Implementace AI přináší našim klientům významné úspory a zvyšuje efektivitu. Jazykové modely nám dnes pomáhají s rutinními dotazy, což uvolňuje kapacitu živých operátorů pro složitější úkoly. Evropská regulace může přinést stabilitu, ale je důležité, aby zároveň nebrzdila inovace, které už nyní v oblasti zákaznické podpory díky AI vidíme. V tomto směru má Evropa stále co dohánět,“ říká Petr Studnička, generální ředitel společnosti Conectart.

AI ve Spojených státech

Evropský přístup k regulaci je oproti USA výrazně přísnější. Spojené státy se řídí přístupem samoregulace. Na federální úrovni nejsou nastavena jednotná pravidla pro používání AI. Jednotlivé státy, jako například Kalifornie, postupně zavádějí specifické regulace, jež se zaměřují na ochranu spotřebitelů před AI v pracovním prostředí nebo při finančních transakcích. Americký regulační úřad například zakázal využití AI v telemarketingu, protože se stále častěji objevovaly hovory s hlasem napodobujícím různé mediálně exponované osoby nebo rodinné příslušníky volaných. Zákaz tak má zamezit „telešmejdům“ vydávat se za jinou osobu.

Ambiciózní Čína a státní kontrola

Čína zaujímá přístup, který kombinuje státní kontrolu a ekonomický růst prostřednictvím investic do AI. Nová čínská legislativa přijatá v roce 2023 se zaměřuje na kontrolu deepfakeů a obsahu generovaného umělou inteligencí a jeho sladění se obecnými hodnotami státního zřízení. Obsah vytvořený umělou inteligencí tak dnes musí nést označení, aby jej bylo snadné rozpoznat. Cílem těchto opatření je předejít možným podvodům, ať už se jedná o falešná videa s politiky nebo články s nepravdivými informacemi a fotografiemi.

Kontrola umělé inteligence není na úkor vývoje nových technologií, protože Čína si klade za cíl dosáhnout dominance v tomto sektoru do roku 2030.

^[1]Češi a umělá inteligence: Alespoň nějakou zkušenost s nástroji AI má už takřka polovina z nich, každý šestý si však výsledky. Online. Euro.cz. 2024. Dostupné z: https://www.euro.cz/clanky/cesi-a-umela-inteligence-alespon-nejakou-zkusenost-s-nastroji-ai-ma-uz-takrka-polovina-z-nich-kazdy-sesty-si-vsak-vysledky-neoveruje/