Umělá inteligence vybírá uchazeče o práci, vytváří virtuální influencery a proměňuje služby advokátů. Kdo ale odpovídá za její použití? Právnička Petra Stupková, spoluzakladatelka Legitas a České asociace umělé inteligence, v pořadu Inside Tech na platformě FocusOn vysvětluje, kde firmy přehlížejí rizika, proč regulace nemusí bránit podnikání a jak v technologickém světě zachovat prostor pro lidství.
SpotifyAkcí věnovaných umělé inteligenci přibývá a podle Stupkové není překvapivé, že se lidé cítí zahlcení. Technologie proniká do nejrůznějších odvětví a proměňuje také investice či podnikání softwarových firem. ,,Pod tématem AI si můžeme představit de facto cokoliv,“ říká.
Při pořádání akcí proto hledá i protiváhu k technologickým debatám. Setkání Wake Up Call například začínalo jógou a zahrnovalo osobní rozvoj. ,,Abychom nahmatali něco lidského, abychom si dodělali domácí úkoly v oblasti lidství,“ vysvětluje.
Sociální sítě zasahují do sebehodnoty dospívajících
Lidskou stránku technologií připomíná také při debatě o mladé generaci. Vypráví o známé, jejíž čtrnáctiletá dcera tráví čas na Instagramu, zatímco matka v tom nevidí zásadní nebezpečí. Stupková upozorňuje zejména na dopady sociální sítě na sebehodnotu dívek. U chlapců zmiňuje vliv herního prostředí. Odpovědnost podle ní nelze ponechat pouze na rodičích.
Důležitou roli mají školy i stát, který může stanovit povinnosti provozovatelům služeb. ,,Nejlepší jsou právě zákony, protože ukládají povinnosti poskytovatelům služeb,“ říká. Připomíná, že platformy vydělávají na lidské pozornosti, ale jejich fungování přináší i negativní dopady, kterým má regulace předcházet.
Amerika bez regulace? Podle Stupkové omyl
Právnička odmítá představu, že pravidla vytváří pouze Evropa. ,,To, že Amerika dereguluje, je jeden z největších omylů, který tady v Evropě panuje,“ říká. Podle jejích slov přijaly jednotlivé státy USA za rok přes sto právních předpisů týkajících se AI nebo osobních údajů. Vyzdvihuje Kalifornii, jejíž pravidla mohou prostřednictvím tamních technologických firem ovlivnit i evropský trh.
Za překážku podnikání považuje především roztříštěnost požadavků. Jednotná pravidla podle ní mohou vytvářet předvídatelné prostředí. S podobou evropské regulace AI však spokojená není: ,,AI Act je promarněná příležitost,“ hodnotí.
Deset životopisů i influencer, který nikdy nespí
Konkrétní rizika ukazuje Stupková na personalistice. Popisuje zadání, při němž člověk předloží AI deset životopisů a požádá o výběr nejvhodnějšího uchazeče podle inzerátu. ,,A teď už se dostáváme někam, kde citelně ovlivňujeme životy lidí, naše práva a povinnosti,“ upozorňuje. U takového využití zdůrazňuje zejména potřebu předcházet diskriminaci. Samotná možnost výběr automatizovat podle ní neznamená, že je postup v souladu s pracovněprávními pravidly.
Podobný rozdíl mezi technickými možnostmi a právními pravidly vidí v marketingu. ,,Můžete si vygenerovat nádherného influencera, který bude propagovat vaše věci 24 hodin denně, sedm dní v týdnu. Ale jestli je to legální, tak si myslím, že třeba v 90 % případů není,“ říká. Podle jejího odhadu může takové využití představovat klamavou obchodní praktiku.
Firmy potřebují vědět, co riskují
Při konzultacích proto Stupková s klienty pojmenovává finanční, reputační i regulatorní rizika. Vedení následně rozhoduje, která z nich podstoupí. ,,Nejhorší je, když lidé vůbec nevědí rizika, neumějí je ani pojmenovat, natož s nimi nějak pracovat,“ říká.
Mezi prvními zájemci o pravidla využívání AI byli podle ní právníci a pracovníci odpovědní za dodržování předpisů z bank. Podnikání v regulovaném prostředí je pro ně běžné. ,,Nekladou si otázku, zda budeme regulovat, nebo prosperovat,“popisuje. Jiné firmy naopak vyčkávají, pokud nevnímají hrozbu postihu či poškození pověsti.
E-shopy mění poptávku po právnících
Proměnu sleduje i ve vlastní kanceláři. Některé služby poskytované před třemi či čtyřmi lety už podle ní klienti řeší pomocí AI. Provozovatelé e-shopů si generují rutinní dokumenty, zatímco kancelář se posouvá ke složitým vyjednáváním a prodejům těchto podniků.
Obchodní podmínky dál připravuje zejména největším hráčům. ,,Ty zase zajímá naše odpovědnost a naše razítko,“ vysvětluje. Hodnotu advokáta vidí také ve schopnosti naslouchat klientovi, porozumět textu a posoudit správnost výstupu AI.
Celý rozhovor si můžete pustit jako video nebo podcast a dozvíte se:
- Jak mohou vygenerovaná videa zkomplikovat práci soudů?
- Jak Stupková popisuje čínský přístup k regulaci AI?
- Proč právníci musejí rozumět fungování jazykových modelů?
- Proč doporučuje číst romány a vracet se k tužce a papíru?
- Co jí pomáhá zachovat optimismus při pohledu do budoucnosti?