Zničí AI lidstvo i přírodu? Couvají i vývojáři, vývoj už ale nelze zastavit

Může umělá inteligence ohrozit lidstvo a jakou cenu za její rozvoj zaplatí příroda? Filip Dřímalka v pořadu Inside Tech na FocusOn ve speciálu z Cerna.AI Festivalu mluví o rizicích AI i o tom, proč považuje celosvětové zastavení jejího vývoje za nereálné. Upozorňuje přitom na rozdíl, který vzniká už dnes: jedni s AI stavějí vlastní systémy, druzí ji používají jen jako chytřejší vyhledávač.

Spotify

Debatu o budoucnosti umělé inteligence provázejí obavy z rostoucí spotřeby energie i z možného ohrožení lidstva. Dřímalka krátkodobé negativní dopady připouští, do budoucna ale zůstává optimistický. „Z dlouhodobého hlediska si myslím, že inovace jsou jednou z nejdůležitějších cest, jak zajistit, abychom tady jako lidstvo vydrželi co nejdéle,“ říká.

Regulaci potřebujeme. Zpomalí ale celý svět?

Mnoho lidí včetně vývojářů se obává rychlého vývoje AI a ptá se, zda by nebylo rozumné přibrzdit. Moderátor v rozhovoru zmiňuje i výzkumníka z Anthropicu, který podle jeho slov kvůli obavám z možného ohrožení lidstva podal výpověď.

Modely jsou stále výkonnější a s jejich rostoucími možnostmi přicházejí i otázky, k čemu všemu mohou být využity či zneužity. Dřímalka považuje volání po zpomalení za pochopitelné. „Je to pochopitelný krok, protože nejlepší modely jsou tak výkonné, že mohou pro dobré lidi udělat spoustu dobrého, ale pro lidi, kteří nemají úplně správné úmysly, udělat spoustu škodlivého. Určitá forma regulace je zapotřebí,“ konstatuje. Problém ovšem vidí v tom, jak případná omezení uskutečnit v prostředí, kde spolu soupeří různé firmy a země.

„Představa, že teď najednou všichni zpomalí nebo zastaví vývoj, je podle mě absolutně nerealistická,“ upozorňuje. Debata se proto podle něj musí zabývat také proveditelností navrhovaných opatření. Sám doporučuje vnímat rizika a současně se soustředit na to, co může člověk ovlivnit.

Dva světy vznikají už dnes

Dřímalka připomíná předpověď spoluzakladatele Anthropicu Jacka Clarka, podle něhož se lidé používající špičkové modely AI budou v létě 2026 cítit, jako by oproti ostatním žili v paralelním světě. Podobné rozdělení podle Dřímalky už nastalo. Popisuje ho jako bifurkaci, tedy rozvětvení podobné řece, která se rozdělí do dvou proudů.

„Jsou lidé, kteří dnes pracují s agenty, stavějí systémy a dělají neuvěřitelné věci. Vedle toho jsou lidé, kteří to stále používají jako chytřejší Google,“ říká. Rozdíly vidí při pohovorech i při jednáních s vedením společností. Podle něj budou přibývat také situace, kdy pokročilí uživatelé nebudou chtít spolupracovat s lidmi, kteří AI nepoužívají.

Při hodnocení AI dovedností rozlišuje čtyři úrovně:

1. Explorer technologii teprve objevuje.
2. Operator už s ní umí částečně pracovat.
3. Builder staví vlastní systémy.
4. Transformer mění celé procesy.

Drtivá většina hodnocených lidí podle Dřímalky zůstává v prvních dvou skupinách. Firmy proto musí zaměstnancům poskytnout kvalitní nástroje, vzdělávání i čas na učení.

Otázka zní: Jak poznat člověka, který s AI skutečně umí pracovat? Podle Dřímalky napoví už způsob, jakým o ní mluví. Méně zkušení lidé zůstávají u obecných vět typu „zkoušíme ve firmě něco“. Pokročilí uživatelé naopak popisují vlastní konkrétní výsledky. „Ten, kdo to používá, mluví velmi konkrétně. Mluví o tom, co postavil včera nebo minulý týden,“ vysvětluje.

Jak pomoci firmám, které chtějí využívat AI?

Důležité jsou především kvalitní modely a nástroje. „Druhá věc je, že se to firmy snaží dělat plošně. Dají třeba všem lidem jeden nástroj a jedno školení,“ říká Dřímalka. Podle něj by měly zaměstnance rozdělit podle jejich dovedností a nadšení pro AI. Pokročilejší uživatelé totiž mohou jít dál a vytvářet zajímavější řešení.

Celý rozhovor si můžete pustit jako video nebo podcast:

1. Proč podle Dřímalky evropské AI firmy obtížně dohánějí náskok předních světových hráčů?
2. Jaké konkrétní výsledky práce s AI chce při náboru vidět místo životopisu?
3. Jak ve firmě oddělit ověřené informace od zastaralých podkladů, ze kterých by AI mohla čerpat?
4. Co se změnilo v aktualizovaném vydání jeho knihy a které principy podle něj stále platí?
5. Které dvě dovednosti doporučuje dětem a studentům, aby je změny spojené s AI nezaskočily?