Kdo dnes odmítá AI, jako by odmítal auto. Filip Dvořák o strachu, který nás brzdí

Máme se umělé inteligence bát, nebo se s ní především naučit pracovat? Filip Dvořák, vědec v oblasti umělé inteligence a zakladatel společnosti Filuta AI, je k představám o ovládnutí lidstva skeptický. V pořadu Inside Tech na platformě FocusOn vysvětluje, jak se modely učí, proč přesvědčivá odpověď nemusí být správná a kde vidí skutečný problém: AI umí vytvářet obsah, ale jeho správnost často nedokáže spolehlivě ověřit.

Spotify

Varování před umělou inteligencí přitahují pozornost každý den. Dvořák ale současné technologie vnímá především jako nástroje, jejichž možnosti i omezení se lidé teprve učí poznávat. ,,Je to v současnosti takový lepší šroubovák, který jsme se ještě nenaučili používat s takovou intuicí, abychom se ho přestali bát,“ říká. Podobně jako jiné technologické změny podle něj AI některé činnosti urychluje, zatímco pro jiné se příliš nehodí.

Skeptický je zejména k představě, že dnes dostupné systémy představují hrozbu ovládnutí civilizace. Současné jazykové modely podle něj především kombinují znalosti získané z lidské produkce. Vymýšlet něco skutečně nového, mimo rámec těchto kombinací, je pro ně obtížné. Obavy z budoucí obecné umělé inteligence tak odděluje od toho, co dnešní nástroje skutečně dokážou.

Vidět jízdní kolo neznamená rozumět jeho fungování

Jak se tedy AI učí? Dvořák současné modely popisuje jako rozsáhlý statistický agregát lidských znalostí. Z dat získávají vzorce, které následně využívají při vytváření odpovědí. U jazykových modelů vysvětluje generování pomocí pravděpodobností: systém postupně vybírá další tokeny, z nichž skládá výsledný obsah.

Rozdíl mezi napodobováním a porozuměním přibližuje na obrazových datech. Model se podle něj může naučit napodobovat podobu jízdního kola, aniž by rozuměl jeho mechanice. Nechápe jeho vnitřní fungování, dynamiku ani fyzikální principy. ,,Sám na to nepřijde, musí to získat od nás,“ vysvětluje. Právě hlubší zachycení základních principů označuje za prostor pro další zásadní posun umělé inteligence. Vývoj se podle něj zároveň přesouvá od trénování modelů k jejich používání, tedy k takzvané inferenci.

Vytvořit výsledek nestačí. AI musí umět ověřit jeho správnost

Skeptický postoj ke katastrofickým scénářům neznamená, že Dvořák považuje dnešní AI za bezproblémovou. Slabinu vidí v rozdílu mezi vytvořením výstupu a kontrolou jeho správnosti. Model může napsat článek nebo software, aniž by dokázal spolehlivě posoudit, zda výsledek splňuje zadání. ,,Modely jsou velmi špatné v tom, aby zkontrolovaly, že to, co vygenerovaly, skutečně dělá to, co má,“ upozorňuje.

Právě na tento problém se zaměřuje Filuta AI. Propojuje neuronové sítě a jazykové modely se symbolickými modely. Tento přístup, označovaný jako neurosymbolika, má umožnit nejen vytváření výstupů, ale také kontrolu jejich správnosti. ,,Děláme AI, která je nejen schopná generovat, ale také validovat a verifikovat, že cokoliv vygeneruje, je korektní,“ vysvětluje Dvořák a  upřesňuje, že jde o správnost v rámci příčinných vztahů a logických pravidel vložených do modelu.

Pro firmy představuje spolehlivost praktickou obchodní otázku. Nadšení z toho, co model vytvoří, podle Dvořáka postupně doplňuje potřeba zjistit, zda se na jeho práci lze opravdu spolehnout. V tom vidí i rostoucí prostor pro svou společnost: zákazníci při zavádění AI narážejí na limity samotného generování.

Češi mají talent, neumějí ho ale prodat jako Američané

Zakladatel Filuta AI má za sebou zkušenosti z Francie, Microsoft Research v Kodani i postdoktorandského pobytu v Torontu. Několik let žil také v San Francisku a Texasu, nakonec se však vrátil do Česka. Vedle kvality života zde oceňuje odborný potenciál.

,,Máme velmi schopné, velmi talentované profesory, vývojáře i vědce. Neumíme se tak prodat jako Američané, ale jako region máme obrovský potenciál,“ říká. Česko podle něj nabízí kombinaci preciznosti a individualismu, která může být pro technologický vývoj výhodou.

Kdo AI odmítne, může ztrácet konkurenceschopnost

Vedle rizik Dvořák zdůrazňuje dopad na konkurenceschopnost. Internet zpřístupnil informace, jazykové modely podle něj usnadňují jejich zpracování. Člověk se tak může rychleji zorientovat v tématu, které dosud neznal. Odmítnutí užitečné technologie přirovnává k odmítání automobilu: člověk tím omezuje vlastní možnosti.

Při využití technologií Filuta AI, kdy součástí procesu zůstává člověk, uvádí i konkrétní přínos. ,,Jeden člověk je s námi oproti historickému standardu schopen udělat až třicetkrát tolik práce za stejné období,“ říká. Tento údaj vztahuje k případům, kdy technologie podporuje práci člověka. U samostatně fungujících systémů společnost podle něj přínos vyjadřuje prostřednictvím konkrétních ukazatelů jejich efektivity.

Celý rozhovor si můžete pustit jako video nebo podcast a dozvíte se:

1. Proč se Filip Dvořák po letech ve Francii, Kanadě a USA vrátil právě do Česka?
2. Jak může AI pomoci číšníkovi naplánovat cestu k profesi pilota helikoptéry?
3. Proč Filuta AI záměrně zůstává těsně pod hranicí ziskovosti?
4. Jak souvisí optimalizace dopravy v Los Angeles s milostným životem jeho obyvatel?
5. Jak Dvořák kombinuje vedení technologického startupu s vědeckým výzkumem?