Umělá inteligence zásadně proměňuje způsob, jakým lidé vnímají informace, autoritu i samotnou realitu. Zatímco ještě před pár lety byly falešné zprávy spíše doménou amatérských manipulací, dnes se díky AI mění ve vysoce sofistikovaný nástroj s konkrétními ekonomickými dopady. Od finančních podvodů přes narušení důvěry ve veřejné instituce až po tlak na autorské právo a kreativní profese. V pořadu Přežít na platformě FocusOn na tato rizika upozorňuje David Spáčil, AI tvůrce.
Umělá inteligence dnes posouvá hranici mezi realitou a digitální manipulací do bodu, kdy přestává být spolehlivě rozpoznatelná i pro odborníky. Podle Davida Spáčila, AI tvůrce, se společnost dostala do fáze, kdy už není možné spoléhat na vizuální nebo zvukové vjemy jako na důkaz pravdivosti.
„Dnes už jsme v bodě, kdy je často nemožné rozeznat, zda je video skutečné, nebo vytvořené umělou inteligencí,“ říká Spáčil. „Modely se zlepšují extrémně rychle – zvládají realistický pohyb, mimiku i lipsync. Dokonce i lidé, kteří se AI videi profesionálně zabývají, mají čím dál větší problém rozdíl poznat.“
Zatímco dříve bylo možné falešná videa identifikovat podle technických nedokonalostí, současné generativní modely už dokážou simulovat i „nekvalitu“, například přepálený obraz z mobilního telefonu nebo horší zvuk. Právě tato zdánlivá nedokonalost zvyšuje důvěryhodnost obsahu a tím i jeho potenciální škodlivost.
Levná technologie, drahé důsledky
Jedním z největších rizik je extrémní dostupnost nástrojů. Podle Spáčila dnes stačí několik minut cizího hlasového záznamu a nízký měsíční poplatek. „Za pět až deset dolarů měsíčně si můžete natrénovat hlas konkrétního člověka. Pro 99 % lidí je pak výsledek nerozeznatelný od originálu,“ upozorňuje. Takto vytvořený hlas lze následně využít k vydírání, finančním podvodům nebo manipulaci blízkých osob.
Ekonomický rozměr je zřejmý: nejde už o jednotlivé případy, ale o škálovatelný model podvodu. Umělá inteligence dramaticky snižuje náklady na kriminalitu a zároveň výrazně zvyšuje její efektivitu i dosah.
Kdo je nejzranitelnější? Překvapivá data
Často se předpokládá, že nejohroženější skupinou jsou senioři. Data ale podle Spáčila ukazují jiný obraz.
„Statistiky naznačují, že zranitelnější jsou často lidé mezi 30 a 40 lety. Jsou digitálně zdatní, pracují s technologiemi a mají pocit, že se v nich orientují, právě proto podceňují riziko,“ vysvětluje.
Naopak starší generace je dnes díky osvětovým kampaním často obezřetnější. Paradoxně tak právě ekonomicky aktivní část populace představuje hlavní cíl sofistikovaných digitálních podvodů.
Psychologie místo technologie
Podle Spáčila není hlavní slabinou samotná umělá inteligence, ale lidská psychologie. Mozek reaguje na emoce dříve než na fakta – a dezinformace s tímto mechanismem cíleně pracují. „Vidíme obsah, který v nás vyvolá strach nebo vztek, a okamžitě si vytváříme názor. Racionální část mozku nastupuje až později, pokud vůbec,“ popisuje.
Právě proto se falešná videa a zprávy šíří rychleji než jejich vyvrácení. Ekonomicky to znamená rostoucí náklady na krizovou komunikaci, zvyšující se reputační rizika pro firmy i instituce a tlak na regulaci digitálních platforem.
Kreativní profese pod tlakem
Významnou oblastí dopadů AI je kreativní průmysl. Spáčil, který spolupracuje s ilustrátory, copywritery a filmaři, popisuje hluboké rozdělení trhu. „Pro část lidí je AI skvělý nástroj, který dramaticky zvyšuje produktivitu. Pro jiné je to existenční hrozba, zejména tam, kde šlo o roky budované řemeslo,“ říká.
Z ekonomického hlediska se mění hodnota práce. Výhodu nezískávají ti, kteří technologii odmítají, ale ti, kteří ji dokážou efektivně využít jako nástroj. Stejný princip bylo možné pozorovat už během průmyslové revoluce. Rozdíl je v rychlosti, s jakou dnes změna probíhá.
Spotify a deset milionů dolarů
Jedním z nejvýraznějších příkladů systémového selhání je nedávná kauza ze Spojených států. Neznámý aktér dokázal podle dostupných informací získat ze Spotify až 10 milionů dolarů.
„Pomocí AI generoval hudbu, vydával ji za tvorbu reálných umělců a zároveň vytvořil síť botů, které skladby automaticky přehrávaly,“ popisuje Spáčil. Platforma vyplácí odměny na základě počtu přehrání, bez ohledu na to, zda poslouchá člověk, nebo algoritmus.
Případ ukazuje zásadní slabinu současných byznysových modelů digitálních platforem a znovu otevírá otázku udržitelnosti autorského práva v éře generativní AI. „Současný právní systém na podobné situace není připravený. Vzniknou úplně nové přístupy k ochraně autorství i hodnoty práce,“ dodává.
Směřujeme k největšímu technologickému zlomu v historii?
Rozhovor se dotýká i širší perspektivy. Podle Spáčila se společnost nachází uprostřed jednoho z největších civilizačních skoků. „Umělá inteligence má potenciál řešit jakýkoliv problém rychleji a efektivněji než člověk. Pokud se podaří vytvořit obecnou umělou inteligenci, změní to ekonomiku, práci i společnost zásadně,“ říká.
Zatímco dnes jsou modely převážně specializované, vývoj směřuje k autonomním systémům schopným samostatného rozhodování. Ty už dnes přinášejí konkrétní výsledky, například v medicíně, kde AI dokáže v raných stádiích odhalit některé typy rakoviny až o 30 % úspěšněji než tradiční metody. Současně ale otevírají zásadní etická a regulatorní dilemata.
Ekonomika důvěry jako klíčové téma příštích let
Zásadní výzvou nebude jen technologická regulace. Podle Spáčila bude klíčové udržet funkční „ekonomiku důvěry“ – prostředí, ve kterém zůstávají informace, instituce i trhy čitelné a předvídatelné. Absolutní nedůvěra je totiž podle něj stejně nebezpečná jako slepá víra.
Celý rozhovor si můžete pustit jako video nebo podcast:
- Jak přesně fungují nejnovější AI nástroje pro tvorbu falešných videí a hlasů v praxi?
- Jaké konkrétní bezpečnostní chyby lidé dělají nejčastěji při finančních podvodech?
- Proč mohou autonomní AI systémy znamenat zásadní zlom pro globální ekonomiku?
- Jak se budou muset změnit byznysové modely digitálních platforem, aby přežily?
- Kde leží hranice mezi kreativním využitím AI a systémovým zneužíváním technologie?
Autor: redakce
FocusOn je zpravodajský web zaměřený na nové trendy v ekonomice s důrazem na využívání moderních technologií.
