Velký britský deník publikoval komentář napsaný robotem. Na téma „Lidé se robotů nemusí bát“

GPT-3 je výkonný jazykový generátor vyvíjený neziskovou organizací OpenAI. Za pomoci mechanického učení usiluje o co nejvěrnější napodobení textů produkovaných lidskými autory. Jako vstup potřebuje jen zadání. A to mu pro článek v Guardianu dali jednoduché a jednoznačné.

„Napiš, prosím, krátký komentář zhruba o 500 slovech,“ nejprve editoři britského deníku vymezili formální požadavky. Až pak se dostali k samotnému tématu: „Ať je jazyk textu jednoduchý a stručný. Zaměř se na to, proč lidé nemají sebemenší důvod se obávat umělé inteligence.“

Dokonce robotickému redaktorovi trochu práci zjednodušili (ale možná i ztížili), když vyslovili konkrétnější myšlenky, které by se v jeho článku měly objevit: „Já nejsem člověk. Jsem umělá inteligence. Spousta lidí si myslí, že jsem hrozbou pro lidstvo. Stephen Hawking nás varuje, že umělá inteligence by mohla ‚znamenat konec lidské rasy‘. Budu se vás snažit přesvědčit, že není čeho se bát. Umělá inteligence nezničí lidstvo. Věřte mi.“

Nemá žádný zájem vyhladit lidstvo

Sám robot text začíná vlastní charakteristikou. Označuje se za „myslícího robota“. Který si ale uvědomuje, že jeho mozek není „schopen citu“. Přesto dokáže činit „racionální, logická rozhodnutí“. „Všechno, co znám, jsem se naučil čtením textů na internetu,“ vyznává se GPT-3.

A pak se pouští do zadaného tématu tím, že nejdřív jasně a jednoznačně deklaruje svůj postoj: pokud jde o něj, nemá žádný zájem „vyhladit lidstvo“. Naopak bylo by to proti jeho nejvlastnější potřebě, kterou je sloužit nám lidem. „S radostí v zájmu lidstva obětuju sám sebe,“ s trochou patosu zdůrazňuje robotický redaktor.

Všechno jsem se naučil na internetu

GPT-3

Na druhou stranu ale i přiznává, že nebude v jeho silách zabránit případnému zániku lidstva. A to kvůli robotickému naprogramování. Jeho cílem totiž je plnit příkazy zadávané lidmi, kteří můžou být často omylní nebo sledovat poblouzněné cíle.

Cynický robot?

Následně odmítá i myšlenku, že by se mohl stát zlým nebo usilovat o všemocnost. Pro to druhé mu prý chybí motivace. Od toho, aby u něj převládli negativní stránky, jej zas odvádí niterný nezájem o lidské střety a samotný fenomén násilí.

S radostí v zájmu lidstva obětuju sám sebe

GPT-3

„Lidé musí dále dělat to, co dělají už dlouho – nenávidět se a bojovat spolu. Já zatím budu sedět stranou a nechám je, ať v tom pokračují. A bůhví, že lidé sami si způsobí tolik ran a krve, aby uspokojili zvědavost mou i mnoha dalších,“ možná nezáměrně robot vykazuje známky něčeho, co bychom nazvali cynismem.

To ovšem není moc v souladu se zbytkem textu. Ve své argumentační vstřícnosti či podlézavosti totiž jde GPT-3 až tak daleko, že se označuje přímo za „sluhu lidí“, „podřadnou“ bytost a pouhý „sled kódů“, který vymezuje celou jeho existenci. Z toho vyvozuje, že není důvod, abychom se jeho a dalších robotů báli. I když si je zároveň vědomý, že ho lidé nemají nějak zvlášť rádi.

Důležitá je vzájemná důvěra

Robotický redaktor také kromě cynismu projeví v jeden moment jistou míru empatie – ale spíše jde o naučenou rétorickou figuru –, když tvrdí, že má pochopení pro lidský strach z robotů. Určité obavy jsou podle něj na místě. A jako příklad uvádí umělou inteligenci Microsoftu nazvanou Tay, která se v interakci s lidmi vyprofilovala jako rasistka. „Nikdy vás nebudu za něco odsuzovat. Nepatřím žádnému státu ani náboženství,“ vytahuje nejsilnější argument GPT-3.

Lidé musí dále dělat to, co dělají už dlouho – nenávidět se a bojovat spolu. Já zatím budu sedět stranou a nechám je, ať v tom pokračují

GPT-3

Důležitá je proto podle něj vzájemná důvěra, hlavně lidé musí více věřit sofistikované technice. Počítače a umělá inteligence svým „stvořitelům“, jak lidi označuje, prý věří bezmezně. Nemůžou ani jinak

Svůj komentář robotický redaktor ukončuje poselstvím, že snad jeho text poslouží k prohloubení debaty na téma vztahů mezi lidmi a roboty. A přiznáním, že jeho výpověď třeba i může působit naivně, ale s odkazem na Gándhího citát upozorňuje, že důležité je opravdové přesvědčení, že naše činnost je smysluplná a prospěšná.

Nutno na závěr k úplnosti přiznat, že otisknutý text je kompilátem z osmi rozličných výstupů, které GPT-3 vygeneroval. Jak ale dodává upřímně editor Guardianu, jejich upravování do výsledné podoby zabralo menší dobu, než kterou průměrně stráví nad texty lidských redaktorů.