Bude děti na sociálních sítích dozorovat „zodpovědná“ umělá inteligence?

Ilustrační foto. Zdroj: Pixabay
Life Technologie 21. 02. 2023

Bude děti na sociálních sítích dozorovat „zodpovědná“ umělá inteligence?

Na způsob, jak zabránit tomu, aby se děti na internetu setkávaly se škodlivým obsahem, přišli akademici z University of Warwick. Informaci o jejich výzkumu přinesl web TechXplore.

V centru práce britských akademiků stojí takzvaná „zodpovědná“ umělá inteligence, která pomáhá s moderováním obsahu. Navrhovaný systém dokáže procházet obrovské množství textových a obrazových materiálů a na jejich základě sestavovat „databáze“ informací o jednotlivých nejškodlivějších oblastech ohrožujících děti a mládež. Řadí se mezi ně například projevy kyberšikany, sebevraždy, anorexie, násilí na dětech a sexuální zneužívání dětí.

Pomoct při dosahování stanoveného cíle mají algoritmy pro zpracování přirozeného jazyka, rozšířené o znalostní vrstvu. Díky ní se technologie v pochopení řeči pomalu už blíží lidské úrovni. Dokáže totiž porozumět kontextu komentářů, nuancím výpovědí, sociálním vazbám mezi jednotlivci, utvářeným na základě věku a osobních vztahů.

Autoři výzkum vyvinuli systém pro moderování obsahu, který zohledňuje kontext sociálních škod a nevhodného chování. Zatím ale takový kritický dozor vykonávali výhradně jen lidé. Shweta Singh, jedna z autorek studie, k tomu dodává: „Zákonodárci dosud do značné míry umožňovali platformám sociálních médií, aby si tyto záležitosti spravovaly samy. To ale vyvolávalo pobouření jak ze strany lidí pečujících o děti a mládež, tak ze strany obhájců svobody projevu.“

Podle Shwety Singh musí zákonodárci lépe porozumět technologiím, pro které vymezují pravidla. Samotné soukromé firmy mají totiž jen malou motivaci k tomu, aby vyvíjely takto definovanou zodpovědnou umělou inteligenci. „Kdyby regulátoři pochopili, že ‚inteligentní‘ technologie, která čte mezi řádky a třídí neškodnou komunikaci od škodlivé, už je reálnou možností, požadovali by její začlenění do zákonů, které se snaží přijmout,“ uzavírá profesorka z University of Warwick.

Autor: Petr Pláteník

Další články