Apple volá po regulaci umělé inteligence

Oblast technologií je ohrožována řadou faktorů. Uživatelé se obávají například škodlivého softwaru nebo ztráty soukromí. Podle vlivných osobností technologického průmyslu bychom se ale neměli tolik obávat samotného lidského faktoru, jako spíše jeho spojení s umělou inteligencí. Vedoucí pracovníci řady významných technologických firem na letošním Světovém ekonomickém fóru v Davosu volali po legislativní regulaci odvětví. Jaké k tomu mají důvody?

„Umělá inteligence je jednou z nejhlubších věcí, na které jako lidstvo pracujeme. Má větší hloubku než oheň nebo elektřina,“ uvedl minulou středu na Světovém ekonomickém fóru CEO společnosti Alphabet Inc. Sundar Pichai, a dodal, že regulace umělé inteligence si žádá celosvětový rámec zpracování. Po standardizaci pravidel, týkajících se využívání umělé inteligence, volá také ředitel Microsoftu Satya Nadella a ředitel IBM Ginni Rometty. Podle Nadelly je dnes více než před třiceti lety nutné, aby Spojené státy, Čína i Evropská unie stanovila pravidla, určující význam umělé inteligence pro naši společnost i pro svět.

Pokusy jednotlivých společností stanovit vlastní pravidla etiky umělé inteligence se v minulosti setkaly s protesty nejen ze strany zaměstnanců těchto firem. Google musel například po masivním nesouhlasu odstoupit v roce 2018 z tajného vládního programu Project Maven, který využíval technologii k analýze snímků z vojenských dronů. Stefan Heumann z berlínského think-tanku Stiftung Neue Verantwortung v souvislosti s etickými kontroverzemi ohledně umělé inteligence uvádí, že pravidla by měly stanovovat politické organizace, nikoliv firmy samotné.

Inteligentní reproduktor Google Home využívá umělou inteligenci

Současná vlna protestů proti umělé inteligenci má pro toto načasování jasný důvod. Jen za několik týdnů má totiž Evropská unie přestavit své plány na příslušnou legislativu. Ta by mohla obsahovat například nařízení, týkajících se vývoje umělé inteligence v takzvaně vysoce rizikových sektorech, jako je zdravotnická péče nebo doprava. Podle nových pravidel by například firmy musely v rámci transparence dokládat, jakým způsobem budují své AI systémy.

V souvislosti s umělou inteligencí se již v minulosti objevilo hned několik skandálů – jedním z nich je například aféra Cambridge Analytica. Ve společnosti Amazon zase došlo k tomu, že zaměstnanci odposlouchávali uživatele prostřednictvím digitální asistentky Alexy, v létě loňského roku se zase rozhořel skandál kvůli tomu, že společnost Google – respektive platforma YouTube – shromažďovala bez souhlasu rodičů data dětí mladších třinácti let.

Zatímco některé firmy k tomuto tématu mlčí, Facebook podle vyjádření své viceprezidentky Nicoly Mendelsohn nedávno stanovil vlastní pravidla, podobná evropskému nařízení GDPR. Mendelsohn ve svém prohlášení uvedla, že se jedná o výsledek snahy Facebooku o celosvětovou regulaci. Keith Enright, který má ve společnosti Google na starost soukromí, zase na nedávné konferenci v Bruselu uvedl, že firma aktuálně hledá způsoby minimalizace množství uživatelských dat, které je zapotřebí shromáždit. „Podle rozšířeného populárního tvrzení se ale firmy, jako je ta naše, snaží shromáždit co nejvíce dat,“ uvedl dále, a dodal, že držení dat, která nepřináší uživatelům žádnou hodnotu, je riskantní.

Regulátoři podle všeho ochranu uživatelských dat v žádném případě nepodceňují. Spojené státy v současné době pracují na federálních právních předpisech, podobných nařízení GDPR. Na jejich základě by společnosti musely od svých zákazníků získat souhlas s poskytnutím jejich údajů třetím stranám.

Zdroj: Bloomberg