Podle europoslance a kvestora Evropského parlamentu Marcela Kolaji, který se na legislativě podílel, zamezí nová pravidla zneužívání umělé inteligence k narušování základních lidských práv a diskriminaci. Návrh nyní zamíří do trialogu.

„Většinu systémů pravidla neovlivní, ale existují využití umělé inteligence, které mohou ve špatných rukách omezit základní práva nás všech. Například systémy sociálního kreditu, které známe z Číny. Ty automaticky přidělují nebo odebírají lidem body podle toho, jestli se podle režimu chovají žádoucím nebo nežádoucím způsobem. To je zásah do soukromých životů, který nechci nikdy zažít. Do pozice Parlamentu jsme proto prosadili, aby se zákaz týkal nejen států, ale i soukromých firem, jako jsou pojišťovny,“ vysvětluje pirátský europoslanec Kolaja. Ten na legislativě pracoval téměř dva roky jako zpravodaj stanoviska ve výboru pro kulturu a vzdělávání (CULT).

Právě systém sociálního skóre patří kvůli své rizikovosti do kategorie nepovolených využití umělé inteligence. Kromě toho legislativa zakazuje také systémy takzvané prediktivní policejní práce. Ty totiž mohou vést třeba k diskriminaci menšin. Zakázané budou i programy, které automaticky třídí občany na základě charakteristik, jako je pohlaví, zdravotní stav nebo třeba sexuální orientace.

„Dalším příkladem jsou technologie na rozpoznávání emocí. Spolu s kolegy z politické skupiny jsme zařídili, aby byly zakázány v oblastech, jako je školství, zaměstnání nebo vymáhání práva. Fungují totiž na naprosto pseudovědecké myšlence, že z výrazu tváře můžete bezpečně rozpoznat emoce. A to je nesmysl,” popisuje Kolaja.