“Vydírání nebo kyberšikana na základě vygenerovaných nahých fotek roste závratným tempem. Poskytovatelé těchto nástrojů dávají od zodpovědnosti ruce pryč, ale to podle mého návrhu už nebude možné. Nová pravidla stanovují, že poskytovatelé systémů generujících obrazový nebo video obsah musí přijmout veškerá opatření, aby podobnému zneužití zabránili,” vysvětluje Gregorová.

Zásadní problém je podle Gregorové například Muskův nástroj Grok. Podle analýzy pro britský deník The Guardian (ZDE) bylo k 6. lednu vytvořeno na 6000 bikini fotek každou hodinu. Analýza organizace Center for Countering Digital Hate (ZDE), která využila statistický model, zase odhadla, že 65 procent příspěvků, tedy něco přes tři miliony, obsahovalo sexualizované vyobrazení mužů, žen nebo dětí.

“Není možné, aby kvůli technologickému pokroku zůstaly děti i dospělí bez ochrany. Pokud někdo vyvíjí nástroje, které dokážou generovat realistické obrázky nebo videa, musí zároveň nést odpovědnost za to, že nebudou zneužívány k ponižování, vydírání nebo šikaně lidí. Technologie mají lidem sloužit, ne je zbavovat důstojnosti a bezpečí,” říká Gregorová.

Původní návrh Evropské komise umožňoval, aby některé systémy umělé inteligence využívaly vysoce citlivé osobní údaje uživatelů, například informace o zdravotním stavu, sexualitě nebo politických názorech, za účelem korekce zaujatosti. Podle průzkumu Perfect Crowd s tímto využíváním dat pro trénink AI nesouhlasí 90,7 % Čechů. Gregorová se proti tomu rovněž postavila.

“Už na výboru se nám podařilo upravit návrhy, které umožňovaly systémům učit se z těchto osobních údajů, tak, aby šlo pouze o krajní opatření pro nápravu závažných biasů v AI, a zároveň bylo zajištěno dodržování vysokých standardů ochrany dat. Ochrana soukromí musí zůstat jedním ze základních principů evropské digitální politiky,“ dodává Gregorová.