Europoslankyně za Pirátskou stranu Markéta Gregorová v rozhovoru pro pořad Napřímo podrobně popsala okolnosti a důvody zákazu takzvaných svlékacích aplikací, který se podařilo prosadit v rámci evropského zákona o umělé inteligenci (tzv. AI Act). Podle Gregorové jde o aplikace, jejichž jediným úkolem je vytvořit nahou podobiznu člověka bez jeho souhlasu.

Politička zdůraznila, že pro tyto nástroje neexistuje žádné legitimní využití, neboť slouží výhradně k šikaně a zneužívání, přičemž nejčastějšími oběťmi jsou ženy a děti. „Prostě tam není žádné využití, které by nebylo tímto způsobem nebezpečné nebo toxické,“ uvedla Gregorová s tím, že právě proto bylo nejlepším řešením přímý zákaz.

Při vyjednávání o nové legislativě musela Gregorová podle svých slov čelit tlaku byznysové lobby i odporu některých politických kolegů. Část europoslanců se obávala, že přísná regulace by mohla poškodit evropský AI průmysl, což však Gregorová označila za nesmysl. Žádná poctivá firma přece nechce, aby její aplikace umožňovaly takové zneužití.

Během rozhovorů se navíc ukázalo, že někteří zákonodárci původně vůbec netušili, jakou hrozbu technologie představuje. Gregorová popsala, že musela postarším mužům v europarlamentu vysvětlovat, že nejde o nevinné obrázky v plavkách, ale o explicitní nahotu, která může zasáhnout i jejich vlastní rodiny. „Když jsme jim to takhle vysvětlili, tak už to naštěstí většina z nich začala chápat,“ doplnila zástupkyně Pirátů.

Přestože Piráti usilovali o to, aby zákaz začal platit okamžitě, výsledkem vyjednávání s konzervativními frakcemi je kompromisní termín stanovený na 2. prosince. Gregorová podotkla, že většina technologických společností už nyní disponuje mechanismy, jak generování nahoty zabránit, a toto přechodné období je určeno spíše těm, kteří se regulaci bránili. Jako příklad zmínila kauzu kolem AI modelu Grok Elona Muska. Zákaz svlékacích aplikací je podle ní klíčovým krokem k ochraně základních lidských práv v digitálním věku, neboť tyto aplikace pracují s těly a obličeji obětí bez jakéhokoliv povolení.

Evropa zaspala a ujíždí jí vlak

Gregorová v rozhovoru odmítla, že by evropský zákon o umělé inteligenci brzdil inovace. Legislativa je podle ní založena na rizikovosti konkrétního užití AI, nikoliv na plošných zákazech, což chrání občany před diskriminací například při výběrových řízeních. Skutečný problém zaostávání Evropy za USA vidí v nedostatku investic a roztříštěnosti trhů. Aby se situace zlepšila, považuje za nutné vytvořit jednotný kapitálový trh, který by zabránil tomu, aby nadějné evropské firmy končily v rukou amerických investorů. 

V této souvislosti europoslankyně apeluje na Evropskou komisi, aby byla v prosazování reforem odvážnější. Jako slibný první krok zmínila návrh takzvaného 28. režimu. „Jsem ráda, že ho Komise navrhla, ale myslím si, že by měla být odvážnější a už do toho vstoupit hovory o kapitálovém trhu,“ uvedla Gregorová.

Tento režim by umožnil firmám dobrovolně využívat sjednocená pravidla pro investice, což by jim výrazně usnadnilo expanzi na trhy všech členských států. Podle Gregorové Komise o těchto změnách zatím spíše jen mluví a Evropě v této oblasti „ujíždí vlak“.

Jako konkrétní příklad promarněné příležitosti, kde mohla Evropa projevit více odvahy a získat technologickou suverenitu, uvedla americkou firmu Anthropic. „Já se trošku divím, že Komise nenabídla Anthropicu, když měl potyčku s americkou vládou, že by to odkoupila Evropská unie a měli bychom vlastní AI,“ prohlásila zástupkyně Pirátů.

Tento krok by podle ní zajistil, že by Unie vlastnila špičkový model splňující evropské standardy a certifikace. Místo toho podle ní Evropa v rozvoji vlastních nástrojů „zaspala“ a zůstává v pozici, kdy pouze reguluje technologie vyvinuté v USA nebo v Číně.

EU je závislá na amerických cloudových službách a čínské infrastruktuře

Hovořila také o nízké úrovni kyberbezpečnosti v Evropě a zmínila škody způsobené vyděračským softwarem a dopady kybernetických útoků na banky, nemocnice a firmy, kdy útočníci vyžadují výpalné. „Pohybujeme se opravdu v miliardových až bilionových částkách, které tímhle utečou z Evropské unie. Prostě jenom na tom, že nemáme dostatečnou úroveň kyberbezpečnosti,“ řekla pirátka. Ukradené peníze pak končí v rukou hackerů.

Podle europoslankyně je jedním z největších rizik naše hluboká závislost na cizích technologiích, zejména na amerických cloudových službách a čínské infrastruktuře. „Jsme všichni závislí na Microsoftu, na Amazonu, na jejich cloudových úložištích. Jsme závislí do velké míry z hlediska 5G sítí na Huawei,“ varovala s tím, že tato závislost vytváří nejen bezpečnostní rizika, ale i ekonomické monopoly, které Evropu ochuzují.

Fotogalerie: - Macinkův tým politických poradců

Velmi důrazně se vyjádřila k hrozbě ze strany Číny a používání jejích technologií v běžném životě. Podle jejího názoru jsou čínské automobily už nyní nástrojem ke špionáži, což dokládá i fakt, že sama Čína omezuje vjezd západních vozů ke svým citlivým objektům. „Když máte situaci, že Čína si myslí, že my to děláme jim, pak si buďte jistí, že oni to už dávno dělají nám,“ vysvětlila zástupkyně Pirátů.

Navrhla proto zavedení principu reciprocity – pokud chce Čína v Evropě prodávat své technologie, musí se podrobit evropské certifikaci softwaru a ukládat data na evropských serverech. Podle ní čínská komunistická strana slyší pouze na sílu a Evropa se nesmí bát v rámci své suverenity přísně regulovat.

Kromě fyzických hrozeb Gregorová varovala i před neviditelným vlivem čínských algoritmů na sociálních sítích. Ty podle ní netvoří obsah přirozeně, ale jsou nastaveny tak, aby ukazovaly to, co chce čínský režim. Jako příklad uvedla možné šíření paniky v případě geopolitického konfliktu o Tchaj-wan. Přestože sama žádné čínské softwarové produkty nepoužívá, uznává, že pro běžného občana je téměř nemožné se jim zcela vyhnout.

Fotogalerie: - Před tripartitou

Politici by se proto měli postarat o systémovou ochranu, zatímco lidé by měli používat technologie s rozumem a zvažovat, která citlivá data do svých zařízení nahrávají. „Měli bychom se bavit o tom, na kom jsme závislí, kolik peněz a kolik dat našich občanů a naší kritické infrastruktury odevzdáváme těmto firmám,“ sdělila europoslankyně.

Vymezila se proti návrhu známému jako „Chat Control“, který by podle ní vedl k plošnému šmírování soukromé komunikace pod záminkou boje proti dětské pornografii. Takový krok považuje za nelegální a nepřiměřený zásah do soukromí, který přirovnává k situaci, kdy by pošťák musel otevřít každý dopis dříve, než jej adresát vůbec odešle. „Legislativa musí být proporcionální a proporcionalita není v tom, že skenujeme úplně všechny. Toto porušuje presumpci neviny,“ vysvětlila Gregorová s tím, že chybové systémy umělé inteligence by pouze zahltily policii falešnými hlášeními namísto cíleného potírání skutečných zločineckých sítí.

Jako dlouholetá zastánkyně evropské federace v rozhovoru podpořila vizi prezidenta Petra Pavla o silnější a akceschopnější Evropě. Současné uspořádání Unie podle ní neodpovídá moderním hrozbám, protože zahraniční politika je často paralyzována právem veta jednotlivých členských států.

V oblasti zahraniční a bezpečnostní politiky by se podle Gregorové mělo hlasovat většinově, aby EU nebyla zablokována jedním státem. Cestu vidí v zefektivnění rozhodování skrze zrušení jednomyslného hlasování v Radě EU a vytvoření silného mandátu pro společné vystupování navenek. Jen tak se podle ní může Evropa stát skutečně relevantním partnerem pro světové mocnosti, jako jsou USA, Čína nebo Rusko, a přestat se věnovat podružným regulacím na úkor strategické bezpečnosti.

Psali jsme:

Gregorová (Piráti): Svlékací aplikace nemají v naší společnosti co dělat

Gregorová (Piráti): EU nesmí zůstat pozadu, závod s časem už začal

Gregorová (Piráti): Platformy dál šmírují soukromé konverzace

Gregorová (Piráti): Orbánovi se vymstil jeho vlastní pokřivený volební systém