„Moje první deep fake video,“ pochlubil se v sobotu internetu ministr vnitra Vít Rakušan. Měli bychom podle něj být rádi, že dezinformátoři, kteří na něj útočí, začali používat alespoň umělou inteligenci.
Tím patrně narážel na stránku Vidlákovy kydy, která ale video sdílela s rozesmátým smajlíkem a komentářem jasně avizujícím video jako vtip.
Ministr vnitra Vít Rakušan se prohlásil za oběť deep fake na základě dost amatérsky působícího videa, ve kterém při odchodu ze Sněmovny divným hlasem mluví o tom, jak v Karviné vydrbe z dezoláty, přičemž jeho ústa zjevně vyslovují zcela jiná slova.
„Bylo by to legrační, kdyby problematika zneužívání AI nebyla ve skutečnosti tak nebezpečná,“ varoval na své oficiální síti ministr vnitra.
„Budou k nerozeznání od reality a to je věc, na kterou se nesmíme vykašlat,“ varoval Rakušan s tím, že odborníci ministerstva vnitra už na tom pracují.
Oceňujete, že Vít Rakušan šel v Karviné diskutovat do hospody?Anketa
Na globální úrovni je podle Lipavského třeba diskutovat také o tom, jak lidé komunikují skrze globální internetové platformy. Tyto plány jdou v duchu ambicí Evropské unie, kde se regulace sociálních sítí už dostala do podoby legislativy. Hlavní iniciátorkou těchto regulací byla česká eurokomisařka Věra Jourová.
„Musíme hledat řešení, jak podpořit svobodu slova, ale zároveň neohrozit naše demokratické společnosti,“ vyzval Jan Lipavský v Davosu. A rovněž ocenil legislativu Evropské unie.
„Byla by velkou chybou akceptovat, že něco není možné regulovat, pokud to má schopnost ohrozit vlády,“ varoval Jan Lipavský.
Jeho ministerstvo zahraničí se tématu věnuje i v jiných formátech. Česko bylo například jedním z předkladatelů rezoluce o „podpoře a ochraně lidských práv v kontextu digitálních technologií“. Tu schválilo Valné shromáždění OSN vloni v prosinci.
?????????? Česká rezoluce o podpoře a ochraně lidských práv v kontextu digitálních technologií byla včera přijata na plénu 3. výboru Valného shromáždění OSN! Text se soustředí na témata algoritmů, digitální propasti, ale třeba i vypínání internetu. ??
— Ministerstvo zahraničních věcí (@mzvcr) December 20, 2023
Více ?? https://t.co/CF1dv9l3Hp
Rezoluci společně s Českem navrhlo Nizozemsko, Jihoafrická republika, Maledivy a Mexiko.
Možnostmi regulace deep fakes se zabývají experti z ČVUT v Praze i VUT Brno. O obou výzkumech ParlamentníListy.cz už v minulosti psaly.
„Projekt reaguje na aktuální hrozbu, kdy se s rozvojem systémů na modifikaci a syntézu hlasu množí útoky na systémy a osoby pomocí umělé inteligence a cílené úpravy hlasového výstupu na konkrétní hlas,“ vysvětlili pro ParlamentníListy.cz experti z VÚT.
Projekt má být zaměřen i na situace, kdy bude prostřednictvím modifikace a syntézy hlasů páchána kriminalita. Právě to podle mnohých bude představovat největší nebezpečí, protože umělá inteligence může výrazně rozšířit možnosti manipulací v telemarketingu a dalších praktikách obchodních „šmejdů“.
Experti z VUT pro ParlamentníListy.cz vysvětlili, že ve světě jsou dnes už vyšetřovány pokusy o podvod v řádech milionů dolarů, při kterých byla užita umělá inteligence. Zvyšující se dostupnost technologií podle nich umožňuje mnohem častější užití DeepFakes, takže se z menšího množství případů s vysokou škodou stává větší množství pokusů.
Zatímco při vyšetřování zločinů nikdo význam „obrany proti umělé inteligenci“ nezpochybňuje, v případě politického boje je třeba poměřovat hodnotu „ohrožení“ s garancí svobody slova.
Jestli to pojmou jako boj proti dezinformacím...
Mediální expert Jozef Ftorek se obává, že pokud politici typu ministrů Rakušana půjdou na AI stejně, jako doposud bojovali proti dezinformacím, že celkem nemají šanci na úspěch. „Tak jako informační regulace, cenzura, nebo tzv. „fact checking“, česky ověřování faktů, generuje v případě kritického a vnímavého publika otázky, které se snaží potlačit, tak i AI dokáže všechny snahy o kontrolu snadno překonat. Její propagátory deklasovat a zesměšnit,“ obává se.
Stejně tak podle něj není řešením režimové odpojení od sítí nebo nucení ke komunikace výhradně skrze „autorizované“ zdroje.
„Legislativa pochopitelně ani nedokáže na tempo, které diktuje AI, reagovat. Tempo AI je totiž vražedné,“ říká k vizi legislativní regulace dle ministra Lipavského.
Pokud budeme uvažovat pouze v kategorii „ochrany“, nevyhnutelně dojdeme k závěru, že některé informace je třeba potlačit, regulovat, autoritativně interpretovat a skoro úplně zakázat.
„To pak ovšem dost dobře nemůžeme mluvit o společnosti demokratické. Už z toho důvodu, že cenzura je podle Listiny základních práv a svobod, jako součásti naší ústavy nepřípustná,“ zdůrazňuje mediální odborník.
Bohužel ale tendence a nápady některých politiků a s nimi spřízněných expertů, včetně reprezentantů doposud demokratické západní civilizace, jsou v tomto směru spíše totalitní. Je tedy otázkou, zda si je veřejnost nechá líbit.
V tomto smyslu vnímá i úvahy Jana Lipavského.
Sociolog Petr Hampl by ale globální regulační plány ministra Pirátské strany nebral až tak vážně. Jeho snaha prezentovat se na přelomovém tématu podle něj vychází především z neschopnosti šéfa české diplomacie zaujmout ekonomické fórum v Davosu čímkoliv ekonomicky přízemním a praktickým, o čem ministři coby zástupci veřejnosti svého státu obvykle hovoří. „Jedinou devizou toho mladého muže je přerostlé sebevědomí. Buďme rádi, že to tentokrát dopadlo jen takto. Že si toho nikdo nevšiml. Že z toho nebyla taková ostuda jako z Lipavského vystoupení v OSN,“ připomíná čtenářům ParlametníchListů.cz Lipavského vystoupení k tématu Ruska na Radě bezpečnosti OSN.
Jak sociolog Hampl doplňuje, česká vláda rozvíjí sny o tom, jak se bude bránit dezinformátorům s umělou inteligencí, ale v reálu není schopna zastavit ani internetové podvodníky, kteří už se současnými technickými možnostmi vykrádají lidem účty.
„ Když narazíte na nebezpečnou podvodnickou stránku, nemáte ji ani kam ohlásit, protože to žádný úřad nezajímá. A teď by chtěli chránit před dokonale zfalšovanými videi? To je směšné,“ obává se sociolog.
Přidejte si PL do svých oblíbených zdrojů na Google Zprávy. Děkujeme.
autor: Jakub Vosáhlo
FactChecking BETA
Faktická chyba ve zpravodajství? Pomozte nám ji opravit.