„Moje první deep fake video,“ pochlubil se v sobotu internetu ministr vnitra Vít Rakušan. Měli bychom podle něj být rádi, že dezinformátoři, kteří na něj útočí, začali používat alespoň umělou inteligenci.

Tím patrně narážel na stránku Vidlákovy kydy, která ale video sdílela s rozesmátým smajlíkem a komentářem jasně avizujícím video jako vtip.

Ministr vnitra Vít Rakušan se prohlásil za oběť deep fake na základě dost amatérsky působícího videa, ve kterém při odchodu ze Sněmovny divným hlasem mluví o tom, jak v Karviné vydrbe z dezoláty, přičemž jeho ústa zjevně vyslovují zcela jiná slova.

„Bylo by to legrační, kdyby problematika zneužívání AI nebyla ve skutečnosti tak nebezpečná,“ varoval na své oficiální síti ministr vnitra.

„Budou k nerozeznání od reality a to je věc, na kterou se nesmíme vykašlat,“ varoval Rakušan s tím, že odborníci ministerstva vnitra už na tom pracují.

„Je třeba lidem zajistit právo nebýt manipulován“. Tuto myšlenku na ekonomickém fóru v Davosu rozvedl Rakušanův kolega, ministr zahraničních věcí Jan Lipavský. Vnímá prý v tomto směru hrozby vycházející z technologického rozvoje umělé inteligence. Na ochranu lidí by podle něj měla vzniknout globální platforma.

Na globální úrovni je podle Lipavského třeba diskutovat také o tom, jak lidé komunikují skrze globální internetové platformy. Tyto plány jdou v duchu ambicí Evropské unie, kde se regulace sociálních sítí už dostala do podoby legislativy. Hlavní iniciátorkou těchto regulací byla česká eurokomisařka Věra Jourová.

„Musíme hledat řešení, jak podpořit svobodu slova, ale zároveň neohrozit naše demokratické společnosti,“ vyzval Jan Lipavský v Davosu. A rovněž ocenil legislativu Evropské unie.

„Byla by velkou chybou akceptovat, že něco není možné regulovat, pokud to má schopnost ohrozit vlády,“ varoval Jan Lipavský.

Jeho ministerstvo zahraničí se tématu věnuje i v jiných formátech. Česko bylo například jedním z předkladatelů rezoluce o „podpoře a ochraně lidských práv v kontextu digitálních technologií“. Tu schválilo Valné shromáždění OSN vloni v prosinci.

?????????? Česká rezoluce o podpoře a ochraně lidských práv v kontextu digitálních technologií byla včera přijata na plénu 3. výboru Valného shromáždění OSN! Text se soustředí na témata algoritmů, digitální propasti, ale třeba i vypínání internetu. ??
Více ?? https://t.co/CF1dv9l3Hp

— Ministerstvo zahraničních věcí (@mzvcr) December 20, 2023

Rezoluci společně s Českem navrhlo Nizozemsko, Jihoafrická republika, Maledivy a Mexiko.

Možnostmi regulace deep fakes se zabývají experti z ČVUT v Praze i VUT Brno. O obou výzkumech ParlamentníListy.cz už v minulosti psaly.

„Projekt reaguje na aktuální hrozbu, kdy se s rozvojem systémů na modifikaci a syntézu hlasu množí útoky na systémy a osoby pomocí umělé inteligence a cílené úpravy hlasového výstupu na konkrétní hlas,“ vysvětlili pro ParlamentníListy.cz experti z VÚT.

Projekt má být zaměřen i na situace, kdy bude prostřednictvím modifikace a syntézy hlasů páchána kriminalita. Právě to podle mnohých bude představovat největší nebezpečí, protože umělá inteligence může výrazně rozšířit možnosti manipulací v telemarketingu a dalších praktikách obchodních „šmejdů“.

Experti z VUT pro ParlamentníListy.cz vysvětlili, že ve světě jsou dnes už vyšetřovány pokusy o podvod v řádech milionů dolarů, při kterých byla užita umělá inteligence. Zvyšující se dostupnost technologií podle nich umožňuje mnohem častější užití DeepFakes, takže se z menšího množství případů s vysokou škodou stává větší množství pokusů.