Jak ovlivní technologie naši společnost z pohledu práva? Jana Pattynová o samořídících autech, deep fakes i umělé inteligenci
Leadership
Foto: se souhlasem Jany Pattynové

Jak ovlivní technologie naši společnost z pohledu práva? Jana Pattynová o samořídících autech, deep fakes i umělé inteligenci

CZECHárnu dnes navštívila renomovaná advokátka, partnerka mezinárodní advokátní kanceláře Pierstone. Jak vidí budoucí vývoj společnosti pod vlivem nastupujících technologií? Co si myslí o právu na soukromí ve veřejném prostoru a o deep fakes? Vítejte u dalšího dílu pořadu, kterým vás jako obvykle provází Petr Beneš.

03.02.22

Pokud si chcete přidat Czechárnu Petra Beneše na Spotify, můžete tak učinit ZDE

PB: Jsi partnerkou ve společnosti, která se od roku 2004 věnuje právu v segmentu TMT. Objasni nám prosím na začátek: co je to TMT?

JP: Technologie, média, telekomunikace. Technologie byly pro právníky na začátku málo - aby se uživili, museli si k tomu přidávat další obory. Dnes už jsou mnohem specializovanější, málokdo dělá TMT. Ani já už média nedělám, dvě téčka mi úplně stačí. 

PB: Jak ty ses k technologiím dostala? Byla to náhoda, osud? Nebo jsi odmalička snila o tom, že budeš mít s technologiemi něco společného?

JP: Já jsem si to vybrala. Začala jsem v nemovitostech, ale cítila jsem, že ten obor pro ženy úplně není – setkávala jsem se tam s velkým despektem vůči nim. Až tak, že se klienti ptali, jestli já jsem opravdu ten právník, který transakci povede. Nevyhovovalo mi ani to prostředí, ani lidé, a tak jsem začala dělat telekomunikace. V té byli v tom oboru samí technici – málo manažerů, málo bankéřů. Lidé byli všichni velmi příjemní, nebyly tam žádné konflikty. Postupně jsem pak odtud přešla k technologiím, kde to zpočátku bylo podobné. Když ten obor začali zamořovat bankéři a jim podobní, stal se drsnější. Ale na začátku to byl obor velmi rovnoprávný. 

PB: Když se podíváme na nové technologie jako je umělá inteligence, robotizace nebo nástup samořídících aut, tak je zřejmé, že samozřejmě do právní problematiky přináší celou řadu problémů ohledně toho, jak vlastně by společnost měla na nové technologie reagovat. Které z těch technologií, které dnes nastupují a stávají se součásti našeho života, vidíš ty z právního pohledu do budoucna jako největší oříšek, který bude třeba rozlousknout?

JP: Určitě je to umělá inteligence, virtuální realita a Metaverse. Nejsou to právní oříšky, jsou to oříšky pro lidstvo jako takové. Myslím si, že na tak rychlou změnu a kalibr technologií nejsme nastaveni. 

PB: Zdá se, že samořídící auta brzy opanují vozovky. Zrovna včera jsem četl tweet od (myslím) Radovana Vávry, který říkal, že do pěti let budou auta vyšší střední třídy, která nebudou mít automatizaci alespoň úrovně 3, neprodejná. To bude znamenat obrovskou změnu na našich vozovkách a v našem chování. Třeba v zodpovědnosti za škodu – jak vnímáš, že se toto bude vyvíjet a jak se třeba zodpovědnost za škodu, způsobená samořídícími auty, bude v právním systému etablovat?

JP: Uvažovalo se o různých scénářích. Věřím, že vyhraje ten, podobný povinnému ručení - bude to pojistka, automaticky zabudovaná do hodnoty vozu. Považuji to za jediný scénář, který byznysově dává pro všechny smysl, včetně pojišťoven. Také si myslím, že ohledně samořídících aut existuje propojení byznysového zájmu s tím, jak rychle postupuje jejich regulace. Protože pokud vyrábím samořídící auto, tak se z výrobce aut stávám softwarovou společností. Nevím, jestli jsou evropští výrobci aut připraveni na takovou skokovou změnu a myslím si, že by jim nějaký ten čas v podobě regulace a přizpůsobení infrastruktury přišel docela vhod. Věřím, že jako Evropané bychom to měli podporovat, protože tady nezbytně nutně nechceme mít úplně všechno cizí provenience. 

PB: Bude zodpovědnost za provoz na vlastnících samořídících automobilů nebo nějakým způsobem zůstane i nadále s jejich výrobci? Protože dnes je to tak, že ať si koupím jakékoliv auto, za jeho provoz zodpovídám já. Jak to bude u samořídících aut?

JP: Myslím si, že zodpovědnost za provoz by měla zůstat u výrobců, kteří se budou pojišťovat a to pojištění promítnou do ceny vozu. Ale předpokládám, že bude ještě dlouho možné ta auta manuálně převzít - bude tedy nutné zkoumat, jestli někdo manuálně převzal řízení, nebo jestli to auto skutečně jelo samo. Pro výrobce by nemělo být složité to dohledat. 

PB: Přesun našich životů do virtuálního prostoru během posledních let přináší nové velké výzvy do oblasti cyber security a data privacy. Protože my otisk našich osobností velmi dobrovolně a někdy i nedobrovolně do online prostoru zaznamenáváme. Jaké největší výzvy vidíš v posledních letech v oblasti data privacy ty? Jaké nové trendy můžeme očekávat v právní úpravě?

JP: Velké výzvy jsou dvě, a to analýzy emocí a biometrika. Biometrika je něco, co se už velmi intenzivně řeší, třeba rozpoznávání obličejů. V Evropě se na tom dosud nemůžeme shodnout. Například Velká Británie, která tedy už v EU není, měla tradičně k tomu pragmatičtější přístup – pokud to zlevní výkon dozoru a policejní práce, tak proč ne. My jsme se na to tradičně dívali spíše s trochu větší rezervou. O tu technologii projevilo zájem i mnoho soukromých subjektů, například provozovatelé fotbalových stadionů, ale Úřad na ochranu osobních údajů se k tomu postavil negativně s odůvodněním, že pro soukromé osoby by neměla být volně dostupná.

 PB: To je zajímavé. Protože například asijské veřejné prostředí je technologií rozpoznávání obličejů pokryto mnohem více. Dokonce jsem slyšel, že údajně v Singapuru, když člověk třeba kouří na zakázaném místě, tak mu už automaticky přichází pokuta, což se úplně neshoduje s naším vnímáním osobních svobod. Vidíš tady riziko toho, že se tyto trendy z méně demokratických společností začnou přesouvat i k nám?

JP: Pokud se zájmem na ochranu soukromí vyvažuji páchání trestné činnosti, tak možná to soukromí ještě převáží. Ale v ochraně zdraví nebo života už se ty principy začínají ohýbat. Otázkou je, jestli se mohu na každého dívat jako na potenciálního pachatele nebo na přenašeče nemoci. Nejvyšší soud vždy stál na principu, že ne. Pokud nějaké technologie uplatňují orgány činné v trestním řízení, tak je mohou uplatňovat až od nějaké fáze podezření.  S nástupem pandemie se ale začalo tak nějak přijímat, že dívat se na každého jako na potenciálně nakaženého a uplatňovat na něj technologie, které ověří, jestli to tak je, nejspíš možné je. A to je princip, který by do budoucna mohl být hodně nebezpečný. 

PB: Obrovský pokrok v technologiích bude určitě stavět na hlavu třeba i důkazní řízení. Vzpomínám si na známé video, které se dlouho virálně šířilo –  video s Barrackem Obamou a jeho projevem, který on nikdy nepronesl – dokonale se podařilo napodobit jeho mimiku, jeho intonaci, jeho hlas. Říkal tenkrát slova o prezidentu Trumpovi, které by člověk jeho hodnot a vychování nikdy neřekl. Šokovou metodou nám bylo ukázáno, že se řítíme do doby postfaktické, postpravdivé. Zmanipulovat naše chování bude už brzy velmi snadné. Co to bude znamenat pro vás právníky, když se nebudete moci třeba spolehnout na některé dnes standartní důkazní metody?

JP: Už dnes jsou ohromné problémy s důkazy v trestním právu, i s tak obyčejnou věcí jako je odposlech. Všechny tyto věci jsou pro soudce jako důkazní materiál velmi těžko uchopitelné. Představa EU o regulaci deep fakes je taková, že by to mělo být označeno a že by se sankcionovalo, pokud ta povinnost dodržena nebude. Ale už teď vidíme, že jakékoliv dozorové orgány, pokud mají vymáhat něco mimo rámec své jurisdikce, jsou úplně ztracené.

 PB: Jak by legislativa mohla změnit, zlepšit a zrychlit reakci na vývoj technologií? Objevuje se celá řada právních problémů, které budou technologie do našich životů přinášet. Co bychom mohli udělat pro to, aby byl právní řád schopen rychleji na tyto výzvy reagovat? Protože zrychluje se to skoro exponenciálně.

JP: Myslím, že dnešní odpověď je spíš v tom, že to lze regulačně zpomalit a získat nějaký čas. To je to, co se děje s některými aplikacemi umělé inteligence – prozatím zakázat nějakou kvalifikovanou biometriku, zakázat systémy, které využívají zranitelnosti lidí. Protože když zakážeš třeba segwaye, tak to postihne pár poskytovatelů s obratem pár desítek nebo stovek milionů v Praze. Ale pokud máš nasazenou technologii napříč státní správou nebo celým průmyslem, tak už to jako regulátor nemůžeš úplně zakázat. I když by to třeba bylo správné a všichni by tomu věřili a tleskali, tak už to není proveditelné. 

PB: Jak vnímáš oblast blockchainu a kryptoměn? Jako věc, která by se měla regulovat, že už je nejvyšší čas?

JP: Kryptoměny už dnes jednoznačně platidlem jsou a myslím si, že národní banky by k tomu měly nějakým způsobem přistoupit. A ta regulace nastupuje, jde to vidět například na financování firem prostřednictvím různých kreativních tokenů. Ačkoliv dnes jsou kryptoměny pořád ještě považovány za něco marginálního, kde není třeba spotřebitele chránit. Předpokládám, že časem to nabyde větších rozměrů, protože momentálně tam žádná ochrana spotřebitele není.  Samozřejmě je také otázka, jaké budou dopady na výběr daní a další, protože je to něco, co stojí úplně mimo jakoukoliv kontrolu státu. 

PB: V souvislosti s regulací se hodně hovoří i o sociálních sítích. Zejména o Facebooku a jeho algoritmizačních postupech, které jsou de facto udělány tak, že společnost velmi dramaticky rozdělují, čímž možná nepřímo vzniká vyšší sociální napětí ve společnosti a oni mohou být jednou z příčin, proč se to děje. Vnímáš sociální média jako něco, co by mělo být regulováno stejně, jako například tisk?

JP: Nejsem si úplně jistá, jestli stejným způsobem jako tisk. Nemůžeme si ale představovat, že sociální média jsou zde z jiného důvodu, než aby vydělávaly peníze. A to se děje tak, že ona média vyvolávají konflikty a udržují naši pozornost. Je to dnes naprosto legitimní a otázka je, jestli by měli nést širší odpovědnost za externality, které vytvářejí. 

PB: Už jsme zmínili Metaverse. Facebook se dnes přejmenoval na Meta - až budeme žít v nějakém metaverse prostředí, tak to vlastně bude jako virtuální prostředí velmi podobné fyzické existenci. Možná se mezi fyzickým a virtuálním světem dokonce začnou stírat rozdíly. Dovedeš si představit, že by virtuální svět měl nějaký samostatný právní řád?

JP: Ne, myslím si, že samostatný právní řád mít určitě nebude. Ale vzniká opravdu celá řada právních otázek právě ohledně prolínání fyzického a virtuálního světa. Jednou z největších obav je odpovědnost za škodu za to, co se bude dít v reálném světě. Jako jsme to viděli u PokemonGo, kdy lidé padali pod tramvaje. Tady budou lidé třeba padat ze schodů nebo se jim bude dělat nevolno. A to je odpovědnost (za újmu na zdraví), kterou nelze vyloučit. A to je jen malý střípek problémů s Metaverse. 

PB: Dnes jsme nakousli jen malý kousek témat, která jsou na dlouhé povídaání. Už teď se mi honí hlavou, že bychom se měli potkat znovu a některé z nich probrat do hloubky. Ale mám poslední dotaz: Co ty, máš strach, že tě jednou v tom, co děláš, nahradí robot?

JP: Asi úplně ne, ale myslím, že by nám mohli hodně pomáhat. Všechny rešerše, veškerá komoditizovatelná práce – tam by roboti mohli být velmi užiteční. Ale samozřejmě si nedokážu představit, že by se ve strategickém poradenství a také ve vyjednávání kdokoliv nechal zastupovat robotem. 

PB: Jani, moc děkuju, ať se ti daří a těším se, že se zase uvidíme.

JP: Moc děkuju, ahoj.

Související

Kdy začneme na českých chodnících potkávat autonomní robůtky? Zeptali jsme se Jana Sedláčka

6Dhub.cz · CZECHárna Petra Beneše #17 - Jan Sedláček Ve firmě Vanilla Robotics se s kolegou Tomášem Krivdou věnujete autonomním robotům, Jak se člověk jako ty, který se původně věnoval online salesu, k autonomním robotům dostane? Díky Tomášovi, se kterým se známe už více než 10 let. Tomáš je z nás...


„Myslím, že čím dál tím víc všechno směřuje k outsourcingu a abstrakci,“ říká Petr Svoboda v nové Czechárně.

6Dhub.cz · CZECHárna Petra Beneše 16# -Petr Svoboda Pokud si chcete přidat Czechárnu Petra Beneše na Spotify, můžete tak učinit ZDE . Už když jsme se poprvé setkali, měl jsi k tomu, cos dělal (tehdy v IBM) neotřelý přístup. Dnes je ti 42 let a máš toho poměrně hodně za sebou: podnikat jsi začal...


O propojení Property a Technology s Maxem Verteletskyim, zakladatelem startupu Spaceti

6Dhub.cz · CZECHárna Petra Beneše 15# - Maksym Verteletskyi Pokud si chcete přidat Czechárnu Petra Beneše na Spotify, můžete tak učinit ZDE . Podporu pro svůj byznys model jste začali shánět zhruba před pěti lety. Už tehdy mě velmi zaujalo, že jsi měl kolem sebe ve smyslu zkušeností, věku i...