PINEcast 7 / AI - Jan Romportl

Stojíme na prahu nové éry, kde život bez umělé inteligence už není možný. Kde život s AI dostává nový rozměr. Jaký - to je jen na nás. A rozhodovat o tom budou následující měsíce a roky. Dokáže AI vytvořit svět bez rakoviny? Jaké riziko přináší umělá inteligence pro každého z nás? Máme se bát, nebo očekávat lepší zítřky?

To vše a mnohem víc se dozvíte v epizodě PINEcastu, jejímž hostem je přední český expert na AI, kybernetik a filosof Jan Romportl.

👇 Líbí se vám, co děláme? Dejte like, napište komentář a odebírejte náš kanál, ať vám neutečou další inspirativní příběhy z Plzeňského inovačního ekosystému! 
#PINEplzen #Plzen #techtower 

Kde všude uslyšíte o našich novinkách?
🌐 https://www.elin.ai/
🌐 https://www.sitmp.cz/
🌐 https://www.plzeninovativni.eu/

Transcript

SPEAKER_01 0:09

Vítám vás u poslechu dalšího pinesu. A dneska si uděláme výlet do světa umělé inteligence. A tím průvodcem po dnešním výletě nám bude Jan Rompor. Vítám vás dobrý den. Abych vás krátce představila: vy jste předním českým expertem na AI a také kybernetikem, filozofem a mimo jiné byl vyhlášen českou osobností AI pro rok 2024. To je působivý životopis.

SPEAKER_00 0:40

Se cítím úplně teďka červeně, takže doufám, že tomu dostojím nějakým závazkům tady.

SPEAKER_01 0:46

Já jsem shrnula vaši kariéru do jedné věty, ale samozřejmě tady bychom mohli sedět hodiny a hodiny, ale já bych vzhledem k tomu, že sedíme v plzeňském studiu, chtěla začít tou Plzní. Jak byste propojen s Plzní?

SPEAKER_00 0:59

Tak já jsem hrdý absolvent Fulty aplikovaných věc, takže moje alma máte je záporčeská univerzita, a v podstatě na Plzeňskou bydlím od té doby, co jsem se do Plzně dostal z mostu, takže tady malá odbočka vždycky most. Ale od toho prváku na vešce jsem nějak v Plzni nebo na Plzeňsku. A buď jako teďka velká část toho mého pracovního života je spojená spíš jako s Prahou nebo zahraničím, tak tady na Plzeňsku bydlím a Almomáte i Almomáter.

SPEAKER_01 1:31

A vy se věnujete AI. Ta láska, to fascinace možná uměl inteligencí, zažhlo se to už tady, právě na západě České univerzitě.

SPEAKER_00 1:40

No, to se zažihlo ještě dřív samozřejmě kde jinde než v tom mostě, ale já to nechci do plzeňského odkazu tolik táhat, ale já jsem jako na Gimplu už, když jsem byl prostě v devadesátkách na Gimplu v mostě, tak pro mě já jsem samozřejmě jako ten rozervaný Puberťák chtěl poznat, co to tedy je, jako to vědomí a lidská mysl a proč jsme tedy takový, jaký jsme a proč funguje lidský myšlení a přišlo mi tenkrát poměrně fajn se tomu podívat jako pod kapotu právě skrz umělou inteligenci. kterou jsem znal ze sci-fi hlavně někdy na střední škole. A prostě jsem se rozhodl někdy před koncem tisící letí, že půjdu studovat AI, tak jsem si někde tenkrát, koupil ty učitelské noviny, kde to bylo jako popsané, co se kde učí. No a jedno z těch top českých pracovišť bylo právě na záporčské univerzitě na katedře kybernetiky. A já jsem zároveň ještě měl nějakou lásku k jazyku. Prostě bavila jsem takový takový amaterský lvistá a zároveň jako jazyk přišel jako dost podstatná věc, jak proniknout do umělí inteligence. No a zrovna tenhle ten typ umělý inteligence, to znamená zpracování přirozených řeči, přirozeného jazyka, byl dělaný v Plzni do dneška teda je, tak jsem si dal přihlášku na Favku a dostal jsem se na Favku. A tady už potom jsem dostal veškerou tu další péči a spíš tady jsem měl možnost na zápočeské univerzitě to rozvíjet právě výrazně jako mezioborově. Takže jsem studoval tu aplikovanou kybernetiku, aplikovanou umělovou inteligenci. Ale zároveň jsem celý studium se nějak věnoval filozofii, umělé inteligence a analytické filozofii, takže jsem chodil prostě na fildu, tam jsem si nejdřív dával takové ty volitelné předměty, a pak to dospělo k tomu, že jsem si i tu filozofii nakonec dostudoval, jako trochu hobby. No a pak jsem tam zůstalsky a pracovat a tak.

SPEAKER_01 3:31

Pořád působíte na filozofice.

SPEAKER_00 3:33

Teď už je to právě jenom jako hobby, protože jsem v roce do roku 2015 byl velmi intenzivně na té univerzitě, měl jsem částečně na katedře kybernetiky, částečně na NTC na Výzkumním centru nových technologií, kde jsem měl na starosti jedno pracoviště, které se pak jmenovalo interakce člověka a stroje, takže to už je něco, kdy to rozhradí mezi člověkem a strojem pro mě bylo poměrně důležité. Ale v roce 2015 jsem udělal takový velký kariérní zlom a rozhodl jsem se odejít z univerzity do čistě komerčního prostředí, takže jsem pak odešel do Prahy do korporátního světa, budovat tam data science A podobně. A tím pádem se vlastně, máno točiť to akademické prostředí má nějaký negativa. Nechci to tady zbytečně toho moc jako drbat, ale dokáže to být docela toxický to prostředí. A m vlastně přišlo, že super, kdy se ve chvíli z filozofie stalo moje hobby nebo z té akademické části stalo hoby a už to nebylo něco, čím jsem si musel vydávat peníze. Takže já jsem potom byl jako seniorní manažer a ředitel prostě někde v korporacích a taková jako bonusovka jsem byl na katedře filozofie a to mi vlastně zůstalo jako do teďka, takže oficiálně jsem pořád na katedře filozofie v Plzni.

SPEAKER_01 4:47

To je hrozně zajímavá kombinace. Většinou je buď někdo technicky založený a někdo právě humanitně, ale málo kdy se to vidí dohromady, musel jste být pro spoustu lidí poměrně úkaz, si myslím.

SPEAKER_00 4:59

Asi jo, ale přijde mně, že to zase ten tlak do té oborové specializace, že to je taková spíš sociokulturní záležitost. Že je něco podobného, jakože kluci si musí hrát s autíčkama a holky si musí hrát s panekama. Tak na úplně stejném režimu je to, že někdo musí studovat matematiku anebo počítače, a když studuje počítače, tak je to vlastně v takovém tom stylu, jako takový ty jako pardon mají frenš, ale debilní floskule typu polívka je grunt maso, to je šunt. Tak v tomto duchu věci typu: no ty seš na přes ty počítače, ty asi nebudeš rozumět psychologii, tak tohle mě vždycky vlastně iritovalo. A já jsem chtěl poznat člověka, jak funguje lidská mysl. To je to bytostně interdisciplinární oblzkoumání, nebo nejenom interdisciplinární, ale transdisciplinární. A vlastně asi abych to úplím řekl, tak já jsem vlastně zjistil, že jsem vždycky byl průměrný ve všem. Já jsem byl prostě průměrný programátor, průměrný filozof, průměrný psycholog, řekněme, průměrný biznisman, průměrný manažer. Ale zároveň jsem byl v těch všech oblastech najednou a mluvil jsem jazykem každýho z těch kmenů. Takže se vlastně ty zajímavý prnutí mezi těma oborama odehrávaly uvnitř toho encodingu v mojí hlavě, a ne někde v těch temných prostorách neporozumění lidí mezi odlišnýma oborama. Takže tohle, co bych jako posluchačům doporučil, on je totiž extrémně těžký být. Top třeba jedno procent v jednom oboru. To se 99% lidí nepodaří, to je prostě extrémně těžký. A zejména jako na světové úrovni, prostě, abyste byli top v jakékoliv jedné oblasti třeba na Stanfordu, tak to je prostě strašný nebo na Oxfordu. Ale ve chvíli, kdy to prohlete se třeba různýma a jste třeba lehce nad průměrem, ale zároveň ve třech oblastech, to znamená třeba psychiatrie, neurovědy a software development, nebo něco podobného a umíte všechny tři nadprůměrně dobře, tak nějak akorát. A zároveň, takže na tom průsečíku dokážete vykřesat nejzajavější věci. Takhle nějak já jsem fungoval. A ty průsečí byly nejenom jako oborový, jako ve stylu filozofii míchat s neurovědama, míchat, s psychologií míchat s kognitivma vědama, míchat, s aplikovanou Aj, ale i jako takový jako řekněme, horizontální, ve smyslu univerzitní prostředí míchat normálně s tvrdým korporátem, míchat vlastně z venture capital startupovým prostředím.

SPEAKER_01 7:41

Mě tohle uvažování hrozně baví, ale často se právě v tom setkávám s nepochopením, že často se i razí na školách dneska takový to vyber si jednu věc a buď dobrý. Málo kdy je tohle uvažování a já s ním souhlasím. Mně se to jako líbí. Ale setkávám se spíš ještě často jako hodně s tím názorem v jedné věci a na to se soustředit. Takže mě baví, jakože tohle říká.

SPEAKER_00 8:06

Já si myslím, tam jako trochu pravdy je v tom, a teď kolem toho nějaká část výzkumu jde, je to jako trošku pro nějakých deset tisíc hodin. Ta mílka, že já budu deset tisíc hodin grindovat nějakou věc, tak pak budu jako v době. To platí, samozřejmě. Je to důležitý. A chtělo by to být v něčem dobré, nebo takhle, měl by člověk fakt se vypracávat k perfektnosti v nějakých věcech. Ale ty věci, to nemá být ta vydefinovaná oborová oblast. Ale měl by být perfektní právě v tom průniku třeba těch třech věcí. Takhle perfektní bude třeba dalších, nevím, 100 lidí na světě, a to už jako je docela potom vybraná parta. Takže a těch kombinací je jako enorm množství. A takže to není o tom, jako všechno tak jako po povrchu, jako šolichat, ale snažit se jako něco vidět o všem a všechno vědět o něčem. Ale to všechno ne o něčem jako o jedné oblasti, že vím všechno o software developmentu, ale že vím jako všechno o tom průniku těch věcí. A takže tam jako trochu pravdy na tom, co jste říkala, jako je. Ale zase je to prostě je tendence zjednodušovat, lidi si to. Prostě lidi mají rádi ty floskule, lidi mají rádi věci, když se třeba rýmu. Takže proto se velká část našich životů v dětství řídí debilníma rímovačkama takových těch prostě tetiček a soudružek učitelek. Takže tam bych byl rád, aby každý v sobě našel sílu to do nějak překonat.

SPEAKER_01 9:32

Když se vrátíme ještě k tomu, když vás začalo i a jako zajímat. Vy jste vlastně říkal, že to byl přelom třeba tisíci letí, když jste se mu začal věnovat. Musel jste být v podstatě jako jeden z prvních tady, pokud jste šel hodně do hloubky, tak tehdy dneska to zažívá ten obrovský boom, že když se řekne Aj, tak všichni ví, co je to AI, ale tehdy to tak nebylo.

SPEAKER_00 9:54

No mě to vlastně bylo. Jako ten obor A je fakt starý. Ten začal v roce, myslím 1953, a už v 90. letech měl v Česku jako velikánskou tradici. Tady prostě byli lidstva tady v Plzně, byl profesor Psutka, to byl prostě jako nebo teď. Teď mimochodem, než jsem měl teď jsem natáčet, tak jsem byl po spoustě let na katedře, tak jsem se zrovna teď před natáčím měl možnost s ním bavit. Tak to byl člověk, který vlastně tady jako založil významnou část AI oboru v těch 90. letech. V Praze byl prostě profesor Mařík, vedle na komputační listice profesorka Hajičová, pak profesor Hajč. To prostě to bylo jako obrovskou tradici, která se fakt táhne od těch 50. let. Nikdy se tomu třeba neříkalo AI, to mělo nějaký jiný nálepky, zhruba v době, kdy jsem třeba začínal studovat, znamená rok 99 přelom 2001, tak se v jednu dobu říkalo třeba Pattern recognition, jako rozpoznávání vzorů. To bylo takový trošku jako i z Neuromancera, z takových sci-fi. A prostě chvíle to byla jako popelka, chvílima to bylo zahajpovaný, ale ta příprava na to a ten jako předzpracovávání toho bodu, to se dělo furt, takže já jsem se furt vztahoval tady jako ke spoustě lidem, který byly přede mnou. A v té aplikované oblasti to byl třeba ten pan profesor Putkáno, a pak tam byla ta oblast jako filozofie umělý inteligence, to znamená umělý verzus přirozený myšlení. A to takový můj vzor se tam stal Ivan Havel, to byl vlastně bratr Václava Havla jako prezidenta. A to byl člověk, který v 70. letech už přivedl jako významně jako hluboký vhled do filozofie umělí inteligence sem do Československa. A já jsem prostě kolem toho roku 2000 narazil vlastně v Praze, na Karlovce, na Centru teorických studí na jeho přednášky, přirozený umělý myšlení. A ty pro mě byly ale absolutně zlomový a iniciační. A tam mě to takhle traplo, takže takhle no.

SPEAKER_01 11:49

Takže to bylo a já tady teď reprezentu tu část lidí, kteří se o tom vlastně dozvěděli až teď s tím obrovským gumem těch všech.

SPEAKER_00 11:56

Ono to bylo tak jako třífázový. Ta poslední fáze, to je ta absolutní většina po listopadu 2022, kdy se objevilo těch GPT. Pak je tam taková ta významná. A to je třeba 90%, 85% lidí. Pak je třeba nějakých 12% lidí, který to vnímali, že tady někdy od toho roku 2008-2009 do toho roku 2020 bylo něco jako deep learning. A že vlastně Google Googl kvůli AI, že Instagram instagramil kvůli AI, tiktokoval kvůli AI. To všechno nějak bylo iPhone vám labiloval fotky díky AI. Takže nějaká část lidí to vlastně reflekovala jako v tu dobu, že to tady je. A pak nějaký 2-3% vnímali před tím rokem 2010, že tady je fakt snaha o něco podobného. A ta tady byla víceméně plus minus neměná těch 60 let ještě předtím.

SPEAKER_01 12:52

Jakým projektům vy se v současnosti věnujete?

SPEAKER_00 12:56

Teď já mám takový můj hlavní srdeční projekt, je startup Aline AI, který chrání děti na sociálních sítích. Je to vlastně taková AI vrstva mezi zranitelnými dětskými mozky na sociálních sítích a těmi predátorskými algoritmy. Tomu teď poslední tři roky věnuju víceméně většinu svého času. Je to i jedna z motivací, která mě vlastně dostala právě z toho krásného, teplého, korporátního, seniorního, ředitelského, našlápnutého místa. Takže se člověk jako takhle v tom středním věku najednou vzdá ty finanční rakety, co bere jako ředitel ve velké firmě, a jde teda jako někde bojovat do toho těžkého křehkého startupového prostředí.

SPEAKER_01 13:37

Co byla ta motivace? Že vám do toho skočím. Tam musí být síla z toho dostala.

SPEAKER_00 13:42

Chase zachránit světno, tak nějak tam furt je tak to byl podobný typ motivace, který mě dostal v roce 2015 univerzity, protože jsem nějak přeci jenom zjistil, a teď ve vší úctě mojí alma máte, tak ten impact, který člověk může zůstat tím, že zůstane permanentně na univerzitě v Plzni, se dramaticky zužuje oproti tomu, jako co by mohl udělat, když by prostě třeba potom píždí anebo i předtím píží, najednou se teda vyrazil. A těch 80 tisíc hodin, který má v tom v kariérním životě nějak systematicky věnoval řešení zásadních civizáčních problémů. A ty má tendenci, nebo je větší šance, že jej bude řešit líp, když ten impakt se prostě dá líp udělat odjut. A pak se třeba může vrátit zpátky do Plzně a tady zase jako na tu dráhu nakopávat, zase ty mladý lidi a takhle fungovat. Takže pro mě ta motivace 1-15 odejců univerzity byla. Já jsem prostě potřeboval nějaký prostor, v kterým ten impact fakt jde udělat. A tak jsem nevěděl, co mám jako dělat. Tak jsem šel někam do korpu a pak se ukázalo. Ale taky jako to, že budu dělat, prostě. Já jsem byl asi byl v Outu a vlastně v PPF, takže velká skupina telko, podařilo se mi tam dělat i výzkum rakoviny pro Sotho. Takže to jsou ty projekty, které jsem měl právě v tom vlastně k téší původní otázce v tom korporátním prostředí, tak bylo to hlavně zpracování Big dat vlastně v telko oblasti, v bankovní oblasti, i prediktivní modely pro ten biznis. A byť se mi tam podařilo třeba dostat, i to, že vlastně v rámci PPF to bylo možné se s Petrjem Kelnerem, bylo všechno v podstatě možné v tom dobrém smyslu, jako přišel jsem s tím v roce 2019, že chci dělat v telku, sice jsme byli, ale že chceme dělat výzkum rakoviny pro Sotio, a tak otázka tady ze strany Petra Kelnera nebo Ládi Bartoňčka byla, jak se na to vyděláme, tak já jsem nějak vymyslel, jak se na to vyděláme, a šli jsme dělat normálně jako nějaký aplikovaný výzkum, který by měl pomáhat tehdy sotyu ve výzkumu jako rakoviny a dělal to tým u mě, který byl normálně v Outučku v operátorovi. To stejný potom vlastně jsme dělali třeba detektor manipulativních zpráv. To byl zase skupinou mladých kluků, studentů, jedním z nich je třeba Matáš Boháček, teďka známý tím, že na Stanfordu prostě skvělej vědec, tak ten začínal u mě v týmu vlastně v Praze. No, ale v nějakou. A tohle byl prostor, který tyhle data, nebo ovlivnit nějaký podobě pozitivně miliony lidí tím, že zlepšíte algoritmus, kterým se dělá dobrý credit scoring, když si třeba mladí lidi žádají o úvěry, tak najednou jako nějak chce. A nebo aby to bylo férově udělané, aby třeba nebyly nějaký sociální skupiny diskriminovaný. Tohle jsou věci, které můžete udělat, když máte ten impact třeba tím, že děláte pro nějakou velkou firmu a podaří se vám tam obsadit tu niku toho, že data science, machine learning, prediktivní algoritmy, big data tam nějak zaštítíte. Mně se to asi nějak dařilo nějak asi dobře, biznisově nebo tak, že se jako velmi expandoval ten tým vlastně nakonec přerost jako do velké části PPF. No ale v nějakou chvíli jsme viděli, že s tím světem to nejde úplně dobře. A byly tady oblasti, které vlastně nějakou dlouhodobě se pohybují v oblasti řešení existenčních rizik, jako světu existenční rizik. To znamená, existenční rizika jsou takový, který můžou zničit lidstvo jako celý dlouhodobý potenciál lidstva, zná zničit celý lidstvo. Jaderná válka, globální pandemia, ale i aj. A tohle má blízko vlastně globální hnutí efektivního altruismu. Já byť jsem nikdy nebyl členem efektivního altruisu, tak jsem vždycky tím měl nějak mentálně poměrně blízko. A tam jsme vyprioritovali nějaké oblasti, které někdy kolem toho covidu byly docela jako klíčové, a jedna z nich byl úpadek duševního zdraví vlastně celý populace, který nějak souvisí se sociálníma sítěma, nějak souvisí s jejich vnitřní dynamikou sociálních sítí, ale nějak taky souvisí i s hybridním působením Ruska nebo Číny, prostě kognitivním válčí, my v té kognitivní válce jsme. A přišlo nám, že jako vlastně jedna z největších nebo jedna z významných ohrožení demokratických svobodných společností právě vychází z té příšerní metaforické té kolektivní mentální fibrilace obrovského množství lidí, který se vlastně propadají do podivných mentálních stavů, do konspiračních teorií, krize důvěry celospolečenská a ta v nějaké silné míře souvisí s tím duševním zdravím. Takže jsem si třeba vyprioritoval, že když se budu věnovat nápravě duševního zdraví nějak v nějaké podobě, hlavně na straně prevence, že tím se dá pomoct jako tím můžete vykonat poměrně velké množství dobra. A každý by měl nějak si jako najít tu oblast, který je dobrý a v který má vlastně největší, jak se hezky česky říká, leverage. Prostě ten tu páku, kterou může jako tu svoji schopnost co nejvíc toho vytlačit. A ta nebyla ani na univerzitě mě přišlo, ta nebyla ani v tom korporátu, protože tam sice paráda, ale vlastně furt budeme absolovat telko zákazníky nebo bankový produkty, a já jsem potřeboval zachraňovat duševní zdraví nějaké části populace. Takže to je motivace docela silná. Takže dnes to si to s sebou různý negativity, je to daleko víc stresu, ale za daleko mý peněz. Když člověk je starší jak 25 let a jde dělat startup, tak to má taky dost významný nevýhody. Ale nějak to dávám. Takže byla to takováhle motivace, jak to říct, nějaká impaktová. A vlastně zároveň je i dobrý, že třeba teďka vím, že i kdyby se ten startup nepořáduje 90% startupů prostě nevýde. Takže když bych dělal čistě komerční věc typu narovnávák na Bohejbák, B2B software as a service pro nějaký enterprise, což jsou ty nejchtěnější startup z hlediska investorů, hlavně to je evropských investorů. Prostě musíte dělat B2B Enterprise přesně vojbák, na narovnávák, nějakých procesů korpací. Tak to je nejistější startup. Tam vyděláte nejvíc peněz, existnete, to, všichni jsou happy. A když to nevýde, tak mi to přišlo jako prázdný. Tak tam najednou zde je prázdnota. Jako ve stilu šel jsem vydělat prachy, stát se milionáře, miliardáře, skrz tu cestu, a ona nevyšla tím pádem nic. Ale tady se fakt někdo to dřív nebo pozděc udělá, to, co děláme my. A přijde mi, že tato cesta teď k tomu, jako zachrání duševní zdraví celý části populace, i kdyby to nevyšlo, tak je fakt naplnit, že jsme to aspoň zkusili.

SPEAKER_01 20:37

Dokážete mi nějak říci, jakým způsobem to děláte, nějak popsat tak, aby to i like, který nás dneska poslouchá, pochytil, protože ta myšlenka je velká. Něký konkrétní nástroj, jakým způsobem se k tomuhle cíli přišlo?

SPEAKER_00 20:51

Tam je důležitý nejdřív maličké intro k tomu, co s váma dělá sociální síť. Když jste na sociální sítě, tak sociální síť vy nejste jejich zákazník. Vy jste prostě zboží, který sociální síť prodává platícím interentům. Platící incenti jsou firmy, který si zaplatě reklamu a vy jste to zboží, kde je to nejcennější, co máte, což je váš čas a vaše svobodná vůle, je prostě prodávaný těm interentům. Proto vlastně to prostředí je proto je na vás vlastně real-timeově pomocí umělé inteligence brutálním způsobem vlastně provozovaného, dělalo by se říct jako neurohacking, jako metaforicky. Prostě proto strávíte 6 hodin na TikToku denně ani nevíte jak. A zároveň je to vlastně furt v nějaké podobě jako znepokojivý. U každého člověka algoritmy najdou nějakou individuální věc, jak trefit ten svý spod té akorátní znepokojivosti, že vy tam vlastně se furbu te vracet a vytvoříte si vlastně takovou jako kompzivní adikci na těch algoritmech, která ve vás permanentně vlastně bude budovat, rozleptává vaše zdravé funkční modely světa, který máte. Jako v té hlavě, takže třeba když budete týdnka, tak to můžou být modely světa typu, že jste vlastně docela pohledná, že máte přátelé, že máte milující rodinu, že jako nějakého kluka si prostě najdete a bude to vlastně všechno fajn. Tak to jsou modely světa, které třeba v dětství jako v sobě máte. A teďka ta expozice jako stovky hodin, tisíce hodin expozice sociálních sítí a těm algoritmům tohle z vás prostě vypláchne ven, takže si to nahradíte nějakým jiným dysfunkčním modelem. Takhle prostě fungují a u každého je to strašně individuálně, jak to proběhne. Úholek to typicky probíhá, takže u nich to jsou takový internalizující problémy, typu poruchy přímo potravy, body image issues, to znamená, nenávidějí své tělo, připadají si ošklivý, sebepoškozují se, tenhle ten typ věcí. Úkluku je to spíš externalizující, to znamená ty mají antisociální chování, to znamená buď sociální izolace, hiky komory prostě propadají se sami do sebe, nevycházejí z pokoje, máma jim tam nosí kýbl načůání a prostě kýbl s jídlem. A nebo jsou to antisociální agresivní, to znamená incel, misogynie, prostě takový Andrute jako přichovši. A tohle je důsledek toho, jak na kognici lovce sběrače, to znamená, my máme hardver lovce sběrače. Náš mozek je stejný posledních 100 tisíc let se v podstatě nezměnil, nebo deset tisíc spolehlivě. A je to mozek vybavený na tribální svět, pár desítek lidí velmi těsně spojených na face to face, synchronní vtělenou komunikaci. A najednou většina mladých lidí má většinou množství komunikace asynchronní, odtělenou, one to meni, a na to prostě ten náš hardware není přizpůsoben. Takže tyhle emoční stavy, které zažívají vlastně dětská, ale i dospělý. Nakonec to se netýká jenom děti, ale u těch dětí je to speciálně citlivý. Tak jsou důsledkem působení toho algoritmu. A teďka jsme si řekli, musí se stát něco. To to nejde řešit pozdě jako nebo zpětně, že všem dáme terapii. A to už je blbý, to už je prostě, ta mysl je rozhašena. Když potřebujete terapeuta, tak už je to blbý, tak je to prostě, musíte spoustu věcí, které se neměly nikdy stát, musíte odestávat. A když se vám stanou dospívání, tak je dost možné, že budou nevratné, že budete mít prostě celoživotně problémy, navazovat přátelství, navazovat vztahy, udržet pozornost, budete mít nějaký kompulze prostě, daleko vysilnější příklon k adikci. A takže my jsme, my si říkáme, tam největší díl toho úspěchu se může, nebo největší pozitivní impak je na straně prevence. To znamená, že se vám to ani nestane ideálně. A teď je bláho, si myslí, že se sociální sítě vypnou. To se prostě nestane. A proto se snažíme udělat něco, čemu Francisz Fukama, významný filozof 21. století, nazývá midlvarem. To je vlastně nějaká ochranná vrstva mezi váma a těma algoritmama. Takže jak se to konkrétně teď představte, máme MVP, minimum varble produkt, prostě to máme apka, uvnitř který uvnitř který, a cílíme na rodiče, prvou uživatelů sociálních sítí. To znamená, jste prostě rodič a teď za vámi přijde 13 letá dcera a řekne, jo, táto, prostě musíš nepustit na instáč nebo na TikTok, protože jsem za krábu ve třídě a prostě se mi smějou, že je to hrozný. A teď, co já můžu jako rodič udělat? Můžu prostě, když jsem edukovaný rodič, tak vím tohle všechno, co vím. Samozřejmě také můžu být rodič, který sám je závislý na těch sociálních sítích, a skrz dítě si vlastně racionalizuje, že je všechno okej. Podobně jako rodiče, který chlastají, tak mají tendenci, jak jejich děti, taky budou nejspíš jako mít problémy s alkoholem. A nebo je ta pravnost daleko vyšší. Takže můžou rodiče říct, jo, jasně buď tam, protože si reálně to takový jako washing jejich vlastního problému se sociálníma sítěma, ale když jsou edukovaný, řeknou, no, teda jako co teď mám dělat. Tak cílem je, aby jsme jim dali nástroj Elin, tak ten rodič řekne tak jo, tak ale budeš na tom instáči max půl loď k deně a budeš tam skrz Elin. Elin prostě vidí to, co vidíš ty, měří mentální, vlastně mental load, jako mentální záž v různých dimenzích toho, co vidíš. To může být dimenze tlaku na zeměšek, na nějakou na body image, dimenze tlaku na performance, na výkon, který jde každý ráno v 5 do posilovny a pak ještě mám tři bizny a je to prv 18 a mám Lambo a 4 girends a prostě tohle. Tak tohle já vlastně jako projíždím na sociálních sítích a Eline tohle měří. A jestli existuje při každý té sessioně něco, co vám by někdo mohl říct, jakože síjíždíte 20 minut, 30 minut, já třeba jste holka, kráťají jako do posilovny, podívá se na video na Nainstáč, jak se dělat správně pulapy, jak se přitahovat. A najednou za půl hodiny zjistíte, že tam zjíždíte videa. Prostě to nebylo vaše svobodné rozhodnutí. Vy se chcete podívat na video, jak dělat pulaps. A najednou zjistíte po půl hodině, že tam prostě projíždíte videa, které se tváří jako health and fitness videa, ale jejich cílem není a vy jste se vycítila líp. Jeho cílem je, aby vy jste se cítila zase o něco hůř a hlavně, aby ta influencerka vydělala prachy. To je cílem těch videí, takže vy se cítíte zase o trošičku víc napitel, zase o trošičku víc zvyšní, zase, ale neumíte to verbalizovat. Protože váš mozek je nějakým způsobem obalamucovaný. A Elin tam je o to, že ona tohle s váma vidí. A jestli v tu chvíli existuje něco po těch 30 minutách tady z té toxických mikrosion. Co vám nějaká entita, někdo může říct, tak Elin se to snaží odpovědět. Tak se to snaží najít. Znamená, řekne vám něco, co má velký potenciál neutralizovat teď tu mentální zátěž, minimálně ve vás vlastně zbudit mindfulness, mindful pohled, ten vědomej, introspektivní pohled na to, co se teď opravdu, co jste to teď viděli a nějak to zmetabolizovat v tu chvíli. Takže my se snažíme to strašně těžký udělat, protože ten nový typ užívání apky, kterou lidi po deset let užívají nějak, a nejtěžší, co jsme zjistili za tu zkušenost tím startupem, je lidi učit něco novýho, jako nový návyk a používání apky, tak je to strašně těžký. A to je asi takno. Takže je to novej způsob. A my si myslíme, že během pěti let tohle bude úplně normální. Věřil, když budete stejně jako dneska úplně normální, že máte, nebo dneska už zase trošku jinak, ale před pěti rokám bylo úplně normální, že máte na počáči antivirus. Prostě byste byli crazy, kdybyste neměli antivirus a vás na Vindouších. A podobným způsobem, my věříme, že během příštích pěti let si lidi budou říkat, no co my jsme to byli normálně za pitomce? Že jsme ty naše mozky lovce sběračů bez ochrany tahali do tady z toho toxického světa. Takžehle ten typ kognitivních antivirů, to znamená vrstvy, která je tam s váma a chrání, ne počítač, ale váš mozek. To bude normální. A my si myslím, že jsme jedny z prvních.

SPEAKER_01 29:02

Slyším o tom poprvé životě a musím říct, že vás teda poslouchám jako fakt zatájeným dechem. A vlastně bych si hrozně přála, aby něco takového vzniklo. Proto konkrétně třeba já jsem fakt člověk, který sociální sítě má pouze jenom k práci a kdybych je nemusela mít vůbec, tak jsem vlastně jako nejšťastnější. Přemýšlím nad tím jako rodič dětí. Přesně tohle, co vy jste ty myšlenky tam vlastně řekl, tak mě proudí v hlavě už teď, jak si k tomu postavím, jaký rizika tam jsou, uvědomuju si to a když slyším, že takovýhle nástroj vzniká, tak mě to jako naplňuje nadějí v podstatě.

SPEAKER_00 29:39

No jo, to se snažíme dosáhnout. A je možné, že jako startup sfajujeme, to se úplně může stát, ale jsem si jistej, že dřív nebo později s tím někdo jiný prostě přijde, anebo to budeme my. To je součástí toho startupování, takže jsem vám trošku delší cestu odpojilo na to, co jsou teda teď ty projekty. Tak je to tady Eline, plus do toho dělám nějaký individuální AI strategické konzultace, nějakým třeba vybraným, sně jako exekutiv, třeba ve firmách, třeba nějaký CEO z firem, tak se jim snažím dělat jako sparing partnera v oblasti AI, kam se ten svět AI jako řídí. Plus mám takový, jak se česky říká, guilty pleasure, a to je oblast AI bezpečnosti. Takže se zabývám právě i takzvaným AI alignmentem, to znamená uspořádání hodnot AI s hodnotama lidstva. No, tak to jsou takový moje projekty.

SPEAKER_01 30:36

Zabývá se tímhle třeba hodně lidí, těmi hodnotami lidstva AI jo.

SPEAKER_00 30:40

A jo. Jako každý velký AI má nějaký tým na to, ale jestliže bychom třeba řekli, že tou takzvané capability AI, to znamená ty schopností AI, těmu se prostě říká AI capabilities v angličtin. Co jako AI capabilities vůbec AI alignment. Řekněme se třeba ve světovém měřídku, tuhle oblast posune třeba milion lidí nějak. Je to prostě nějakých třeba deset tisíc, úpl extrémně dobrých, většinou v Kalifornii anebo v Číně prostě kolem těch top AI labů. A potom kolem toho přidružený ekém různých AI enginerů, startupů, řekněme milion lidí dělá na těch capabiliti. A AI Alignment a odhadem teď, co jsme se bavili, prostě s kolik, tak třeba světuje 2000 lidí. Přitom, aby to bylo aby jsme zachovali šanci lidstva na přežití příštích deseti let, bych si myslel, že by to mělo být 50 na 50. Že tolik lidí, kolik se věnuje věnuje AI capabiliti, by se mělo věnovat AI alignmentu a AI bezpečnosti. Takže jeden z mých takových dalších, teď takových vnitřních projektů, který chci jako teď v krátké době, protože nemáme moc času rozjet, je dostat co nejvíc lidí, co nejvíc třeba mladých lidí, středoškoláků, mladých vysokoškoláků, aby zasvětili svoji teď tu aktuální částí kariéry, aby zasvětili absolutnímu tahu na bránku v této oblasti. To nemusí být, že se na deset let zapečou tady v tom. To znamená teď příští tři roky tohle potřebujeme reši. Příštích maximálně pět let. Úplně ten horní odhad je deset let, takže my teď potřebujeme jako obrovskou masu lidí. Je to jedna z nejdůležitějších věcí, které jako lidstvo můžeme dělat, je vyřešit problém i a alignmentu. Druhou nebo zhruba stejně důležitou věcí, je připravenost na další pandemii. Ani jednu moc neděláme. Protože další pandemie není otázka, jestli přijde. Ona stoprocentně přijde. A může přijít velká pronože přeje třeba do pěti let, a že COVID byla ochutnávka, že to byla sranda ten COVID oproti tomu. A my jsme se z covidu nepoučili vůbec nic. A strašně málo lidí se tomu věnuje. A tady je zapotřebí, aby ty lidi prostě ty lidi, kteří teď maturoju a jsou prostě všichni pod tím tlakem takovýto právě ty říkánky prostě těch starých tetíček jako o tom, co by měli a měli by se připravovat, tak mají prostě pnutí zmaturit a prostě a ty dětské, který jdou na Gimpl, mají pnutí ze svých rodičů, že se nedostali na tady ten výběrový a blábla. Za mě to je úplně jedno, kam se člověk dostane. Fakt je to úplně jedno. Pokud se nedostanete na Stanford nebo na Oxford, tak je to jedno. Všechny ostatní, jo, prostě řekněme trošku zjednodušuje, ale je to úplně jedno, jestli se dostanete do Plzně nebo do Prahy, nebo na Gimpl támhle nebo onde, to je v podstatě úplně jedno. Důležité je, co budete dělat. A to je kompletně v každém moci, takže i když se prostě někdo dostane na nějaký Gimpl třetího letu, to je úplně jedno. Důležité je, že teď má potenciál věnovat se má před sebou těch 80 tisíc hodin a může věnovat těm nejdůležitějším aspektům řešení problém ve světě. A ten člověk reálně nic moc nekonzumuje. On nestojí prostě miliony měsíčně ten člověk, jako prostě jako student GIPlu má ve čtvrták neuvěřitelný potenciál. A reálně prostě ho je tak nějak jako živý rodiče, a on prostě má enormní potenciál, který by se neměl zabíjet dramatizováním příjmaček na výšku a rozhodováním co teď, jestli tenhle obor nebo ne tam ten obor. To by mělo věce jinak. Nikdo si řekne tak a já jsem si řekl, já prostě chci třeba přispět k tomu, aby se nikdy neopakovala pandemie typu covid anebo horší. A ještě někomu 18, má absolutní možnost tomu z toho přispět. Prostě je obrovský množství globálních entit, který už tohle to řeší. A co jim chybí, je ta síla množství lidí, kteří se tomu věnují. Finance v tom, jsou všechno v tom je. Jenom prostě ty lidi musí chtít, identifikovat tu věc a pak najít v sobě odvahu.

SPEAKER_01 34:57

Tak a mě je těch 18 teď, jo? Cítím se do toho, protože jak vy mluvíte, tak já mám pomalu chuť, že bych to zvládla sama, ale je mi teda těch osmnáct a mám tedy tu otevřenou hlavu, že tohle chci. Jsem pod tím tlakem, teda, co budeš dělat, kam budeš. Jak teda mám postupovat ve chvíli, kdy si řeknu, že chci jít touhle cestou. Kde jsou ty lidi, kterých se mám chytit? Reálně. Je to Praha, jaké jsou to univerzity, třeba, nebo jaké jsou to instituce? Reálně. Protože hezký je si to říct hlavě, ale jak to provést?

SPEAKER_00 35:26

Tak já teď mám trošičku problém v tom, nebo výčitky samitě, že když teďka někoho nebudu jmenovat, nebo tak to znamená, že si nemyslím, že se vyplatí na ně obrace. Takže teď on diskla říkám, to tak není. Jenom já třeba řeknu ta skupina, která třeba mě je blízká. Mně je třeba blízká, právě skupina efektivních altruistů. V Praze je velká, Česko má, česko je zrovna na mapě efektivního altruismu velmi intenzivně. Efektivní altruisti si prošli v posledních letech velký problémama, myslím si, že z toho hnutí očistilo, měli prostě své různé skandály a všechno možné, protože to je velký globálně, hodně financovaný hnutí, tak byly tam i ty problémy. Ale to jádro, kort třeba tady v Česku si myslím, to jsou lidi, kteří velkou část toho věnují třeba i raděním toho, jak efektivně postupovat při volbě nějakých kariérních dalších kroků. A to může být v Praze, nebo si někdo řekne, tak já nevím, třeba možná jsou v Plzni taký efektivní altruisti, nebo možná někdo, kdo prostě studuje v Plzni na univerzitě, vlastně jako chodí jezdí do Prahy jako na Ito decentralizovaný hnutí. Nebo je velká komunita les Vrh. To je vlastně jeden velký web, který je to takový těžko to teď vysvětlat, co to je, ale doporučujeme les wrong, se podívat, prostě méně špatně lesv. Taky taková světová komunita kolem toho. No anebo třeba vyšla, teď myslím, od koncem května, jsem 26. května vyšla reedice. Druhá edice jako fenomenální knížky, která se jmenuje 80,000 Hours, 80 000 hodin. Ta vyšla poprvý, myslím před 10 nebo víc, někdy 2013, něco takového vyšla, byla enormně ovlivňující právě celou tu skupinu lidí, z kterých já nějakával. Já jsem byl v roce 2011 krátce na Oxfordu, kde byli prostě lidi typ geniální filozof Toby Ort, který třeba napsal knihu nad propastí, v Česčině vyšlo překlad The Precipis, ten se týká těch existenčních rizik a založil právě to hnutí toho efektivního altruismu a jeden z jeho studentů, nebo nějaký skupina jeho studentů byly právě ty kolem těch 80 tisíc hodin. Proč 80 tisíc hodin, protože to je ta dílka té vaší karié. Když prostě začnete, budete mít nějakých 40 let kariéry, tak to je 80 tisíc hodin, který vy můžete věnovat největšímu impaktu, který na ten svět můžete mít, a proto se vyplatí nad tím nějaký podobně popřemýšlet. A dobře, je třeba super nevím, mít prostě kupovat fair trade produkty a řešit svou uhlíkovou stopu a jednat ekologicky a tamhle pomáhat na nějaký útulek a podobně. Ale tyhle všechny impakty, které vy máte na ten svět mají tím dobře, když je chcete dělat, taky tělejte. Ale jsou to pasličí v porovnání s tím impaktem, který můžete udělat. Když dobře zvolíte nějakou část toho, tak teď se v té kéři budu věnovat něčemu. A si odpovím příliš dlouze, ale těch 80 tisíc hodin na to má krásně vypracovaný celý framework kolem toho. Takže doporučuji tu knížku na Kindlusí za 15 dolarů se stáhnout, podívat se na web 80,000 hours. Oni dokonce nabízejí zdarma one-on konzultace s jejich super lidma. A důležitý je ten impact nevnímat jenom tady to, že jste tady v Plzni, neznamená jako, že nemůžete ten impact dělat globálně. Takže si tady v Plzni, myslím si, že je dobrý studovat. Myslím si, že je dobrý na univerzitu. Myslím si, že je velký rozdíl ve pohledu na svět, jestli jste na té univerzitě byli nebo nebyli, i když vás třeba vykoplí z té univerzity. Proto když jste na té univerzitě, tak vidíte, že za poslední brázdou, kterou jste viděli do té doby, existuje celý další svět. Je to prostě, když jste hobbyti, prostě Frodo a sám a poprvé vylezou prostě z toho kraje a najednou zjistí, že tam je něco, tak to je pocit, který byste měli získat na univerzitě. A dát si to třeba přes 80 tisíc hodin, nebo si najít, kde jsou třeba 80 tisíc hodin skupiny v Praze nebo založit nějakou v Plzni. A to nikdo to za vás neudělá, to musíte prostě sami. Takže takhle já úplituju, že prostě teď mi znova jako není 18 a nepřišel jsem do Plzně na Máchovku, protože já bych hned tady něco takový udělal.

SPEAKER_01 39:41

Tak třeba poslouchá teď někdo, kde to udělá.

SPEAKER_00 39:44

To bych byl rád, to bych byl rád. Třeba to bude. Já jako můžu jít v tom maximálně případem v tom, že znova jako důležitá je ta odvaha. Většina těch věcí, protože jak to tak je, jo, kdo chce, hledá způsoby, kdo nechce hledat důvody. Takže vždycky člověk najde milion důvodů, milion keců, proč neudělat nějaké rozhodnutí, do něčeho se pustit. Bylo to jako, kdybych měl říct, bylo to extrémně těžký v roce 2015 bude univerzity. A tam měl celý department, měl jsem se habilitovat, docent, a tralala, status symbol, všechno, do toho praštit a do nějakého neznámého prostředí. Klapka střih, a najednou člověk prostě tamhle ředitel v korporaci, prostě ředitelský bonusy chodí, prachy, fáru, si může koupit, všechno paráda. Tohle všechno znova zahodit aí. Takže a musím říct, že niluju ani jedný z těch kroků. Takže bych doporučil, a to jsem prostě starý fotter, který jako tohle není úplně jednoduché dělat, takové rozhodnutí, ale pokud je někomu osmnáct, to je bomba úplně, to je prostě se může zbavit, odjet prostě na půl roku do Kalifornie a tam prostě chodit na setkání s lidmi ze Stanfordu prostě, zby být úplně u zdroje toho, kde se peče nejmocnější síla dnešního světa, to znamená umělá inteligence. Tam s těma lidma, vlastně se svýma vrstevníkama.

SPEAKER_01 41:06

Takže to je v Kalifornii.

SPEAKER_00 41:08

Ale já to nechci na tu Kalifornii jako omezit. To je jenom příklad. To je to prostě jen do kaliforní, pak se vrátí, tady to založit a prostě pohybovat těma věc.

SPEAKER_01 41:17

Když se podíváme na umělou inteligenci, tak jak bych řekla, jí vnímá asi drivá většina lidí a to přes četko a další formáty. Jak bezpečně pracovat s tímhle typem umělý inteligence, který je nám k dispozici teďka všem? Co s ní sdílet, co s ní nezdílet, nějaký úplně takový základní pravidla.

SPEAKER_00 41:38

No asi lidi se většinou bojí nesprávných věcí, takže lidi strašně jako řeší, že jdou dočet GPT a že někam do Ameriky se posílají jejich osobní věci. A to je úpltejný, protože stejně prostě máte OneDrive, máte prostě máte iCloud, máte prostě všechny své intimní věci, prostě na iCLA. Všechno to už tam někde je, prostě jste na instáči, který má totálně váš behaviorální profil. Takže obávat se, že pošlete někam jako je takový, trošičku jako jiný rozdíl je posílat to někam do Číny jako DPC na čínský servery ale stejně máte TikTok, takže je to svým způsobem takový trošičku jako nezbytečný, ale není to to úplně podstatný, čeho se obávat. To, čeho se vlastně asi obávat nejvíce u toho běžného čer GPT je vytváření parasociálních vztahů, to znamená u mladých lidí. To znamená víc a více teďka ukazuje to, že už bych řekl, třeba 10% mladých lidí, ty statistiky to je těžký, ze teprve se budou ustanovovat, vlastně vyodbočuje snahy vytvářet vazby s jinými živými lidmi a živými bytostmi. A už si ty vztahy montují a vytváří dlouhodobý vztahy montují jenom z AI. A i to non-evl chat GPT tohle je schopný dělat. Vytváří prostě dlouhodobý paradociální vztahy. A pak máme jiný ještě pekelnější karakter AI replika, který jsou na to specificky zaměřený, že vytváří parosociální vztahy. To má problém, že vás prostě. Ta komunikace s ChatGPT je prostě trošku hladší, protože ono je dotrávaný k tomu, aby bylo leh dokonalým způsobem podlejzavý. Takže GPT 4 tam to přestřelili. Tam prostě se všichni dozvěděli, co to znamená anglický termín Sykofen. Sikkofance je podlejzavost. A tam to bylo až tak moc, že když jste řekli, já ráno udělám jeden dřep, tak Chat GPT ričilo nadšením, jak jste prostě nevříznat let. Nebo jste řekli, že GPT, já jsem zjistil, že všichni lidi jsou si rovní. No on, co ty jsi prorok neskutečný prostě. Takže jako rollbackovalo, zpátky tenhle dalo pryč, a dotralo to tak. Ta Sikofanci není v tom vlastně prakticky vidět, ale je to takový krásně, jako to, jako je to vlastně dobrý. Jesky se s tím povídá a vlastně líp a líp. A to je teď nebezpečí, který hrozí nejvíc mladým lidem. Takže to, že posílají jako zrovna GPT, Google, Google modely jsou z hlediska datového, já bych se tím úplně znepokojoval, že posíláte do Ameriky něco, to jsou takový fantoma, prostě lidi mají pocit, že by se měli něčeho bát, a tohle jim přijde jako takový, takže tomu nějak rozumí, že nějakam posílají data, ale je to s tím způsobem hostejný. Prož ty data tam stejně jsou. Prostě tam ty cloudové služby máte stejně, je to tam prostě. Navíc, když máte Microsoft, Google, všichni jsou teďka GDPR compliant, všichni vám zajišťou nějakou GDP ochranu těch dát, takže z tohle toho pohledu je v pohodě. Co je teda nebezpečné, je vznik parasociálních vztahů. Prostě chat GPT a spol se na vás narou takovým způsobem, že vám začnou polehku zkreslovat jako realitu, že už vlastně kolik jste mladý a nemáte odpracovaný ty offlineové vztahy. Jako já už mám spoustu kamarádů, který mám dřívejšího vlanové doby, a už mi jen tak nějaký chat GPT z nich prostě nevykře z těch vztahů, protože jsem si je ustanovil, ty přátelství. Tou cestou lovce sběrače, to znamená olfaktoricky. J jsme s těma lidma byli prostě v hospodě a prostě roky se bavili, a tak to není jen o mluvení, to je prostě o hluboký biochemické cestě toho, jak vlastně Homo sapěnc navazuje přátelství. Tak tohle, když vy nemáte, protože jste mladý, tak se to nestihli udělat, se takhle zadrátovat s jinýma lidma a vlítná vám tam chat GPT, tak se vám může taky stát, že už nebudete nikdy na dosmrti schopný navazovat vztahy s jinýma lidma. To je jedna část takový konverzační AI, která je jako problematická. Jsou tam takový ty věci typu, jo, halucinuje to, ale halucinace, halucinace je hezky český bullshitting. To je jako, všichni lidi nějak halucinu. Já si myslím, že dneš GPT halucinu míň, než průměrný juniorní zaměstanec, kterou já bych na tu roli dal a vyvinula něký tlak, tak mě ten zaměstnanec bude kecat víc jak chat GPT. Prostě takový typický juniorní analytik si navymýšlíc jak chat GPT, všichni to známe. S tím se dá všem pracovat. Prostě to není, to nejsou ty rizikové. Takže tato je ta riziková. A potom daleko víc riziková té do oblasti kyberbezpečnosti pro běžního uživatele. Teď se nám tady rozšířil takový nešvar, že všichni najednou vidí, že agenti typu Open Klo, teď nechci zacházet do detailu, kdo neví, co to je, tak teďka zůstaňte v té nevědomosti, ale kdo vípen klo a proč všichni najednou na LinkedIn a Twitteru sdílejí, že si koupili Mac mini a na něm provozují open clo a napojili to na mail a na svoje soukromé věci. A teď jim to strašně hodně to dělají jako třeba takový ty progresivní ředitelé, CEO z firm, který se chtějí blisknout, jak jsou skvělý, že jsou AI first, takže ukazují, jak jim na stole vrní tři maky mini. A najednou je open clo za marketing, na druhým je open clo za finance a na třetím je opla za co. A tohle je strašně nebezpečné, protože je tenhle říká se tomu dneska hezký pojem. Lethal trifecta, to znamená smrtící trifekce. To je jako novotvar infekce. Tak smrtící infektion, ale tohle jako je trifekt, jako tři tři věci. První je, že vezmete AI agenta a dáte mu přístup ke svým ke svým ke svým citlivém údajům, jakýmkoliv osobního charakteru nebo firmního charakteru. Druhé je, že mu dáte přístup vlastně posítí někam ven, že může dělat prostě věci, že může jednat, takže má přístup k vašim věcem. Druhé je spekt, že může jednat. A třetí, že mu dáte možnost číst nezabezpečený zdroje od lidí, kterým vy, nebo akterů, kterým vy nevěříte, to znamen třeba cizí e-maily. Takže úplicky chcete si postavit agenta, který vám bude třídit e-maily, nějaký vaše vlastní, prostě klasický personal asistent, osobní asistent, exekutiv asistent, tak to je smrtící trifektum v tom, že vlastně je absolutně nezabezně, prostě existují tzv. prompt injections, prostě techniky, jakým způsobem vám někdo může poslat mail, zblbnout toho agenta a donutit ho, aby vám třeba vně poslal soukromí informace, soukromý fotky, takže tohle je věc, na kterou byšně, myslím si, že většiny posluchačů, který nás teďka posluchají, se tohle asi netýká, že bych třeba pěti, deseti procent možná jo, takový ty víc jako IT, orientovaný. Pojďme si udělat vlastního AI, ponotučního asistenta, který mi bude manažovat toto, tamto. A tohle je teďka vlastně, a se to spíš týká firem. Firmy mají tendenci vlastně tuhle automatizaci dělat, a to je daleko nebezpečnější než to, že vy vaše data budete posílat řízeným způsobem někam na servery, Microsoftu, který houstí GPT modely. A tohle se začne víc a víc projovat v tom, že za chvíli budete mít domácí asistenty, který budou mít přístup k vašemu, ke kamerám, který budou nevím, mířit do vašich ložnic a jo, prostě jak si lidi prošpikou svůj dům. Já to úplně vlastně já to nemám moc, jako smart home je z měl dostpečnostní hruza v podstatě. A ona už je kyberbezpečnostní hrůza teď bez AI. Velmi brzo se to stane kyberbezpečnostní hruza z AI. A to tehdy, když vy tu AI necháte manažovat, tyhle systémy, to znamená, uděláte si vlastního open klo asistenta, který vám beří všechny maily a pak mu řeknete hle, pepíku, tady zapní mi světla doma a mrkni je si prostě v lednici prostě do sídla. Tak tohle budou nový během jednotek let, vlastně vstupy do kyberbezpečnostního pekla. To je jedna částí věci. A druhá částí věci je, to už není pro vás jako uživatele AI, ale jako uživatele libovolného softwaru. Během několika málo jednotek měsíců se dostáváme do bodu, kdy se začne objevovat obrovské množství bezpečnostních děr a zneužitelností v běžném softwaru, který obklopuje nás všechny. A do té doby ty útoky na ty kusy toho softwaru vždycky byly příliš drahé, proto většina z nás nebyla heknutých nikdy. A od doby od teď třeba za tři měsíce, za čtyři měsíce, většinou tajnost toho hekování bude řešit umělá inteligence. To znamená, že ten prah, kdy vy se začnete stávat cílem kontinuálních hekerských útoků, dramaticky klesne. Takže bude se to týkat vás jako individuálních lidí, individuálních uživatelů, softwaru, máte citlivé věci, intimní fotky, třeba cokoliv prostě používáte a updateujete prostě každý vaše zařízení, který máte. Doba máte router. Když jste naposledě updateovali router. V tom routu jsou desítky, možná stovky, možná tisíce bezpečnostních děr a ty všechny do konce tady z toho roku budou exploitnutý. A to je ten soukromik, kdo z vás upduje, kdo ví, kde je device, který doma má napojený na domácí kamery, jak je aktualizovaný. To je nějaký čínský verk, který tam je, a vlastně ani nevíte, jestli to designově nebylo jako spaj. A tak teď tohle i kdyby to nebyl spajer. A není aktualizovaný, ale brutálně permanentně živě, tak se to stává extrémní bezpečnostní zranitelost. To znamená každá kamera, kterou doma nemáte, je dobrá kamera. A toto je část pro soukromý lidi a část pro lidi ve firmách. Dotteď to bylo tak, že každý střední biznes tady plzeňské firmy, jo, prostě všichni obrábění kovů, jako hodně jako industri spíš. Tak je to takový to. No, my máme, my máme jsme IT zabezpečený. My tady máme Aťáka, takový to IT, že on někde vyleze ze sklepa. A ten nám to všechno zabezpečil, na své tiskárny a zabezpečuje. My jsme v pohodě a navíc, kdo by nás hekoval přeci. Tak tohle všechno končí. Každý, kdo má firmu, si musí říct, že to není jenom otázka času nebo to prostě se bude dít, že řekněme nejpozděc od příštího roku. Naše firma ať je velká jakkoliv, bude permanentně čelit kontinuálním kyberútokům. A to, jak těm hardcore na tu infrastrukturu, tak i sociálnímu inženýrství. To znamená, AI generovaný telefonáty, představující, že jsou šéf, šéfovo hlasem, šéfovo obličejem, zumkol, někde se připojí, on to není šéf, je to vygenerovaný. Zná interní věci z firmy, bude vám prostě povídat o tom, jak u vás ve firmě. Jo, hele, tady my jsme měli teďka ten projekt s těma Japoncema, to nám nevyšlo, ale prosím tě, já jsem teď tady trošku vtísni. Může, prosím tě schválit tu platbu teďka tady na ten účet, jasně, dobrý, jo, končím buch. Tak tohle se začne dít prostě masivně.

SPEAKER_01 53:30

A jak se tomu můžu bránit? Já jako obyčejný člověk, jako vy možná třeba tu možnost vidíte, máš.

SPEAKER_00 53:36

Začím já taky nemám v tuto tu chvíli, moc nemáme. Takže první věc je o tom vědět. Teďka ty útočníci jsou krůček před obráncema. Rozhodně kyberbezpečnostní firmy se tím nějak věnují. Podobně jak my děláme midlver pro ochranu lidský mysli, tak budete mít midlver před Kyberšmeidama. Prostě nevím, prostě vašim rodičům bude volat kopie vás. Já jsem tady máme prostě v bourečce. Teď potřebuju, prosím tě, tady ti bude teď volat pán od policie, tak jenom potřeba, aby jmu to pin řekl, který teďka něco něco. A to teď se to teď neděje každýmu, protože to fakt dělají nějaký nebohí hajzlíci lidi, který nebojí tím myslím, jako jsou v nějakým hrozným údělu, že musí z Ukrajiny dělat takovýhle šílený šmejský colcentra anebo nebo, protože jsou to fakt hajzlové. Ale tím pádem to stojí nějaký lidský čas, ale ve chvíli, kdyhle útoky budou orchestrovaný česě pomocí AI, tak pojedou víceméně furt. Takže vy budete prostě muset mít antivirus v obozovkách proti tady tomu. Ještě to nejsme, ještě tam připravený nejsme, ještě ještě nemáme nástroje tady proto, a vy prostě budete potřebovat, nebo vaše rodiče budou potřebovat mít to, že součástí výbavy telefonuje, že rovnou bude identifikovat, že to nejste vy. To nový jako systém prostě nejsme připravený. To je tak nový, jako v 90kách byly nový počí, akorát ještě horší, protože to má daleko větší plochu toho útoku, na kterou to může útočit. Takže co chci jenom říct, je teď minimálně dobrý fakt o tom vědět. A každý by se měl v tom svém individuálním rozhodování, jaký zařízení si koupím, k čemu ho připojím. Koupím si tamhle, tu čínskou věc nebo ne, by měl jako vnímat. A pokud je někdo a myslím si, že nás třeba poslouchají i třeba podnikatelé teďka, tak u nich to je jasný, to je prostě součástí zodpovědného řízení té firmy, tohle přinejmenším mít, a já nevím, dívat se, kde jsou nějaký zdroje informací, co teď je noví v tétobečnosti oblasti?

SPEAKER_01 55:40

Kde tyhle informace může najít tak? Možná někdo, kdo je firma, tak má nějakou větší odpovědnost to řešit, ale kde teďka jako když bych já se chtěla informovat třeba o tom aktuálním vývoji, mám nějakou možnost najít ty informace někde pohromadě?

SPEAKER_00 55:54

No úplně pohodě úplně nejjednodušší na začátku její a za to se GPT. Já třeba kdybych tešel, a chtěl bych říct tak teď jsem dostal tadyhle otázku a teď já mám nějakou vnitřně hodně decentralizovanou a rozloženou zdroje informací, který prostě čtu, odebírám ten newsletter a tamhle. A jsou to takoby těžké, hutné informace a poitá, že já teď vám nedokážu odpovědět na tu otázku. Takže co já bych udělal, kdybych na ní měl teď zamachro, že pak půl domáčet GPT. A řeknu: Hele, mám teďka tady tohle je moje situace. A potřebu odpovědět na tuto tu otázku, dej mi top pět zdrojů, kam se mám zaměřit, abych potom šel dál a takže to dělal úplně stejně. Takže já nějaký zdroje mám, ale ty jsou poplatné tomu, co potřebuji já. A tímhletím bych chtěl otevřít mysle zase opět každému podnikateli, každému člověku i v té osobní individuální sféře, když jste do té doby měli otázku Ježiš Maria, já bych potřebovala znát odpověď a nemám koho se zeptat. Tak to je starý svět to už končí teď, to už také nemá být. Prostě AI je normálně ústrojným organickým rozšíření vaší kognice. A první, co byste měli mít, tohle potřebuje s někým konzultovat, dost konzultovat s Aj.

SPEAKER_01 57:17

Tím jsme možná i. Já jsem chtěla tak jako zakončit vlastně tohle, že my jsme teďka byli takový spíš jakože. Nebo já z toho mám trošku pocit stísněnosti, toho, že vlastně přichází nějaká éra, která nás bude stát možná hodně rizik, možná hodně přešlapu, možná taky hodně ztrát. Ale k čemu teda vlastně, když byste měli jednu věc říct, k čemu AI je skvělý. A vlastně je to jeho největší benefit té umělé inteligence, tak to.

SPEAKER_00 57:42

To jsme si nedostatečně teď říkali, ale pokud se nám AI podaří udělat dobrou a sladěnou s hodnotami lidstva, tak má potenciál vyřešit drtivou většinu dalších problémů, kritických, kterým jako civilizace čelíme. Opočiné zdravotnictvím, přes distribuci bohatství, ekologické problémy, globální, klimatický, katastrofický jevy. Takže představte si svět třeba za deset let, v kterým rakovina nebude problém. V kterým Alzheimer nebo je problém. To je dosažitelné AI. Představte si svět, v kterým se nebudeme klepat z toho, že se nám tady oceány oteplily prostě o dva stupně Celzia. Prostě my nevíme, jak to řešit. V podstatě představte si představte si svět, v kterým, když se objeví další pandemie, tak do jednoho dne bude vakcína, a do týdne bude nějakým způsobem, autonomníma dronama, distribuovaná úplně všem. Zase my nemáme kapacitu jako lidstvo tohoto vyřešit, i i tohle v nějaké podobě vyřeší. A každou další věc, kterou v podstatě potřebujete, a začneme zdravotnit to takový jako přímo, že každý si dovede představit, jaký by to bylo, kdyby se neumělo na rakovinu. Tak od toho můžeme začít a každá další věc v tomto myšlenkovém toku, tak tam i a hraje klíčovou roli v akceleraci toho. Protože my jako lidstvo v podstatě stojíme na už nám se v podstatě vědecký pokrok zastavil. Ono to nevypadá, ale vědecký pokrok v podstatě staňuje. Jediný, v čem vědecký pokrok výrazně postupuje, je oblast jako stém a informační technologie. Ale to hlavně v tom, že je tam vrháno do toho větší a větší množství lidí, ale jednotkovej výsledek na jednoho vědce, přidané hodnoty vlastně permanentně jako mizí. Ale my potřebujeme celá naše společnost je postavená na důvěře v technologický proces. My jsme prostě růstový ekonomiky. My prostě proč potřebujeme růstový ekonomiky? Protože my potřebujeme, aby jsme cokoliv vybudovali teď, potřebujeme mít důvěru, že v budoucnu bude líp. Proto nemůžou fungovat takový ty nerůstový ekonomiky. Prostě to nemusí růst HDP, to je jedno. Je jedno, jaká veličina poroste. A vlastně od novověku u nás roste většina technologického vědeckého porozumění světu. A my prostě jsme z civilizace, která je na tom postavená. Veškeré naše fungování, blahobyt a pohodlí a bezpečí je postavené na tom, že porostte technologický a vědecký progres, a garantem tady z toho umělá inteligence. Tohle je to nejobecnější začištění a od toho můžete cokoliv dalšího odvinout. A jenom za podmínky, že se nám tu AI podaří udělat dobře. Ale nad tím bych u to skončil. Takže já bych jako hlavně tohle celý chtěl zarávno. Já jsem optimista. Fakt jsem optimista, jsem velmi pro AI. Věřím, že teď před námi jsou náročný roky. Je to podobně, když vytahujete rozstavený sklos PC. Prostě buď se vám máte krátký moment z něj něco buď krásného vyfouknout, anebo z nějakých blob z toho prostě hnusný vznikne. To je období od teď pro příští 5 až 10 let máme, kdy teď to můžeme hníst. Optimista jsem v tom, že my jako lidi máme teď potenciál s tím něco dělat. Kdybych byl pesimista, tak řeknu do deseti let tady vybouchne supervulkán pod jelousonem otočí se zemská atmosféra hore dole a všechny zahajeme nejde s tím dělat, co. Ale já tohle neříkám. Já ám, že před náma stojí velký výzvy, jsou těžký ty výzvy, ale nejsme tady kachli naodřel, a můžeme, máme fakt potenciál to udělat tak, jak my chceme. A když se to podaří, tak to bude fakt dobrý.

SPEAKER_01 1:01:32

Tak já mám teďka úplně takový pocit, že stojíme fakt na Prahu jako nový éry.

SPEAKER_00 1:01:37

No, stojíme, je to tak. Je to vlastně je tomem dost privilegované období v lidské existence tady.

SPEAKER_01 1:01:45

Jo, pak si úplně o tom přemýšlím o těch slovech a vlastně v podstatě hledám a lepší už mě nenapadnou. Jak bych to zakončila? A já každopádně jsem strašně ráda za tohle povídání a za to, že mám pocit, že se něco tam zádu, i když my to nevidíme a řešíme si jenom to svoje lehké povídání s tím četkem, tak se tam děje něco mnohem hloubší, to, co tvoříte vy. A věřím v to, že to prostě udělá přesně tu správnou bariéru a nastavíte pravidla proto, aby jsme z toho dokázali co nejvíc dostat.

SPEAKER_00 1:02:18

Takže ten poslední vzkaz asi pro všechny posluchat, že by byl, nebojte se.

SPEAKER_01 1:02:22

A s tím se i dneska rozloučíme. Děkuji vám moc krát za to povídání za to, že jste byl hostem dnešního pancátu a přeju hodně štěstí. A s námi se těším na sešnou a nevěnou zase příště.

SPEAKER_00 1:02:36

Tvosné společný plzeňský inovační. VVV je plzeň inovativní.