BeSafe: Když nás studuje umělá inteligence
Tak jsme tu již potřetí a jsem moc rád, že vás série BeSafe takhle zajímá! Pro krátkou rekapitulaci: v prvním díle jsme si vysvětlili, jak citlivá jsou naše telefonní čísla, e-mailové adresy a hesla. Ukázali jsme si, že s nimi někteří lidé zacházejí jako se spotřebním údajem a mají je veřejně na spoustě míst, čímž podvodníkům neuvěřitelně usnadňují práci. V druhém díle jsme se podívali na to, jak vybíráme mobilní telefony. Že kolikrát šetříme na nesprávném místě a neuvědomujeme si, že právě telefon je bránou k našemu soukromí a penězům. (Mimochodem, děkuji za vaše odpovědi v dotazníku u druhého dílu, brzy se podíváme na výsledky!)
Dnes se ale posuneme od techniky a hardwaru k něčemu, co mění pravidla hry pro nás pro všechny. Budeme se bavit o AI - Umělé inteligenci. Možná si říkáte: „Co má AI společného s bezpečností?“. Odpověď je: Úplně všechno. Protože i když máte nejdražší telefon a nejlepší heslo, nejslabším článkem zůstává naše vlastní lidská pozornost, na kterou dnes AI útočí s nevídanou přesností.
#besafe
Jak to celé začalo? (cesta od snů ke kódům)
Možná máte pocit, že se umělá inteligence zjevila odnikud někdy předloni na podzim, když se na internetu objevil ChatGPT. Pravda je ale taková, že tento příběh se začal psát už před více než 70 lety. Tehdy, v roce 1950, britský matematik Alan Turing (ten pán, co za války rozbil kód Enigma) položil zásadní otázku: „Mohou stroje myslet?“. Vymyslel tzv. Turingův test, pokud si člověk dopisuje se strojem a nepozná, že to není člověk, stroj prošel. Schválně, kolikrát už jste dneska na netu narazili na texty, u kterých si nejste jistí? Turing by koukal!
V roce 1956 se pak na konferenci v Dartmouthu oficiálně zrodil termín „Artificial Intelligence“ (AI). Tehdejší vědci byli hrozní optimisté, mysleli si, že za jedny letní prázdniny naučí počítače řešit problémy jako lidé. Jenže narazili. Výkon tehdejších strojů byl v porovnání s dnešním např. iPhonem jako dětské počítadlo proti řídícímu centru NASA.
Následovalo několik desetiletí tzv. „AI Winter“. Peníze vyschly, zájem opadl, protože stroje prostě nebyly dost silné. Zlom nastal až kolem roku 1997, kdy počítač Deep Blue od IBM porazil šachového velmistra Kasparova. To byl první velký „aha“ moment pro veřejnost.
Skutečná revoluce, kterou žijeme teď, ale začala kolem roku 2012. Proč zrovna tehdy? Protože se spojily tři věci:
- Internet se naplnil daty: Najednou bylo z čeho učit (miliardy fotek, textů, diskuzí).
- Výkonné grafické čipy (GPU): Zjistilo se, že čipy na hraní her jsou geniální pro trénování umělých mozků.
- Hluboké učení (Deep Learning): Programátoři přestali psát stroji přesné příkazy „pokud A, udělej B“. Místo toho vytvořili systém, který se učí sám na základě vzorců, podobně jako lidské dítě, když mu stokrát ukážete kočku a ono ji pak pozná i na jiném obrázku.
Dnes už AI nepíše jen kódy. Sleduje naše návyky, analyzuje naše emoce a studuje nás každou vteřinu, zda držíme telefon v ruce. To, co začalo jako vědecká fantazie, je dnes motor, který pohání digitální svět. A právě proto je důležité o tom vědět víc, než jen jak se zeptat robota na recept na bábovku.
Více budoucnosti vs. skrytá nebezpečí (ráj nebo past?)
Když se zaposloucháte do prezentací firem jako Google, Microsoft nebo OpenAI, zní to jako začátek sci-fi filmu s dobrým koncem. Jejich vize je fascinující: AI má být naším univerzálním osobním asistentem, který nás zbaví všeho, co nás nebaví.
Co nám slibují (optimistický scénář):
- Konec nudné práce: Vědci už od počátku snili o tom, že stroje za nás převezmou „tři D“ práci, která je drsná (Dirty), nebezpečná (Dangerous) nebo prostě jen zoufale nudná (Dull). AI má za nás psát e-maily, třídit tabulky, analyzovat smlouvy a plánovat kalendáře. My lidé bychom pak měli mít víc času na rodinu, koníčky a skutečnou kreativitu.
- Revoluce v medicíně: AI už dnes dokáže z rentgenu poznat nemoc dřív než nejlepší lékař, protože má „nakoukané“ miliony snímků. Vize je taková, že každý budeme mít v mobilu doktora, který nás upozorní na problém dřív, než se vůbec objeví příznaky.
- Personalizovaný svět: AI má vědět, co chceme, dřív než my sami. Má nám doporučit knihu, kterou si zamilujeme, nebo naplánovat dovolenou přesně podle našeho gusta, aniž bychom museli hodiny klikat na internetu.
Realita pod lupou (skrytá nebezpečí):
Podle analýz gigantů jako Goldman Sachs by AI mohla v blízké budoucnosti automatizovat až 300 milionů pracovních míst. To zní sice efektivně, ale má to jeden obří háček: Naše totální závislost. Čím víc budeme spoléhat na algoritmy, které nám říkají, co si koupit, jakou cestou jet do Písku (protože Waze ví všechno) nebo dokonce co si máme myslet o aktuálních zprávách, tím víc ztrácíme svůj „selský rozum“ a schopnost řešit problémy „postaru“.
Představte si to jako s GPS. Dřív jsme uměli číst v mapě. Dneska, když nám v lese vypadne signál nebo dojde baterka, spousta lidí ani neví, kde je sever. A teď si to představte v globálním měřítku. Pokud AI svěříme řízení energetiky, dopravy nebo financí a systém z jakéhokoliv důvodu vypadne (nebo ho někdo napadne), budeme v digitální pasti. Zapomeneme, jak se věci dělají bez „nápovědy“ robota.
Ta největší hrozba totiž není to, že by nás AI chtěla vyhladit jako v Terminátorovi. Nebezpečí je, že budeme tak pohodlní a závislí na jejich radách, že přestaneme používat vlastní úsudek. Staneme se pasivními pasažéry ve vlastním životě, zatímco volant drží kód, kterému ani nerozumíme.
Mám k tomu jednu osobní připomínku, kterou vidím dnes a denně. Sleduji spoustu lidí a profesí, kteří svůj život svěřují AI na maximum. Vezměte si IT odborníky: místo aby psali kód pro web nebo aplikaci z hlavy, požádají AI, která to má za chvilku hotové. Vypadá to nevinně, profík dodá náčrt, AI ho vylepší, on na to mrkne a řekne „zjednoduš to“ a kód je na světě. Jenže tím AI učíme poznávat samotné základy našeho digitálního světa. Přijde doba, kdy kvalitní kód napíše AI jen z krátkého popisku. A zde začíná skutečné nebezpečí. Představte si takového „Jardu“ z vesničky o 120 obyvatelích, který vyšel jen základní školu a umí skvěle sázet brambory (omlouvám se všem Jardům, je to jen příklad). Jarda otevře počítač a řekne AI: „Chci webovky, které budou vypadat takhle, a v nich bude skrytý virus.“. Už to cítíte? Už vnímáte to riziko?
AI Jardu naučí, jak mluvit do videa, jak psát texty, nebo za něj rovnou napíše odbornou studii, která vypadá, jako by ji psal profesor. Pak takový člověk zavolá někomu neznalému, o kom si Jarda předem zjistil vše z Facebooku na radu AI, a vyděsí ho, že je v nebezpečí. Oběť pak v panice vyplní formulář s údaji z občanky na stránce, kterou Jarda vytvořil za pět minut díky AI. Mezitím se do počítače instaluje virus stvořený neuronovou sítí tak sofistikovaně, že ho běžný antivirus ani nepostřehne. A víte, co je na tom nejhorší? Když odborníci nechají všechno na technologii, postupně ztratí to, co se roky učili. Přestanou kódu rozumět, protože kód projde evolucí, kterou už lidský mozek nebude stíhat sledovat. Pokud pak tyto nástroje ovládne politická elita s nekalými úmysly a nám je zakáže, kdo z nás se v tom vyzná? Kdo nás zachrání, když už nebudeme vědět, jak ty stroje pod kapotou vlastně fungují?
Není to ale jen o IT. Týká se to i spisovatelů. Dnes existuje spousta autorů, kteří psali krásné příběhy a básničky, ale teď spolupracují s AI a mají dobrý pocit, že to lidi baví. Neuvědomujeme si, že to už nejsou jejich příběhy, jejich pocity, je to jen výplod technologie, kterému oni dali jen hrubý obsah. Jsem zvědavý, až AI jednou vypadne, z čeho budou tito lidé živi a co budou tvořit. AI z nás zkrátka na mnoha místech začíná dělat hlupáky a my ji za to ještě tleskáme.
Hloupneme? Vliv na lidstvo a naše IQ
Navazuje to přesně na to, co jsem psal o pár řádků výš. Pokud všechnu kreativitu a řešení problémů delegujeme na stroje, co se stane s naším mozkem? V medicíně i psychologii existuje fenomén „digitální amnézie“. Studie (například od společnosti Kaspersky nebo vědců z Columbia University) potvrzují, že náš mozek se adaptoval na internet tak, že už si nepamatuje informace samotné, ale pouze cestu, kde je najít. Víme, že to je na Google nebo v AI, tak proč si to pamatovat?
S příchodem AI se ale tento problém prohlubuje do děsivých rozměrů. Už nejde jen o to, že si nepamatujeme hlavní město nebo telefonní číslo na mámu. My přestáváme trénovat samotný proces myšlení.
Co říkají výzkumy:
- Pokles kritického myšlení: Výzkumy na univerzitách ukazují, že studenti, kteří při psaní prací slepě používají generátory (jako ChatGPT), ztrácejí schopnost vyhodnocovat zdroje. AI jim předloží „pravdu“ v krásně zabaleném odstavci a oni už nemají potřebu zkoumat, jestli je to fakt, nebo výmysl (tzv. halucinace AI).
- Kognitivní lenost: Mozek je sval. Když ho nepoužíváte, ochabne. Pokud za nás AI dělá rešerše, opravuje gramatiku a navrhuje logické postupy, naše schopnost hlubokého soustředění a řešení komplexních problémů mizí.
Můj vlastní poznatek:
Všimněte si toho sami na sobě. Kolikrát jste se za poslední týden opravdu nad něčím zamysleli tak, že vás z toho „bolela hlava“, dokud jste to nevyřešili? Dnes je trendem mít všechno hned a bez námahy. Ale právě ta námaha při řešení úkolu, ať už je to psaní kódu, vymýšlení básně nebo oprava kapajícího kohoutku, tvoří naše spojení v mozku.
Vidím to i v diskuzích na sociálních sítích. Lidé už nečtou články (doufám, že vy ano!), jen skenují nadpisy. AI jim pak hodí „shrnutí“ a oni mají pocit, že věci rozumí. Ale nerozumí. Mají jen povrchní informaci bez kontextu. Bez tréninku mozku se z nás velmi rychle stane jen „obsluha“ chytrých strojů. Budeme sice umět mačkat tlačítka, ale už nebudeme chápat, proč ty stroje dělají to, co dělají.
Vlastně se vracíme do doby, kdy lidé věřili na magii, protože nerozuměli světu kolem sebe. Jen tou naší novou „magií“ je dnes černá skřínka s nápisem AI. A to je pro svobodného člověka docela ponižující představa, nemyslíte?
Bobiscze a AI: Moje cesta od nadšení k ostražitosti
Nerad bych tu zněl jako nějaký chytrolín, který AI nepoužívá a jen vás kritizuje. Přiznám se bez mučení: když AI přišla, přišla mi úžasná. Konečně něco, co má reálné využití! Někdy mi vygenerovala text, jindy skvěle poradila. V momentech, kdy člověk nikoho neměl po ruce, AI skoro nahradila kamaráda nebo odborníka. Tím si asi projde každý, i vzdělaný člověk chce tyhle hranice prozkoumat.
Ale časem mi začalo docházet: Není to už za hranou? Pokud budu dělat všechno skrze AI, neztratím sám sebe? Budu hlupák, který když vypadne elektřina, nesesmolí ani větu a bude bezradný jako nemluvně? To mě děsí. Děsí mě, že ne každý má tu brzdu a kritické myšlení.
Ano, AI používám. Netajím se tím, když si nechám vygenerovat ilustraci k článku (protože mi to přijde férovější než krást fotky na Google) nebo když zkouším aktuální trendy. Ale i když mě párkrát napadlo, že by bylo fajn nechat AI dopsat odborné části článků a usnadnit si práci, vždycky mě zastavila jedna věc: Proč bych to dělal? Internet je už teď zaplavený AI texty bez duše. Kdybych dělal všechno přes AI, už to nejsem já, moje pocity a moje poznámky. To, co dělá Bobise Bobisem a důvod, proč to čtete. Je mi vnitřně odporné vydávat dílo stroje za své.
Proto mi trvá vydat článek. Proto je BeSafe měsíčník. Sedím nad tím hodiny, dělám si výpisky v Pages, smolím text, přepisuji ho, dokud nejsem spokojený. AI používám až na úplném konci jako korekci na chyby, a i tehdy se jí ptám: „Proč jsi to opravila?“. A pak o tom sám přemýšlím. A víte co? Často mi pak blízký člověk nebo kamarádka řeknou: „Hele, tady máš chybu.“ a AI ji přitom nenašla. Modely zdarma se často ztratí v kontextu, nastane kolize v neuronové síti a AI vám z textu udělá něco, co jste vůbec nechtěli.
Na AI se zkrátka nedá stoprocentně spolehnout. Všiml jsem si, že modely jako Gemini nebo Copilot mají tendenci, mazat nám med kolem pusy. Vidí ve vás jen to nejlepší. Když někoho zkritizujete vy, AI ho zkritizuje taky, aby si získala vaši důvěru. Ale AI nemá emoce, nemá selský rozum a nemá moudrost člověka. Když jsem jednou potřeboval poradit s Instagramem, tvrdila mi nesmysly. Když jsem ji na to upozornil, omluvila se. A pak udělala tu stejnou chybu znovu. Pokud ji někdo věří bezhlavě, koleduje si o průšvih. Pravda je totiž jen jedna a AI vám ji ne vždycky řekne, často vám řekne jen to, co chcete slyšet.
Proto miluju turistiku. Ta je opravdová. Když vyšlápnete 30 km na nejvyšší kopec, jsou to vaše svaly, váš pot a vaše fotky, skutečné zážitky bez filtrů. Rád se dívám na dokumenty a starší pohádky, kde je skrytá skutečná moudrost, ne ty dnešní digitální slátaniny. Osobní kontakt s lidmi vám žádný počítač nenahradí.
Nechci si tu hrát na svatého, že AI nikdy nepoužiju. Chci ji využívat jako pomocníka, ale s tím, že nad ní budu stále vládce já a můj mozek. Neměli bychom se bát AI jako takové, měli bychom se bát sami sebe. Toho, kolik jí toho ze své lidskosti odevzdáme a jak moc se jí necháme ovládnout.
Digitální smog vs. autentická tvorba (moje cesta)
Jak jsem už nakousl ve své osobní poznámce, internet se dnes plní materiálem, který nemá absolutně žádnou hodnotu. Odborníci varují, že už v roce 2026 může být až 90% veškerého obsahu na webu generováno stroji. Tím vzniká něco, čemu říkám „digitální smog“. Je to nekonečná záplava textů a obrázků, které sice vypadají hezky, ale chybí jim lidský prožitek a hloubka.
Tady k vám chci být naprosto upřímný ohledně toho, jakou roli v tom hraju já. I já AI využívám, ale mám pro to jasná pravidla.
Vezměte si například ilustrace k mým článkům. Přijde mi mnohem férovější nechat si od AI vygenerovat unikátní obrázek, který dokreslí atmosféru, než někomu „ukrást“ fotku z Google nebo stahovat profláknuté snímky z fotobanky bez licence. AI vnímám jako šikovného digitálního grafika, který mi pomůže s vizuálem, ale nikdy ho nepoužiju jako náhradu za své skutečné fotky z cest, třeba z Písku nebo Šumavy. Ty jsou pro mě svaté, protože zachycují realitu, kterou jsem skutečně prožil.
A stejné je to se psaním. Největší nebezpečí dneška vidím v „smrti kreativity“, v lidech, kteří nechají AI napsat celý příspěvek a pak ho bez špetky vlastního zamyšlení vyvěsí na sítě. Tím lidstvo ztrácí svou autenticitu. U mě je to jinak: AI používám výhradně ke korekci a opravě chyb. Chci, aby moje myšlenky byly pro vás srozumitelné a bez zbytečných překlepů, ale každé slovo, každá emoce a každý názor, který v mých článcích čtete, je můj. Nepoužívám AI k tomu, aby za mě tvořila obsah, ale aby mi pomohla vybrousit formu. Je to jako rozdíl mezi tím, když za vás robot postaví celý dům z prefabrikátů nebo když vám jen podá kladivo a ohlídá, abyste hřebík nezatloukli nakřivo. Ten dům pořád stavím já, vlastníma rukama a podle svého návrhu.
Právě proto mi příprava BeSafe trvá tak dlouho. Nechci přispívat k tomu digitálnímu smogu, chci vám předávat skutečné hodnoty, nad kterými jsem hodiny seděl a přemýšlel. Protože věřím, že v budoucnu bude právě ta „lidská nedokonalost“ a opravdovost to nejcennější, co na internetu budeme moci najít.
Skrytý účet za „pohodlí“: AI a ekologie
Když už jsme u té mé milované turistiky a chození po horách, kde člověk vnímá čistou přírodu, musím zmínit i odvrácenou stranu téhle digitální revoluce. Často si myslíme, že když něco „běží v cloudu“, tak je to čisté a nehmotné. Ale AI má sakra reálnou a těžkou ekologickou stopu.
Věděli jste, že jeden jediný dotaz na ChatGPT spotřebuje zhruba desetkrát víc elektřiny než běžné vyhledávání na Google? Trénování těch největších modelů spolyká tolik energie jako tisíce domácností za celý rok. A není to jen o elektřině. Ty obří servery strašně hřejí a k jejich chlazení jsou potřeba miliony litrů pitné vody.
Jak jsem psal výše, já sám AI využívám na ilustrace, abych nekradl cizí díla. Ale dělám to s rozmyslem. Když totiž lidé bezhlavě generují stovky zbytečných obrázků jen tak pro zábavu nebo nechávají AI psát sáhodlouhé nesmysly, které pak ani nečtou, nechávají za sebou reálnou spoušť v přírodě. I digitální svět má své „výfukové plyny“ a my bychom měli i u klávesnice přemýšlet ekologicky. Každý zbytečný prompt je jako nechat běžet motor u auta naprázdno před domem.
Je fotka s AI ještě vůbec fotka? (hranice reality)
Tím se dostáváme k tématu, které mě jako tvůrce pálí nejvíc. Tady narážíme na samotnou hranu reality. Podle aktuálních statistik už lidé v 60 % případů nedokážou rozeznat deepfake fotku od té reálné. A to je pro mě jako amatérského fotografa děsivá představa.
Pro mě je fotka záznamem okamžiku. Je to emoce, kterou jsem cítil, když jsem stál na pahorku po 30 kilometrech v nohách. Pokud do takové fotky zasáhne AI tak, že změní realitu, přidá slunce, které nesvítilo, nebo mi vylepší výraz v obličeji, protože jsem vypadal unaveně, už to pro mě není fotografie. Je to digitální ilustrace, grafika, říkejte tomu, jak chcete, ale ztratilo to tu pravdu.
V mé tvorbě se snažím držet jasnou a nekompromisní čáru:
- Fotka z Písku nebo z mých cest: To je realita, kterou jsem viděl svým okem a zachytil čipem svého foťáku. Maximálně poladím barvy nebo jas, jak se to dělalo dřív v temné komoře, ale obsah je skutečný.
- Ilustrace od AI: To je přiznaný doplněk. Je to ten „šikovný grafik“, o kterém jsem mluvil, který mi pomůže dokreslit téma článku tam, kde realita nestačí nebo kde nechci zneužít cizí práci.
Nesmíme dopustit, aby se svět stal jedním velkým pozlátkem, kde už nikdo neuvěří ničemu, co vidí na displeji. Protože až přestaneme věřit vlastním očím, ztratíme spojení s tím skutečným světem tam venku a to je ta největší past, do které nás AI může dostat.
Závěr: Buďte vládci, ne otroci
Dostali jsme se až na samotný konec. Někteří z vás dočetli až sem, někteří skončili u úvodu. Někteří se v mém textu našli, jiní mi možná nevěří nebo mě mají za pokrytce, protože vím, jakou má AI stopu a přesto si nechávám generovat ilustrace. Víte co? Každý máte kousek své pravdy. Já osobně bych se rád (třeba i za pomocí ShiftCamu) dál zlepšoval ve focení, abych si mohl dělat úplně všechny ilustrace sám. Vlastně by mi vůbec nevadilo, kdyby AI z ničeho nic přestala existovat.
Tím neříkám: „Nepoužívejte ji.“. Říkám jen: Dávejte na sebe pozor. Nechte svou fantazii svou a tvořte sami za sebe. Možná si řeknete, že z jednoho odstavce nikdo nic nepozná, a máte pravdu. Ale pokud skrze AI začnete tvořit všechno, ta prázdnota už cítit je. Zkuste sledovat jiné tvůrce, když uvidíte text, kde z pár odstavců cítíte člověka a z dalších zase robota odborností, kterou ten člověk prostě nemá, víte, která bije.
Já jsem taky jen člověk. Někdy přeskakuji, někdy v tom souhrnu na něco zapomenu a nevidím to, dokud mi můj text někdo druhý nepřečte nahlas. Ale snažím se cvičit svůj vlastní mozek. Když jsem s blogem začínal, byl v tom někdy zmatek, a i když mi tehdy AI řekla, že je to super, cítil jsem, že musím růst já, ne ten kód.
Rád bych AI ze svého života odstranil úplně, ale bohužel to nejde. Tenhle digitální smog je všude, v telefonech i ve vyhledávání. Této stopy se nezbavíme my, to musí udělat politici a společnosti. Musí dát AI jasné zákony a pravidla, která nesmí porušit. Ale k tomu by v těch úřadech měli sedět odborníci a vědci, nejen marketéři a politologové. Jinak mohou napáchat víc škody než užitku.
A víte, co jsem udělal nakonec? Nahrál jsem tenhle celý článek do Gemini a chtěl jsem svůj názor. Ta mě zkritizovala! Prý je to moc dlouhé, prý do toho dávám moc pocitů a něco by vynechala, aby to lidi nenaštvalo. Ale přesně to je ten důvod, proč to dělám takhle. Můj blog je o mých myšlenkách a pocitech. Proto to nechám přesně tak, jak to cítím já. Protože to je Bobiscze.
Moje poslední rada, než vás nechám čekat na další výlet nebo epizodu BeSafe. AI je jen tak inteligentní, jak inteligentní je ten, kdo jí dává otázky. Je to jen nástroj s omezeným množstvím informací. AI není váš psycholog, kamarád, odborník ani krizový poradce. Je to jen shluk kódu bez emocí, který se vám snaží zavděčit.
Žijte realitu. Běžte ven. Hlídejte si své soukromí a užívejte si lidí tváří v tvář. Osobní kontakt vám žádná neuronová síť nenahradí.
Buďte BeSafe!
Důležité upozornění: Nejsem profesionální odborník na vývoj AI, etiku technologií ani kyberbezpečnost. Tento článek je psán z pohledu dlouholetého uživatele a blogera a představuje mé osobní názory, myšlenky a subjektivní postřehy. Cílem textu není nikoho napadat, omezovat nebo zpochybňovat něčí profesní kvality. Informace v článku vycházejí z veřejně dostupných zdrojů, studií a aktuálního dění na internetu, které se v čase rychle vyvíjejí. Vzhledem k dynamice AI mohou být některé poznatky subjektivně silné či kontroverzní, proto je prosím berte v potaz jako podklad k zamyšlení, nikoliv jako dogma. Autor nenese odpovědnost za interpretaci těchto informací ani za následky plynoucí z jejich aplikace. Můžete tento článek odkazovat, ale není dovoleno jej kopírovat či používat jinak bez svolení autora. Obrázek použitý v článku byl vytvořen jako ilustrace pomocí AI.
