AI ta Krajta #26: Bublina splaskla? AI prohlížeče jsou špioni a Grokipedia přepisuje pravdu

Vítejte u dalšího dílu našeho sledování českých AI podcastů. Tentokrát je tu 26. epizoda AI ta Krajta, která opouští nadšený optimismus a přináší tvrdé vystřízlivění. Tým ve složení Šimon, Pavel, Jirka a Petr se zaměřil na témata, která ukazují odvrácenou stranu současného AI boomu.

Hlavními tématy jsou zásadní bezpečnostní selhání nových „AI prohlížečů“, všudypřítomný pocit, že „AI bublina splaskla“, a znepokojivý nástup „Grokipedie“ Elona Muska jako nástroje na přepisování reality.

Pokud si chcete poslechnout, proč je 99 % generovaného umění „šrot“ a proč jsou nové AI prohlížeče možná horší než Cambridge Analytica, jste tu správně.

H2: O čem byla řeč? Hlavní kapitoly epizody

• 01:57 – Kolečko novinek (Mixtral M2, Strawberry Browser)
• 05:05 – Problém s AI kódováním: nekvalitní kód a bezpečnostní díry
• 09:43 – Velká zpráva: OpenAI je oficiálně zisková organizace
• 10:45 – Téma 1: AI prohlížeče jako bezpečnostní riziko
• 11:44 – Zjistění: Atlas Browser odhalil jen 8 % hrozeb (oproti 53 % Edge)
• 15:19 – Nové vektory útoku: Social engineering a nepochopení kontextu
• 17:46 – Skutečný cíl AI prohlížečů: Sběr dat a behaviorální modely
• 20:52 – Zapomněli jsme na Cambridge Analytica? Tohle je horší.
• 23:06 – Téma 2: Splaskla AI bublina?
• 24:08 – Zklamání z AI: GPT-5 nepřineslo revoluci, 99 % obrázků je „šrot“
• 27:10 – Téma 3: Krize autenticity a nástup Grokipedie
• 29:21 – Co je „pravda“ podle Elona Muska? (Příklad: Ruská invaze)
• 33:19 – Cíl Grokipedie: Vytvořit Muskovi vlastní dataset „jeho pravdy“
• 35:19 – Budoucnost: Každá politická strana bude mít svého chatbota

Hloubková analýza: 3 klíčová témata epizody

Tato epizoda se hluboce ponořila do problémů, které s sebou AI přináší.

Téma 1: AI prohlížeče jsou špioni. A navíc nebezpeční.

Nové AI prohlížeče jako Strawberry, Atlas nebo Comet se objevují každý týden, ale tým varuje před jejich používáním. Nejde jen o to, že jsou to často jen „přebalené Chrome“ 10:45.

Problém je bezpečnost. V jednom z testů Atlas Browser od OpenAI odhalil pouhých 8 % hrozeb, zatímco Microsoft Edge zvládl 53 % a Chrome 47 % 11:44.

Skutečný cíl těchto prohlížečů je ale podle týmu jiný: sbírat data. Chtějí „nasbírat kontext o uživatelích a jejich interakcích“ 17:46, aby mohli vytvářet pokročilé behaviorální modely. V podcastu zaznělo varování, že lidé sice „zapomněli na Cambridge Analytica, ale tohle je v podstatě ještě horší“ 20:52.

Téma 2: Vystřízlivění. Splaskla AI bublina?

Druhým velkým tématem byl pocit, že „AI bublina splaskla“ 23:06. Počáteční nadšení opadá a nahrazuje ho zklamání. Očekávání, že GPT-5 přinese stejnou revoluci jako GPT-4, se nenaplnila.

Místo toho jsme zaplaveni obsahem nízké kvality („slop“). Pavel v podcastu trefně poznamenal, že 99,9 % AI generovaných obrázků je „totální šrot“ 24:08. Místo nového uměleckého směru vidíme jen recyklované, emočně manipulativní kýče. Stejný problém se objevuje i v programování, kde AI generuje kód plný chyb, duplikací a bezpečnostních zranitelností 05:05.

Téma 3: Grokipedia a krize autenticity

Poslední téma bylo nejvíce filozofické: čelíme „krizi verifikovatelnosti“ 27:10. Za pár let bude nemožné rozlišit, zda byl text, audio nebo video vytvořeno člověkem, nebo AI.

Do tohoto chaosu vstupuje Elon Musk s Grokipedií. Ta má být údajně „objektivní“ alternativou k „levicové“ Wikipedii 29:21. Tým AI ta Krajta v tom ale vidí jasný cíl: Musk si chce vytvořit „vlastní dataset pro jeho pravdu“ 33:19.

Je to krok, který už dnes dělají Rusové, když cíleně „otravují“ datové sady dezinformacemi (např. že „Země je placatá“ nebo „Ukrajina patří Rusku“). Vede to k děsivé budoucnosti, kde si nejen každá politická strana, ale i každý názorový proud „vytvoří vlastního chatbota se svou vlastní pravdou“ 35:19.

Závěr: Kritický pohled je potřeba

Tato epizoda AI ta Krajta slouží jako důležitá brzda v přehnaně optimistickém světě AI. Připomíná nám, že musíme zůstat kritičtí, ptát se, komu nové nástroje slouží, a kdo definuje „pravdu“, kterou nám předkládají.

Jak to vidíte vy? Také pociťujete, že AI bublina splaskává? A svěřili byste svá data novému AI prohlížeči? Dejte nám vědět do komentářů!