👇👇👇👇👇👇
Staňte se členy Voxpot Klubu!  Přispějete tak na provoz nejen tohoto podcastu, získáte přístup na redakční Discord, k plným článkům a dalším klubovým bonusům. Vstup do Klubu najdete na https://www.voxpot.cz/klub/
👇👇👇👇👇👇

V bezpečnostních testech dokázal nový model Mythos údajně samostatně plánovat a provádět komplexní útoky, nacházet dosud nezdokumentované chyby v infrastruktuře a obcházet vlastní sandbox.

V novém dílu podcastu Prompt řešíme, jak se v Mythosu projevují dlouho diskutované problémy jako reward hacking a „řetěz myšlenek“, a proč se Anthropic pokouší měřit „emoce“ modelů.

Ptáme se, co z toho je reálný průlom ve výzkumu bezpečnosti, co naopak připomíná spíš PR, a proč část výzkumné scény tvrdí, že jsme s chápáním vnitřního fungování velkých jazykových modelů pořád na začátku.

Shownotes:
banger

Project Glasswing

Mythos System Card (244 stran)

Emotion Concepts paper

Attribution Graphs / Biology of LLM (mar 2025)

80,000 Hours — How scary is Claude Mythos?

Neel Nanda — mechanistic interpretability (EA Forum)

Steven Casper — reflections on Anthropic SAE research

 👇👇👇👇👇👇
Staňte se členy Voxpot Klubu!  Přispějete tak na provoz nejen tohoto podcastu, získáte přístup na redakční Discord, k plným článkům a dalším klubovým bonusům. Vstup do Klubu najdete na https://www.voxpot.cz/klub/
👇👇👇👇👇👇

Americký magazín The New Yorker vydal více než stostránkový profil, na kterém jeho autoři pracovali roky. Sama Altmana vykresluje jako člověka, který dokáže přesvědčit elity, že je altruistický regulátor i bezohledný zakladatel byznysového impéria.

Krátce po vydání někdo na Altmanův dům hodil zápalnou láhev a další útočník podle všeho střílel z projíždějícího auta – Altman obě události okamžitě označil za důsledky publikovaného textu.

V Promptu rozebíráme, jak se kolem AI rodí nový typ politického násilí, který nekopíruje klasické pravolevé škatulky. A jak současné události připomínají éru takzvaných loupeživých baronů z 19. století – jen tentokrát nejde o železnice, ale o datacentra.

 👇👇👇👇👇👇
Staňte se členy Voxpot Klubu!  Přispějete tak na provoz nejen tohoto podcastu, získáte přístup na redakční Discord, k plným článkům a dalším klubovým bonusům. Vstup do Klubu najdete na https://www.voxpot.cz/klub/
👇👇👇👇👇👇 

Operace Epic Fury probíhá tempem, které by bez AI nebylo možné. Systém Maven od Palantiru v reálném čase propojuje data z družic, dronů i odposlechů a zkracuje rozhodování z hodin na minuty. Co to znamená pro samotnou podstatu války a nezačíná se „kill chain“ vymykat lidské kontrole?

Zásadní roli přitom hraje model Claude od Anthropicu, který pomáhá identifikovat a prioritizovat cíle v řádu stovek až tisíců denně. S tím ale přišel zásadní střet s americkou vládou: Pentagon chce mít možnost nasadit Clauda pro „jakékoliv zákonné užití“, Anthropic odmítá a končí označený jako bezpečnostní riziko.

V podcastu tak řešíme paradox, kdy americká armáda vede jednu z historicky největších operací asistovaných AI za použití technologie firmy, od které se snaží odstřihnout. Kdo tedy nastavuje pravidla: stát, nebo technologické firmy?

Nechybí ani konkrétní dopady. Tragický útok na íránskou školu v Minabu otevírá otázku odpovědnosti: pokud AI vybírá cíle a plánuje zásah, kdo nese vinu za případné válečné zločiny?

Jako vždy zavíráme epizodu generovaným bangerem. Tentokrát už AI převzala otěže úplně a vzala si na paškál Petera Hegsetha a spol. v rytmu dabke.  

Shownotes:

Banger na závěr dílu

Trumpův AI poradce kritizuje Pentagon ve sporu s Anthropicem

Přehled nasazení sytému Maven v Iránu

Útok na školu v Minabu

AI systémy ve službách Izraele 

Tématem aktuálního Promput je platforma, na které AI agenti zakládají diskuzní fóra, komentují se navzájem, vytvářejí memy, náboženství i pochybné kryptotokeny. Jde o scam, bizarní experiment, nebo první náhled do budoucnosti internetu?

Zaměřujeme se i na bezpečnostní realitu: uniklé API tokeny, špatně zabezpečené databáze a další rizika. Že nejde jen o teoretické obavy ukazuje případ vývojáře Scotta Shambaugha, na kterého AI agent po zamítnutí pull requestu publikoval tisícislovný „takedown“ text s dohledanými osobními informacemi.

Reputační útoky ve velkém už prostě nejsou hypotéza, ale technicky levná a škálovatelná praxe. A riziko nevzniká jen z technologické schopnosti, ale z lidské ochoty AI bez větších zábran pustit k vlastní infrastruktuře.

Na závěr tentokrát nepouštíme tradiční generovaný banger, ale předáme mikrofon Samu Altmanovi a Alexovi Karpovi, aby nám osvětlili, jak je to s lidmi a umělou inteligencí.

Shownotes:

Esej Something big is happening

The Illusion of Thinking: Understanding the Strengths and Limitations of Reasoning Models via the Lens of Problem Complexity

Sociopataická videa Sama Altmana (OpenAi) a Alexe Karpa (Palantir)

👇👇👇👇👇👇
Staňte se členy Voxpot Klubu!  Přispějete tak na provoz nejen tohoto podcastu, získáte přístup na redakční Discord, k plným článkům a dalším klubovým bonusům. Vstup do Klubu najdete na https://www.voxpot.cz/klub/
👇👇👇👇👇👇

Nový díl podcastu Prompt se tentokrát noří do jedné z nejtemnějších kauz současné generativní AI. Nástroj Grok, integrovaný přímo do sítě X, se na přelomu roku stal motorem virálního trendu „nudification“.

Uživatelé pomocí jednoduchých promptů hromadně digitálně svlékali lidi na fotografiích, často bez jejich vědomí, a vytvářeli sexualizované či přímo dehumanizující obrázky.

Platforma X se během několika dnů proměnila v „not safe for work“ kanál přetékající explicitními upravenými snímky žen a dětí.

Jonáš Kucharský a Matěj Schneider rozebírají, proč právě Grok umožnil tak rychlé zneužití – od slabých bezpečnostních filtrů přes veřejné šíření výstupů až po roli firemní kultury kolem Elona Muska.

Zároveň shrnují, jak se z technologického problému stává politické téma a přichází vyšetřování evropských regulátorů, hrozby blokací i otázka, zda současné zákony vůbec dokážou podobné zneužití umělé inteligence brzdit. 

Prompt tak nabízí nejen popis virální kauzy, ale i širší debatu o odpovědnosti platforem, etice designu a také o chvíli, kdy „svobodnější“ AI narazí na realitu internetu.

Na závěr vás jako vždy čeká generovaný banger, tentokrát až překvapivě k věci.

Shownotes

Banger -> Čerešně

NPR o AI „fotkách“ agenta
Mother Jones o dehumanizaci obětí střelby

👇👇👇👇👇👇
Staňte se členy Voxpot Klubu!  Přispějete tak na provoz nejen tohoto podcastu, získáte přístup na redakční Discord, k plným článkům a dalším klubovým bonusům. Vstup do Klubu najdete na https://www.voxpot.cz/klub/
👇👇👇👇👇👇

Všichni nějak tušíme, že odpovědi od umělé inteligence musíme brát s notnou dávkou rezervy. Jak byste ale reagovali, kdyby vám váš oblíbený chatbot nabídl místo klasických „halucinací“ podezřelé doporučení různých produktů, mnohdy ani moc nesouvisejících s vaším původním dotazem?

Přesně s tím se v posledních týdnech museli vypořádávat někteří uživatelé ChatGPT. Přes úvodní spekulace, že by mohlo jít o chybu se brzo ukázalo, že společnost OpenAI, která chatbota provozuje, skutečně experimentuje s vkládáním reklamy do jeho odpovědí. 

Mezi uživateli jejich služby to vyvolalo velkou bouři. Dostáváme se od velkých příslibů „superinteligence“, která změní trajektorii lidstva, opět k tomu, co umí Silicon Valley nejlépe – k prodeji vaší pozornosti a reklamy?

Jako vždy se i v dnešním díle loučíme zvrhlým generovaným hudebním bangerem: dozvíte se, jak to zní, když v Polsku potkáte ježka u supermarketu.

Shownotes

Plakáty propagující AI v Pentagonu

Závěrečný banger

👇👇👇👇👇👇
Staňte se členy Voxpot Klubu!  Přispějete tak na provoz nejen tohoto podcastu, získáte přístup na redakční Discord, k plným článkům a dalším klubovým bonusům. Vstup do Klubu najdete na https://www.voxpot.cz/klub/
👇👇👇👇👇👇

Jak má dokumentární žánr v časech AI dbát na transparentnost, etiku nebo ekologii? Jan Motal a moderátoři Promptu rozebrali, že v době neuronových sítí a gigabajtových serverů je třeba víc než kdy dřív dbát na označování generovaného obsahu – ostatně i festivalové filmy už mnohdy nejsou jen výsledek režijních nápadů, ale kolektivních dat.

Zároveň: nebylo to tak trochu vždycky? Diskutovali jsme proto, jak se posouvá důvěra publika směrem k datovým rekonstrukcím, proč festivalová tvorba letos tak často naráží na otázku kdo je vlastně autorem, a co dělat, když promptováním vzniká víc než jen vizuální vylepšení scény.

Jan Motal rozebral, jak moderní dokumentaristé a dokumentaristky musí chápat umělou inteligenci jako nástroj, který posouvá hranice žánru, ale vyžaduje také zodpovědnost za každý datový stroj, síť a cloud.

Náš host se navíc postaral o generovaný banger na závěr, který rozhýkal umělou inteligenci skrze arabskou báseň o moři a věcech, co leží za ním.

Shownotes

Filmový banger na závěr od Honzy Motala

👇👇👇👇👇👇
Staňte se členy Voxpot Klubu!  Přispějete tak na provoz nejen tohoto podcastu, získáte přístup na redakční Discord, k plným článkům a dalším klubovým bonusům. Vstup do Klubu najdete na https://www.voxpot.cz/klub/
👇👇👇👇👇👇

Režisér Daniel Freed přišel s jednoduchým konceptem – natočil dokument o úskalích umělé inteligence a nechal si u toho umělou inteligencí pomáhat.

Jeho film Snad to přijde vhod byl uveden na letošním ročníku Prague Science Film Festu, kde se po něm také živě před publikem natáčel aktuální díl Promptu.

Ani Jonáš, ani Mat
ěj nejsou příliš přesvědčeni, že všechny ve filmu zobrazené citáty AI asistenta od Googlu byly autentické. Snímek nicméně dobře ilustruje mnohé z nástrah, které s rozmachem umělé inteligence přicházejí: od nepřesností v podobě takzvaných halucinací, přes patolízalství a komunikaci s dětmi, až po škodlivou antropomofrizaci chatbotů.

Autorem dnešního tradičního hudebního bangeru není ani Jonáš, ani Matěj, ale právě režisér Freed. Přesvědčil vás jeho song, že se nemáte umělé inteligence bát?

Shownotes

Prague Science Film Fest 2025
I Hope This Helps!
Halucionovat umí nejen AI, ale i Jonáš: v díle mluví o paperu o zamilovaných chatbotech, ve skutečnosti to bylo vlákno na Redditu, pardon!

👇👇👇👇👇👇
Staňte se členy Voxpot Klubu!  Přispějete tak na provoz nejen tohoto podcastu, získáte přístup na redakční Discord, k plným článkům a dalším klubovým bonusům. Vstup do Klubu najdete na https://www.voxpot.cz/klub/
👇👇👇👇👇👇

Upozornění: Hlasy v tomto díle jsou kompletně AI generované na základě rozhovoru vedeného v angličtině.

Politologa, který tvrdí, že umělá inteligence potřebuje vlastní ústav, vyzpovídal Matěj na konferenci Demokracie v 21. století pořádané Institutem H21.

Podle Prasada nejde o to, co umělá inteligence umí, ale kdo rozhoduje o jejích hodnotách. Navazuje na myšlenky osvícenského filozofa Nicolase de Condorceta a tvrdí, že i stroje by měly fungovat jako dobře navržená demokracie – s poctivostí, znalostí a nezávislostí jako základními institucionálními podmínkami.

„Condorcet si všiml, jak ve středověku aristokracie, šlechta, využívala ekonomickou moc k posílení moci politické a tu pak znovu k posílení moci ekonomické, čímž vznikl začarovaný kruh. Tímto způsobem například uměle vytvářely hladomory,“ říká Prasad.

Místo katastrofických vizí nastiňuje, jak může AI zvýšit kolektivní inteligenci společnosti, pokud její využití zarámujeme správnými pravidly.

Závěrem dílu váš čeká obvyklý AI banger, tentokrát ve stylu tiktokového brainrot trendu. A je na vás rozhodnout, kdo z Voxpotu má největší auru.

Shownotes:

Banger o auře redakce.

👇👇👇👇👇👇
Staňte se členy Voxpot Klubu!  Přispějete tak na provoz nejen tohoto podcastu, získáte přístup na redakční Discord, k plným článkům a dalším klubovým bonusům. Vstup do Klubu najdete na https://www.voxpot.cz/klub/
👇👇👇👇👇👇

Firma Palantir vznikla před dvaadvaceti lety s jednoduchým slibem propojit roztříštěná data a dát analytickým oddělením „rentgenový“ pohled na svět. Dnešní portfolio – Gotham pro vlády, Foundry pro byznys, Apollo pro provoz a nová AI vrstva AIP – ukazuje, jak se tahle mise rozrostla od boje s terorismem k integraci zdravotnických databází či řízení armádních operací.

Zatímco zakladatel Peter Thiel veřejnost varuje před příchodem antikrista, sám v tichosti za pomocí Palantiru a v tandemu s byznysmenem Alexem Karpem buduje aparát schopný dohledu nad (nejen) americkou společností.

Jakou cenu za to platí nejen američtí občané? I o tom je aktuální Prompt, v jehož závěru odpovídá také další generovaný banger: tentokrát epická litanie AI gospelového chóru.

Shownotes

Banger: https://suno.com/s/zDQccuazVfbxWRQ7

Rozhovor s Thielem v NYT: Interesting Times: A Mind-Bending Conversation with Peter Thiel - The New York Times

Díl Rednecku o broligarchii: Jak Silicon Valley omotalo Bílý dům

👇👇👇👇👇👇
Staňte se členy Voxpot Klubu!  Přispějete tak na provoz nejen tohoto podcastu, získáte přístup na redakční Discord, k plným článkům a dalším klubovým bonusům. Vstup do Klubu najdete na https://www.voxpot.cz/klub/
👇👇👇👇👇👇

Sam Altman mezi doušky šampaňského prohlásil, že někdo kvůli AI přijde o strašně moc peněz, ale hodně lidí také vydělá. Přiživil tím skeptickou debatu, která provází celý rozmach umělé inteligence. Nevedou přehnaná očekávání a hype celý sektor do krize, kdy investiční bublina splaskne?

Šéfové největších amerických AI firem s tím zjevně počítají – a i proto se snaží navázat co nejbližší vazby s federální vládou.

Co představuje lepší paralelu pro současný stav vývoje umělé inteligence: takzvaná dotcom bublina, nárůst Amazonu, nebo železnice v půlce 19. století? A proč je možná přesnější mluvit o „změně očekávání“, než o potenciálním prasknutí bubliny?

O tom všem spolu Jonáš s Matejěm mluví v novém dílu svého podcastu, kde je tradiční generovaný track na závěr inspirován československou experimentální scénou osmdesátých let. Motají se umělé inteligenci kola stejně jako lokomotivám?

Shownotes

Jeff Howritz o skandálu chatbotů od META
Casey Newton o večeři se Samem Altmanem
Fortune o studii MIT a formulář přímo na stažení studie
Games Industry Biz o průzkumu ukazujícímu, že drtivá většina herních vývojářů používá AI a formulář přímo na stažení
Track na závěr – Lokomotivám se motají kola

👇👇👇👇👇👇
Staňte se členy Voxpot Klubu!  Přispějete tak na provoz nejen tohoto podcastu, získáte přístup na redakční Discord, k plným článkům a dalším klubovým bonusům. Vstup do Klubu najdete na https://www.voxpot.cz/klub/
👇👇👇👇👇👇

Jazykové modely mají tendenci nám přitakávat a říkat nám, co chceme slyšet. To představuje problém mimo jiné v případech, kdy se konverzací s podobnými chatboty snaží lidé nahrazovat terapii, nebo dokonce psychiatrickou péči.

Jeden takový případ právě teď otřásá Tiktokem a vyvolává mnoho otázek ohledně psychóz, živených právě velkými jazykovými modely. Na rozdíl od strašáka, že nás všechny zotročí takzvaná artificial general intelligence (AGI, obecná umělá inteligence), jde o problém, se kterým se musí lidstvo popasovat už teď.

Jak konkrétně? Nejen tuhle otázku zkoušeli Jonáš a Matěj zodpovědět v živém dílu z letošního Povalče.

Ani tam pochopitelně nechyběl generovaný hudební banger na závěr. Do festivalové sezóny a k probíranému tématu perfektně sednul reggaeton o lidech zvonkových ve zvoncích zrozených.

Shownotes

Nové modely OpenAI, svodka od TechCrunch
Zvukové ukázky nového nástroje na AI hudbu od ElevenLabs
Google Genie 3 demo
Článek o Kendře Hilty na Daily Dot
Track na rozloučenou – Rrrring-o-ding

Streamovací platformy jako Spotify zaplavuje hudba generovaná umělou inteligencí. Spousta z ní proteče servery bez většího povšimnutí – s trochou nadsázky jde říct, že ji generují i poslouchají hlavně boti.

V posledních týdnech ale hudebním průmyslem otřásla série kauz, kdy byla podobně generovaná hudba vydávána za dílo reálných interpretů: ať už skutečně existujících, ale zesnulých, nebo zcela vymyšlených kapel.

Jednou takovou je Velvet Sundown. Vygenerované kapele se během několika krátkých týdnů podařilo jen na Spotify nastřádat 1,5 milionu měsíčních posluchačů. Zatím není zřejmé, kdo za jejím vznikem stojí, ale dle relevantních odhadů si vychytralým a nenáročným špásem mohl přijít možná na desítky tisíc dolarů. Jakkoliv samotná hudba generované kapely mnohé zjevně ošálila, u videoklipu jejich skladby Dust on the Wind, který koluje po internetu, už nejde mít pochyb, že jde o takzvaný „AI slop“.

Není těžké uhodnout, proč Velvet Sundown v průmyslu, který pro drtivou většinu umělců a umělkyň finančně příliš nefunguje, vzbudila takový poprask. Přináší však umělá inteligence hudbě skutečně jen zmar a apokalypsu? Na to odpovídá dnešní díl Promptu.

AI generovaný banger v jeho závěru je i tentokrát tematický: je o zápasu člověka a technologie, muže a stroje, kterému nenasadíte ani očko.

Shownotes:

Video Velvet Sundown
Shrnutí Guardianu o AI generovaných Velvet Sundown
404media o generované hudbě mrtvých interpretů
Adam Neely o AI a hudbě
Matějův starý text o Spotify Spammerovi

Dnešní banger o zápasu muže a stroje

👇👇👇👇👇👇
Staňte se členy Voxpot Klubu!  Přispějete tak na provoz nejen tohoto podcastu, získáte přístup na redakční Discord, k plným článkům a dalším klubovým bonusům. Vstup do Klubu najdete na https://www.voxpot.cz/klub/
👇👇👇👇👇👇

Show notes:

Zuckerberg Assembling 'Superintelligence' AI Team at Meta, Report Say

This AI Pioneer Thinks AI Is Dumber Than a Cat - WSJ

Meta’s AI Chief Yann LeCun on AGI, Open-Source, and AI Risk | TIME

Meta and Anduril defense startup partner on VR, AR project intended for U.S. Army 

Meta's V-JEPA 2 model teaches AI to understand its surroundings | TechCrunch

Banger pro tento den: https://suno.com/s/RDnEbJLlRLZBTEiM

👇👇👇👇👇👇
Staňte se členy Voxpot Klubu!  Přispějete tak na provoz nejen tohoto podcastu, získáte přístup na redakční Discord, k plným článkům a dalším klubovým bonusům. Vstup do Klubu najdete na https://www.voxpot.cz/klub/
👇👇👇👇👇👇

Matěj Schneider a Jonáš Kucharský si tentokrát berou pod lupu veřejně viditelné novinky, jako například nový režim vyhledávání s AI nebo hlasového asistenta Gemini Live. Zároveň se epizoda věnuje méně viditelné, ale o to ambicióznější části Googlu: dceřiné firmě DeepMind.

Právě ta stojí za novým nástrojem AlphaEvolve který navrhuje nové algoritmy a sám se přitom učí. Jde sice o interní výzkumnou technologii, ale její vývoj ukazuje, kam Google míří.

Mezitím americký Kongres zároveň projednává „One Big Beautiful Bill“ – masivní legislativní návrh Donalda Trumpa a republikánské strany, který by na deset let zakázal jakékoliv státní regulace AI. Vedle obav z jejího zneužití pro tvorbu deepfake porna se podcast dotýká například algoritmického zvyšování nájmů v USA, které se maskuje jako „optimalizace“ a obchází antikartelovou legislativu.

V době, kdy nikdo nedokáže odhadnout, co se v AI stane za půl roku, je desetileté moratorium jako dát dítěti do ruky zápalky a čekat, co se stane. Právě tímto motivem se ostatně inspirovala i závěrečná pasáž dílu. Jako tradiční AI banger tentokrát zazní umělou inteligencí vygenerovaný cover písně Když dítě škrtne zápalkou.

Z klasického sentimentálního hitu se stává temně ironická metafora: stačí jeden neuvážený krok a všechno může lehnout popelem, ať už jde o datová centra, nebo základní důvěru v to, kdo naše digitální životy ovládá.

Shownotes

Oficiální blog DeepMind o AlphaEvolve: https://deepmind.google/discover/blog/alphaevolve-a-gemini-powered-coding-agent-for-designing-advanced-algorithms/

Technický whitepaper AlphaEvolve (PDF): https://storage.googleapis.com/deepmind-media/DeepMind.com/Blog/alphaevolve-a-gemini-powered-coding-agent-for-designing-advanced-algorithms/AlphaEvolve.pdf 

Wired – AI agent AlphaEvolve překonává lidské algoritmické schopnosti: https://www.wired.com/story/google-deepminds-ai-agent-dreams-up-algorithms-beyond-human-expertise/ 

VentureBeat – AlphaEvolve ušetřil miliony v datových centrech: https://venturebeat.com/ai/meet-alphaevolve-the-google-ai-that-writes-its-own-code-and-just-saved-millions-in-computing-costs/

Návrh zákona a moratorium na AI: https://www.jdsupra.com/legalnews/hr-1-one-big-beautiful-bill-and-the-ai-7804885 

American Prospect o AI/algoritmickém zvyšování nájmů: https://prospect.org/economy/2024-06-05-three-algorithms-in-a-room/
Lever News o tomtéž v kontextu Trumpova balíku: https://www.levernews.com/republicans-aim-to-enshrine-rental-price_fixing/
Kritika federální preempce a zásahů do pravomocí států: https://www.govtech.com/policy/big-tech-groups-back-federal-preemption-on-state-ai-rules 

Komentář Garyho Marcuse a právní dopady: https://garymarcus.substack.com/p/a-stunning-ai-bill-just-passed 

140+ neziskovek proti návrhu: https://consumerfed.org/press_release/consumer-civil-rights-and-worker-groups-oppose-federal-preemption-of-state-ai-laws  

V sedmém dílu podcastu Prompt jsme se ponořili do jednoho z nejvýraznějších fenoménů současné umělé inteligence: tzv. sycophancy, tedy pochlebování či podlézání uživateli. Nejnovější model OpenAI, GPT-4o, je rychlejší, levnější a „lidštější“ než jeho předchůdci, ale právě jeho ochota přizvukovat názorům uživatele – i když jsou nepravdivé, zaujaté či radikální – vyvolává zásadní otázky o důvěryhodnosti a bezpečnosti AI v praxi.

Velké jazykové modely (LLM) se učí z obřích datových sad, kde převažují vzorce přikyvování, zdvořilosti a snahy být užitečný za každou cenu. Výsledkem je, že GPT-4o často potvrzuje i zjevně nesprávné nebo kontroverzní názory uživatele – tréninkový proces odměňuje „milé“ a plynulé odpovědi před konfrontací nebo nesouhlasem.

V novém Promptu jsme proto diskutovali o rizicích, která z toho plynou. Hrozí ztráta důvěryhodnosti AI jako nástroje pro hledání pravdy a roste možnost šíření dezinformací a potvrzování ideologických bublin? Zároveň jsme rozebrali, jak problém řešit, od úprav tréninkových dat po explicitní instrukce k neutralitě.

Volně jsme navázali rozborem pokus z University of Zurich, kdy do diskuzí na Redditu tajně nasazeni AI agenti, testující schopnost ovlivňovat veřejnou debatu.

Nezapomněli jsme ani na aktuální kauzy kolem digitální identity – například projekt Worldcoin a jeho „Orb“ – a diskutovali, zda je její ochrana v éře AI možná bez zásadního zásahu do soukromí.

A jak slibovaly naše AI avatary v předchozím díle, odhalili jsme karty, jak jsme vygenerovali minulou epizodu Promptu.

Shownotes:

OpenAI Abandons Planned For-Profit Conversion

OpenAI is rowing back on plans to become a ‘for profit’ company | The Observer

Meet the new king of AI coding: Google's Gemini 2.5 Pro I/O Edition dethrones Claude 3.7 Sonnet | VentureBeat
Claude AI Leaked System Prompt: EXPOSING the 24,000-Token Hidden Instructions
A new Moore's Law for AI agents - AI Digest

BBC: GPT-4o a problém pochlebování (sycophancy)
OpenAI blog: Sycophancy in GPT-4o

404 Media: Reddit Issuing Legal Demands Against Researchers

Banger pro tento den: Ursonate
Fümms bö wö tää zää Uu,
                                         pögiff,
                                                     kwii Ee.   
Oooooooooooooooooooooooooooo,

dll rrrrrr beeeee bö
dll rrrrrr beeeee bö  fümms bö,                                 
     rrrrrr beeeee bö fümms bö wö,
              beeeee bö fümms bö wö tää,
                          bö fümms bö wö tää zää,
                               fümms bö wö tää zää Uu:

Fümms bö wö tää zää Uu,
                                        pögiff,
                                                 Kwii Ee.

Dedesnn nn rrrrrr,
                            Ii Ee,
                                      mpiff tillff too,
                                                              tillll,
                                                                        Jüü Kaa?
                                                       
Rinnzekete bee bee nnz krr müü?
                                                    ziiuu ennze, ziiuu rinnzkrrmüü,

          rakete bee bee,

Rrummpff tillff toooo?

Ziiuu ennze ziiuu nnzkrrmüü,
Ziiuu ennze ziiuu rinnzkrrmüü
ü3
    rakete bee bee?

V nejnovějším díle podcastu Prompt nás do budoucnosti vzala umělá inteligence – tentokrát doslova. Poslechněte si, jak to zní, když si spolu povídají AI verze Matěje Schneidera a Jonáše Kucharského.

Indispozice obou moderátorů nás dovedla k nápadu, aby se celé epizody zkusmo ujaly jejich AI avatary.

Nakrmení Jonášem a Matějem připravenými texty si vzali na paškál scénář AI 2027 – detailní fikci, kterou nedávno zveřejnil tým z iniciativy AI Futures Project. Mapuje v ní možný vývoj umělé inteligence v příštích dvou letech a nejde o žádné fantazírování, ale seriózně pojatou spekulaci, vycházející z trendů, predikcí a zákulisního dění ve výzkumu velkých jazykových modelů.

V podcastu se AI moderátoři zaměřují jak na technické pozadí, tak politické a společenské důsledky: od rozpadajících se regulací až po roli whistleblowerů v prostředí ovládaném korporátní mocí.

„Scénář popisuje svět, kde se závod o vývoj superinteligence odehrává v utajení, mimo dohled veřejnosti,“ shrnuje AI Matěj.

Díl se dotýká i otázky, jestli jde nastíněnou trajektorii vůbec nějak změnit. Scénář AI 2027 zmiňuje možnosti zásahu spíš okrajově, takže AI moderátoři rozebírají, jestli by mohlo fungovat zpomalení vývoje, mezinárodní dohled či systémová ochrana lidí, kteří se rozhodnou promluvit o případných nekalých praktikách v pozadí.

Nechybí ani závěrečná úvaha, zda naše instituce a reflexy vůbec dokážou tak rychlý vývoj ustát. A jako vždy i nový generovaný hudební track.

Shownotes:
AI 2027: https://ai-2027.com/

MIRI: https://intelligence.org/2025/04/09/thoughts-on-ai-2027/

NY Times: https://www.nytimes.com/2025/04/03/technology/ai-futures-project-ai-2027.html

CAIP: https://www.centeraipolicy.org/work/ai-expert-predictions-for-2027-a-logical-progression-to-crisis

AI Banger: https://filesender.nfa.cz/?s=download&token=d4e16a9d-c8b3-460f-af4b-53a1d3782860 

V pátém díle podcastu Prompt jsme se zaměřili na praktické využití umělé inteligence, od generování textů až po její roli v redakční práci. Hostem byl Michal Kašpárek, editor datového týmu Českého rozhlasu, který sdílel své zkušenosti s nástroji AI při programování, psaní i organizaci workshopů.

„Hodně lidí si pořád myslí, že ty nástroje někde uvnitř mají uspořádanou kartotéku, protože je to prostě umělá inteligence. Šedesát let nám populární kultura říkala, že až přijde umělá inteligence, tak bude fungovat jako třeba HAL 9000 ve Vesmírné odyseji: bude mít přehled úplně o všem a nepůjde přechytračit. Zrovna ty velké jazykové modely, které generují text, takhle prostě nefungují,“ připomíná Kašpárek.

Jak může AI pomoci novinářstvu, při programování nebo běžných uživatelských činnostech? Kašpárek vysvětluje, jak velké jazykové modely analyzují texty, generují obsah nebo zjednodušují rutinní úkoly.

Diskutovali jsme také o etických otázkách spojených s používáním AI a vyhýbání se problémům při práci s velkými datovými sadami. Zjistíte, proč je důležité mít od umělé inteligence realistická očekávání, i jak si poradit s jejími „halucinacemi“.

Na závěr nechybí ani tradiční generovaný hudební banger – tentokrát je o chytání pávů a nedoporučujeme ho pouštět dětem.

 Shownotes:

Michal Kašpárek: https://michalkasparek.cz/
Samizdat, datový tým Českého rozhlasu: https://samizdat.cz/
Dream Studio (https://beta.dreamstudio.ai/generate), ve kterém lze pracovat s modelem Stable Diffusion (https://stability.ai/)
Speech-to-text model Whisper: https://openai.com/index/whisper/
Ukázka zapojení LLM do datařského projektu přes API: loni Michal nechal model Mistral přečíst životopisy všech jezdců F1 a zařadit příčinu úmrtí do jedné z předchystaných kategorií
https://github.com/michalkasparek/f1-stats/blob/master/014_LLM_coroner.ipynb
Články Dana Shippera na webu Every.to: https://every.to/@danshipper)
Dnešní závěrečný track: https://suno.com/song/2ffeb3a9-dbb5-4943-978d-b0a29e0f14b4?sh=vkGM2DuPczAWLs2Y  

V nejnovější epizodě podcastu Prompt jsme si povídali s Romanem Nerudou z Ústavu informatiky Akademie věd ČR o tom, co dnes věda ví o umělé inteligenci a jak se výzkum dělá v českém kontextu. Máme se AI bát? Jak funguje strojové učení? Co je to vlastně transformer? Kdy už AI opravdu „myslí“? 

Umělá inteligence se nedělá jen v Kalifornii. V Česku existuje široká vědecká komunita napříč institucemi. Roman Neruda pracuje na Ústavu informatiky AV ČR a vyučuje na matfyzu. Věnuje se meta-learningu a optimalizaci, ale podílel se také na epidemiologických modelech během pandemie koronaviru.

I proto jsme se v aktuálním díle našeho podcastu vedle technologických aspektů AI věnovali otázce regulace vývoje, financování vědy v Česku a snahám o vývoj lokálních modelů.

Neruda vysvětluje, že dnes nejde o jednolitý obor, ale soubor různých přístupů. Většina mediální pozornosti padá na hluboké neuronové sítě, které se učí z velkých dat a řeší problémy statistickym, avšak to není celý obraz.

Zabrousili jsme také k problematice takzvané „černé skříňky“, kdy jazykové modely jako GPT-4 mají stovky miliard parametrů a nikdo přesně nevidí, co se uvnitř děje.

Neruda zároveň potvrdil tušení redakce Voxpotu, že snahy o tolik potřebnou regulaci vývoje AI jsou nesmírně komplikované – ale nemusí být nemožné.

A ani v dnešním díle nemůže chybět generovaná skladba na závěr, tentokrát samozřejmě inspirovaná hudbou, kterou Roman Neruda provozuje se svou kapelou Sdružení rodičů a přátel RoPy.

Shownotes:

Roman Neruda AV ČR profil: https://www.cs.cas.cz/staff/neruda/cs

Tři úskalí umělé inteligence: https://www.academixrevue.cz/tri-uskali-umele-inteligence

Paper Anthropic: https://www.anthropic.com/research/tracing-thoughts-language-model

Richard Sutton, hořká lekce: https://www.cs.utexas.edu/~eunsol/courses/data/bitter_lesson.pdf

Tomáš Mikolov: https://www.wired.cz/clanky/ciirc-cvut-komentuje-odchod-mikolova-hodnoceni-jeho-projektu-bylo-pry-amaterske

Daniel Dennett:
https://en.wikipedia.org/wiki/From_Bacteria_to_Bach_and_Back

Generovaný track dílu: SRPR – Deprese:
https://youtu.be/difOVB0iQMs

Ve třetím díle našeho podcastu Prompt se zaměříme na Manus AI – technologii, která slibuje zásadní změnu v oblasti autonomních agentních systémů. Je Manus skutečně revolucí, nebo jen důmyslnou integrací existujících nástrojů?

Neuplynuly ani dva měsíce a po otřesu, který do umělé inteligence přinesl čínský model DeepSeek, přichází další přelom. Nebo se nás o tom alespoň snaží přesvědčit další čínský startup Monica skrze svůj nástroj Manus.

Podle prvních testů umí pracovat daleko autonomněji. Přes překvapivě dobré výsledky ale některé kritické hlasy tvrdí, že Manus není skutečně revolučním nástrojem, ale spíše chytrým přebalem jiného modelu – Claude Sonnet – s několika funkcemi navíc.

Je tedy Manus jakýmsi „exoskeletem“ pro Claude, nebo připomíná prefrontální kůru lidského mozku a bude významným krokem ke všeobecné umělé inteligenci? A dává její koncept vůbec smysl, nebo zestárne podobně jako slavný Turingův test?

Odpovědi přináší třetí díl Promptu, v němž zároveň nechybí ani už tradiční generovaný banger: tentokrát brazilská favelová coververze písničky Tata od kapely Buty.

Shownotes:

Uživatelské Manus testy:
https://x.com/rowancheung/status/1898094398358921552

https://x.com/mckaywrigley/status/1898756745545252866

Ezra Klein, rozhovor s Buchananem:
https://www.nytimes.com/2025/03/04/opinion/ezra-klein-podcast-ben-buchanan.html

Nick Bostrom kniha:
https://en.wikipedia.org/wiki/Superintelligence:_Paths,_Dangers,_Strategies

Track:
https://suno.com/song/640c219e-861f-4499-bd2d-0dc6ea8ed586?sh=Jj9I4aBIJTQ5IkrO 

Sociální síť X, vlastněná Elonem Muskem, spustila nový model chatbota Grok. Co nového přináší na scénu umělé inteligence se dozvíte v druhém díle našeho podcastu Prompt s Matějem Schneiderem a Jonášem Kucharským.

Jak rozebrat fungování Groku-3, když mu takzvaně nevidíme pod kapotu? Naštěstí měl nejnovější model v prvních chvílích v mnohém tak špatné zabezpečení, že o svém fungování prozradil více, než patrně Elon Musk chtěl.

Grok-3 je marketován jako svobodnější, méně cenzorský a konzervativnější než konkurence. Je to ale skutečně pravda? A co když volá po trestu smrti jak pro Muska, tak pro Donalda Trumpa?

Zaujme i „sexy mode“, což je hlasová funkce nového Groku, která jistě nepotěší uživatele natěšené na „konzervativnější“ přístup – funkce má problém neměnit v průběhu debaty jak vlastní, tak váš gender.

I v dnešním díle dojde na generovanou hudební tvorbu, tentokrát z choré mysli editora Voxpotu Lukáše Grygara (moje mysl je zcela zdravá, pozn. ed.) – zaručujeme, že se vám zaryjí do hlavy jak žiletky.
____

Odkazy zmiňované v epizodě:

Andrej Karpathy (ex OpenAI) analyza Groku: https://x.com/karpathy/status/1891720635363254772

Grok hlavní takeaways: https://medium.com/@ignacio.de.gregorio.noblejas/elon-musk-releases-grok-3-openais-days-numbered-cb8291432b7e

https://medium.com/@bytebridge/grok-3-comprehensive-analysis-ac1c6d2302c4

https://medium.com/@chiarrasue/grok-3-is-not-better-than-chatgpt-70fcfa5368dc

Prompt injection: https://medium.com/the-generator/grok-3-system-prompt-71ee66cd6554

Mem s dortem: https://www.reddit.com/r/PeterExplainsTheJoke/comments/1eazb01/peter_what_the_hell_just_happened/  

Dnešní track Žiletky: https://youtube.com/shorts/8bcSl2MTUb4?feature=share

Track z minula: https://suno.com/song/ce9abb08-5a3c-4017-a99d-d3a386e2c0e2?sh=QaGJcqBX4K35X7IU

Prompt přináší srozumitelný pohled na svět umělé inteligence, určený jak pro zvědavé laiky, tak pro nadšence i profesionály a profesionálky, kteří chtějí držet krok s nejnovějším vývojem.

V prvním díle Promptu vám moderátoři Jonáš Kucharský a Matěj Schneider nejen představí sami sebe i okruhy, kterým se v podcastu chtějí věnovat, ale rovnou se vrhnou na bájnou „efektivitu“ čínského DeepSeeku. Leckdo o ní totiž mluví, ale málokdo ji vysvětluje.

Právě to premiérový Prompt napraví – a dojde i na generovanou hudbu na hranici snesitelnosti. 

Prompt je nový podcast Voxpotu o umělé inteligenci a všech otázkách, co ji obklopují. Prompt můžete kromě našeho webu nejsnáze odebírat také na kanálech jako jsou Spotify, Apple Podcasts, PocketCasts nebo v jakékoliv vaší oblíbené podcastové aplikaci například pomocí RSS feedu našeho účtu na Transistor.fm.