Ozvěny umělé inteligence: Rekurzivní trénování, kolaps a transparentnost AI
Přednáška Maty Boháčka, která se konala 1. října 2025 na Filozofické fakultě Masarykovy univerzity ukázala, proč ChatGPT není budoucností – a co přijde potom.
ChatGPT je všude. Píše eseje, generuje obrázky, pomáhá s kódem. Ale pokud jde o skutečnou sílu umělé inteligence, je jen začátkem příběhu. Maty Boháček, výzkumník v oblasti AI, ve své přednášce na brněnské filozofické fakultě osvětlil tři zásadní věci: kam se AI posouvá, proč jí dochází "palivo" a jak můžeme nahlédnout pod její kapotu. A především – proč bychom při tom všem neměli ztratit vlastní schopnost myslet.
Za ChatGPT: Éra uvažující AI
Současná umělá inteligence se dělí do dvou táborů. Analytická AI řeší jeden konkrétní problém a to třeba předpovídá počasí, optimalizuje logistiku, predikuje strukturu proteinů. Generativní AI, kterou známe z ChatGPT nebo DALL-E, vytváří nový obsah jako text, obrázky, hudbu.
Ale největší revoluce se odehrává právě teď: tyto dva světy se spojují do agentické AI (Reasoning AI).
Co dělá agentickou AI výjimečnou?
Představte si, že řeknete AI: "Udělej mi denní rozpočet." Klasický ChatGPT by vám nabídnul obecné rady. Agentická AI udělá něco jiného:
Sama si naprogramuje kód pro analýzu
Vytáhne data z vašeho kalendáře
Vyhledá ceny obědů v restauracích poblíž vašich schůzek
Sečte vše a vytvoří konkrétní rozpočet
Funguje jako operační systém, který propojuje různé funkce a samostatně plánuje kroky. Nejen generuje odpovědi, ale vykonává komplexní úkoly nezávisle.
Fascinující je, že tato schopnost uvažovat se v modelech objevuje i emergentně tzn., bez explicitního učení. Modely dokázaly samy vyřešit labyrinty, aniž by k tomu byly trénovány. Dnes už tyto systémy soutěží na úrovni Mezinárodní matematické olympiády.
Paradox hladu: Internet je vyčerpaný
A tady přichází problém.
Vědci zjistili něco znepokojivého: data z internetu, na kterých se AI trenuje, jsou vyčerpaná. Není jich dostatek pro další generaci modelů. A když výzkumníci zkusili tuto mezeru zaplnit obsahem generovaným samotnou AI, stalo se něco neočekávaného.
Modely začaly kolabovat.
Když se AI učí z obsahu vytvořeného jinou AI, z nekvalitních, syntetických dat, klesá kvalita výstupů i diverzita. Je to jako dělat kopie kopií. Každá generace je horší než ta předchozí.
Kvalita, ne kvantita
Zlomový objev však zní: Není to o originalitě dat, ale o jejich kvalitě.
Pokud jsou syntetická data kvalitní, moděly mohou dokonce zlepšit svůj výkon. Příklad: model na rozpoznávání aktivit ve videu se díky kvalitním syntetickým datům zlepšil z 20% na 51% úspěšnosti.
AI je otázkou kvality dat a správné architektury. Ne množství obsahu na internetu.
Černá skříňka? Ne tak úplně
"AI je černá skříňka, které nerozumíme" tuto větu slyšíte pořád. Ale je to pravda?
Maty Boháček ukázal, že existují metody, jak AI auditovat a porozumět jejímu vnitřnímu fungování. AI nepracuje s textem či obrázky přímo, ale převádí je do vektorových reprezentací – koncepty s podobným významem se v tomto abstraktním prostoru shlukují blízko sebe.
Co to umožňuje?
1. Detekovat krádeže dat
Pokud byl něčí obrázek použit pro trénování modelu, AI si ho pamatuje. Při generování s referencí má tendenci tento obrázek reprodukovat téměř identicky. Výzkumníci vyvinuli metodu, která dokáže s více než 90% úspěšností zjistit, zda byl konkrétní obrázek nelegálně použit pro trénování.
2. Najít "slepá místa" AI
Zkoumáním vnitřních reprezentací (epitomů) lze zjistit, co se model skutečně naučil. Ukázalo se, že existují překvapivé mezery: modely selhávají při generování věcí, které viděly v trénovacích datech tisíckrát.
Příklady? Banán na oranžovém pozadí. Čistě černá obrazovka. Prostě to nedokážou.
Neztrácejme vlastní agency
Maty Boháček zakončil přednášku zásadním apelem: Neztrácejte kritické myšlení a vlastní uvažování.
AI systémy nejsou mystické nástroje, kterým nemůžeme porozumět. Jsou auditovatelné, interpretovatelné. Jen to vyžaduje práci a výzkum, který teprve začíná.
Nenechme si vzít schopnost myslet. AI je nástroj, který může rozšířit naše možnosti, ale pouze pokud si zachováme kritický odstup a vlastní agency.