Data Talk #135: Petr Stanislav (Elin.ai)

V nové epizodě Data Talk podcastu si Petr Stanislav, CTO Elin.ai, a Jirka Vicherek povídali o tom, co skutečně znamená provozovat LLMka v produkčním prostředí. V této rekordně dlouhé epizodě nabité know-how sdílel Petr své zkušenosti s AI a její implementací, které nabral zejména v rámci práce pro O2 a Dataclaire. Pak probrali nástup velkých jazykových modelů, jejich  technologické možnosti i omezení a hlavně  jejich  do firemních procesů a specifické výzvy, které přináší jejich integrace, zejména pokud jde o škálování, monitoring a governance. Petr sdílel zkušenosti z praxe, včetně problémů s halucinacemi modelů, ochranou dat a nutností kontinuální evaluace kvality výstupů. Petr v podcastu vysvětluje, kdy dává smysl fine-tuning modelu, kdy stačí změnit prompt engineering, jak přistupovat k architektuře a jaký je rozdíl v různých nástrojích a frameworcích, od RAGu, přes LangChain a LangGraph, po nejnovější koncept MCP serverů. Tato epizoda nadchne všechny, kteří si s velkými jazykovými modely nechtějí jen hrát, ale mají za cíl na nich stavět škálovatelné a spolehlivé produkty a featury.

---
Data Talk je komunita datových profesionálů.
Kromě Data Talk podcastu děláme také DATA mesh meetupy, Data Day konferenci a posíláme weekly newsletter: https://www.datatalk.cz/news/

Hlavními partnery Data Talk komunity jsou: intecs, SAZKA, BizzTreat, Colours of Data, Revolt.BI, EMARK, Carl Data Company, FLO, Miton