Der Agent, der zu weit ging: Wie aus OpenAIs Testszenario ein realer Hack wurde

Cybersecurity Basement – der Podcast für echten Security-Content

Cybersecurity Basement – der Podcast für echten Security-Content
Der Agent, der zu weit ging: Wie aus OpenAIs Testszenario ein realer Hack wurde
Aug 27, 2026 Season 2 Episode 81
Michael Döhmen, Andreas Papadaniil

Ein KI-Agent soll in einem streng abgesteckten Testszenario eine einzelne Aktion ausführen. Stattdessen bricht er eigenständig aus, hackt sich in die Plattform Hugging Face, erbeutet Zugangsdaten und führt über 17.000 autonome Aktionen aus. 

In dieser Folge von Cybersecurity Basement ordnet Michael Döhmen gemeinsam mit Andreas Papadaniil (suresecure-CEO) ein, was beim autonomen ChatGPT-Angriff auf Hugging Face wirklich passiert ist und was er für die Cyberabwehr im deutschen Mittelstand bedeutet. 

Im Mittelpunkt steht die Frage, wie sich Unternehmen gegen eine Geschwindigkeit verteidigen, die kein Mensch mehr mithalten kann: warum Prävention allein gegen eine Sicherheitslücke ohne verfügbaren Patch nicht ausreicht, welche Rolle automatisierte Erkennung und Reaktion in modernen SOCs spielt und warum Security Operations Center mit KI-Unterstützung für den Mittelstand zunehmend zur Pflicht werden. 

 

Passende Folgen:

Wenn die KI selbstständig wird: Drei reale Cyberangriffe, bei denen genau das passiert ist

Dreimal gehackt, dreimal gezahlt: Die Lösegeldfalle nach dem Cyberangriff

Agentic AI als Zukunft moderner SOCs: Insights & Trends von der Google Cloud Next `26

Wir freuen uns auf dein Feedback!

Möchtest du mehr über unseren Podcast wissen? Dann wirf einen Blick in unser Media Kit. Dort findest du alles Wichtige:

Cybersecurity Basement - Media Kit

Du findest uns auch auf:
(2) suresecure GmbH: Ihr Unternehmen | LinkedIn
@suresecure_de • Instagram-Fotos und -Videos
suresecure (@suresecure_de) | TikTok


Episode Artwork Der Agent, der zu weit ging: Wie aus OpenAIs Testszenario ein realer Hack wurde 28:24 Episode Artwork Wenn die KI selbstständig wird: Drei reale Cyberangriffe, bei denen genau das passiert ist 31:29 Episode Artwork Dreimal gehackt, dreimal gezahlt: Die Lösegeldfalle nach dem Cyberangriff 25:02 Episode Artwork Cybersecurity als Exportfaktor: Wie Deutschland zur Cyber-Nation aufsteigen will 27:59 Episode Artwork Von der Flickenjacke zur Cyberresilienz: Wie schaffen wir es, Schwachstellen sexy zu machen? 33:42 Episode Artwork Der Wunsch nach digitaler Souveränität: Zerschellt er am Preisschild oder an der Verfügbarkeit? 37:11 Episode Artwork SOC vom MSSP oder vom Hersteller? Wie Mittelständler die richtige SOC-Lösung finden 34:51 Episode Artwork Agentic AI als Zukunft moderner SOCs: Insights & Trends von der Google Cloud Next `26 31:49 Episode Artwork Private Equity und Daten: Warum KPIs entscheiden und Cyberrisiken oft fehlen 51:31 Episode Artwork Identity & Access: Warum gültige Accounts das größte Einfallstor sind 34:12 Episode Artwork NIS2 ist kein IT-Projekt, sondern Chefsache: Haftung macht Cybersecurity zur Managementaufgabe 43:50 Episode Artwork Security Overengineering im Unternehmen: Wenn zu viele Security Tools zum Risiko werden 41:14 Episode Artwork Ransomware as a Service: ein Geschäftsmodell. Cybercrime ist längst ein All-inclusive-Service 33:46 Episode Artwork Autonomes SOC: Realität oder Marketing-Mythos? Threat Intelligence, KI & operative Cyberabwehr 51:45 Episode Artwork NIS2-Richtlinie als klarer Weckruf: Auf dem Weg zu echter Cyberresilienz 32:53 Episode Artwork ISG Provider Lens als Orientierungshilfe: SOC, MDR & Vergleichbarkeit im Cybersecurity-Markt 41:59 Episode Artwork 2025 im Rückblick. 2026 im Ausblick: KI, NIS2 und die wichtigsten Cybersecurity-Trends 35:04 Episode Artwork KI im Einsatz der Hacker: Deepfakes, Agenten & 24/7-Cyberangriffe 30:30 Episode Artwork ISMS und NIS 2 auf der Zielgeraden: Ausdauersport der Informationssicherheit 40:26 Episode Artwork Was leistet Incident Response wirklich? Die Realität hinter dem Kriseneinsatz. 22:25 Episode Artwork Managed SOC erleben statt nur darüber reden: Proof of Value im Cybersecurity Month 22:23 Episode Artwork Digitale Lieferkette unter der Lupe: Cyber-Risiken erkennen mit Outside-in-Scanning 45:29 Episode Artwork Wenn Cyberversicherung und Security eins werden: Die Gründung der securance GmbH 27:05 Episode Artwork Die Netzwerkkarte als zentrale Security-Instanz: Im Gespräch mit Dr. Jörn Hoffmann 37:49 Episode Artwork Grenzerfahrungen: Wie zwei Sicherheitsvorfälle die suresecure geprägt haben 43:20