Untertitel

Zu Gast: Dr. Tobias Wirth, Leiter des Transferlabors Innere Sicherheit am DFKI

Beschreibung

Mit Tobias Wirth haben wir über die (Un-)Sicherheit von LLMs und KI Anwendungen in Sicherheitsbehörden gesprochen. Er ist Themenfeldleiter für generative und transparente KI im Forschungsbereich smarte Daten- und Wissensdienste am DFKI und leitet das Transferlabor KI-Forschung für die Polizei KI4POL.

Im Gespräch geht es um Möglichkeiten, LLMs auszutricksen, darum, wie Sicherheitsbehörden sich gegen die größten Angriffsvektoren schützen können und darum, was wir daraus auch auf den Alltag außerhalb von Sicherheitsbehörden lernen können.

Links

Dr. Tobias Wirth (DFKI)

Dr. Tobias Wirth (LinkedIn)

BSI-Publikationen

BSI: Generative KI-Modelle – Chancen und Risiken für Industrie und Behörden (PDF)

BSI: Evasion-Angriffe auf LLMs – Gegenmaßnahmen (PDF)

Sicherheit und Schwachstellen

Malwarebytes: ChatGPT Deep Research Zero-Click Vulnerability

OWASP Top 10 for Large Language Model Applications

Agentic LLM Vulnerabilities (arXiv, Stanford HAI)

Tools und Ressourcen

GARAK – LLM Vulnerability Scanner

JailbreakChat (GitHub)

Prompt Injection in the Wild (Kaggle Dataset)

Podcast App Empfehlungen

Unsere Kapitelbilder könnt ihr mit einer guten Podcast App sehen. Zum Beispiel mit:

Antenna Pod (Android)

Pocket Casts (Android & iOS)

Overcast (iOS)

Die Sicherheits_lücke im Netz

Abonniere Die Sicherheits_lücke überall, wo es Podcasts gibt, oder über unsere Website: https://www.sicherheitsluecke.fm

Die Sicherheits_lücke bei Mastodon

Die Sicherheits_lücke bei LinkedIn

Die Sicherheits_lücke bei Pixelfed

Feedback oder Kritik? Wünsche? Schreib uns: post@sicherheitsluecke.fm

Die Sicherheits_lücke ist ein Podcast der Hamburg Open Online University (HOOU).

Monina Schwarz, LSI Bayern

Ingo Timm beim DFKI

Volker Skwarek an der HAW Hamburg

Produktion und Musik: Christian Friedrich

Das in dieser Episode verwendete Bildmaterial steht unter der Lizenz CC-BY 4.0, Urheberin ist Anne Vogt.

Podcast Design: Anne Vogt

Was wäre, wenn wirtschaftlicher Erfolg nicht am Gewinn gemessen würde, sondern daran, wie sehr ein Unternehmen Menschen, Gesellschaft und Umwelt stärkt? Genau das ist die Idee der Gemeinwohl-Ökonomie (GWÖ) – ein Wirtschaftsmodell, das Kooperation statt Konkurrenz in den Mittelpunkt stellt. Und darum geht’s bei unserem 2. Learning Circle der HAW Hamburg.

 

Ab März tauchen wir gemeinsam tiefer in die GWÖ ein: Wir erkunden Praxisbeispiele, diskutieren Ideen und entwickeln vielleicht sogar eigene Bildungsangebote dazu.

Neugierig aufs Thema? Dann bringt eure Fragen mit – wir finden zusammen Antworten. Unser Learning Circle lebt davon, als feste Runde zusammenzukommen, die über mehrere Wochen zusammenwächst und das Thema von allen Seiten beleuchtet.

 

Unsere acht Termine von März bis Juni:

– 02.03.

– 16.03.

– 30.03.

– 13.04.

– 27.04.

– 11.05.

– 08.06.

– 15.06.

 

Alle Treffen finden in der in den Räumen der HOOU an der HAW Hamburg in der Jungestraße 10, 6. OG, statt. Da Learning Circles von wiederkehrenden Begegnungen leben, freuen wir uns, wenn möglich, über deine Teilnahmen an allen Terminen. Eine genaue Uhrzeit und das detaillierte Programm veröffentlichen wir in Kürze.

 

Du willst dabei sein?

Melde dich per E-Mail an: hoou@haw-hamburg.de

 

Mehr zur Gemeinwohl-Ökonomie findest du in unserem digitalen Lernangebot.

 

Übrigens: Ende 2025 fand unser erster Learning Circle zu dem Thema statt – mit so viel positiver Resonanz, dass wir jetzt in die zweite Runde gehen!

Was wäre, wenn wirtschaftlicher Erfolg nicht am Gewinn gemessen würde, sondern daran, wie sehr ein Unternehmen Menschen, Gesellschaft und Umwelt stärkt? Genau das ist die Idee der Gemeinwohl-Ökonomie (GWÖ) – ein Wirtschaftsmodell, das Kooperation statt Konkurrenz in den Mittelpunkt stellt. Und darum geht’s bei unserem 2. Learning Circle der HAW Hamburg.

 

Ab März tauchen wir gemeinsam tiefer in die GWÖ ein: Wir erkunden Praxisbeispiele, diskutieren Ideen und entwickeln vielleicht sogar eigene Bildungsangebote dazu.

Neugierig aufs Thema? Dann bringt eure Fragen mit – wir finden zusammen Antworten. Unser Learning Circle lebt davon, als feste Runde zusammenzukommen, die über mehrere Wochen zusammenwächst und das Thema von allen Seiten beleuchtet.

 

Unsere acht Termine von März bis Juni:

– 02.03.

– 16.03.

– 30.03.

– 13.04.

– 27.04.

– 11.05.

– 08.06.

– 15.06.

 

Alle Treffen finden in der in den Räumen der HOOU an der HAW Hamburg in der Jungestraße 10, 6. OG, statt. Da Learning Circles von wiederkehrenden Begegnungen leben, freuen wir uns, wenn möglich, über deine Teilnahmen an allen Terminen. Eine genaue Uhrzeit und das detaillierte Programm veröffentlichen wir in Kürze.

 

Du willst dabei sein?

Melde dich per E-Mail an: hoou@haw-hamburg.de

 

Mehr zur Gemeinwohl-Ökonomie findest du in unserem digitalen Lernangebot.

 

Übrigens: Ende 2025 fand unser erster Learning Circle zu dem Thema statt – mit so viel positiver Resonanz, dass wir jetzt in die zweite Runde gehen!

Was wäre, wenn wirtschaftlicher Erfolg nicht am Gewinn gemessen würde, sondern daran, wie sehr ein Unternehmen Menschen, Gesellschaft und Umwelt stärkt? Genau das ist die Idee der Gemeinwohl-Ökonomie (GWÖ) – ein Wirtschaftsmodell, das Kooperation statt Konkurrenz in den Mittelpunkt stellt. Und darum geht’s bei unserem 2. Learning Circle der HAW Hamburg.

 

Ab März tauchen wir gemeinsam tiefer in die GWÖ ein: Wir erkunden Praxisbeispiele, diskutieren Ideen und entwickeln vielleicht sogar eigene Bildungsangebote dazu.

Neugierig aufs Thema? Dann bringt eure Fragen mit – wir finden zusammen Antworten. Unser Learning Circle lebt davon, als feste Runde zusammenzukommen, die über mehrere Wochen zusammenwächst und das Thema von allen Seiten beleuchtet.

 

Unsere acht Termine von März bis Juni:

– 02.03.

– 16.03.

– 30.03.

– 13.04.

– 27.04.

– 11.05.

– 08.06.

– 15.06.

 

Alle Treffen finden in der in den Räumen der HOOU an der HAW Hamburg in der Jungestraße 10, 6. OG, statt. Da Learning Circles von wiederkehrenden Begegnungen leben, freuen wir uns, wenn möglich, über deine Teilnahmen an allen Terminen. Eine genaue Uhrzeit und das detaillierte Programm veröffentlichen wir in Kürze.

 

Du willst dabei sein?

Melde dich per E-Mail an: hoou@haw-hamburg.de

 

Mehr zur Gemeinwohl-Ökonomie findest du in unserem digitalen Lernangebot.

 

Übrigens: Ende 2025 fand unser erster Learning Circle zu dem Thema statt – mit so viel positiver Resonanz, dass wir jetzt in die zweite Runde gehen!

Was wäre, wenn wirtschaftlicher Erfolg nicht am Gewinn gemessen würde, sondern daran, wie sehr ein Unternehmen Menschen, Gesellschaft und Umwelt stärkt? Genau das ist die Idee der Gemeinwohl-Ökonomie (GWÖ) – ein Wirtschaftsmodell, das Kooperation statt Konkurrenz in den Mittelpunkt stellt. Und darum geht’s bei unserem 2. Learning Circle der HAW Hamburg.

 

Ab März tauchen wir gemeinsam tiefer in die GWÖ ein: Wir erkunden Praxisbeispiele, diskutieren Ideen und entwickeln vielleicht sogar eigene Bildungsangebote dazu.

Neugierig aufs Thema? Dann bringt eure Fragen mit – wir finden zusammen Antworten. Unser Learning Circle lebt davon, als feste Runde zusammenzukommen, die über mehrere Wochen zusammenwächst und das Thema von allen Seiten beleuchtet.

 

Unsere acht Termine von März bis Juni:

– 02.03.

– 16.03.

– 30.03.

– 13.04.

– 27.04.

– 11.05.

– 08.06.

– 15.06.

 

Alle Treffen finden in der in den Räumen der HOOU an der HAW Hamburg in der Jungestraße 10, 6. OG, statt. Da Learning Circles von wiederkehrenden Begegnungen leben, freuen wir uns, wenn möglich, über deine Teilnahmen an allen Terminen. Eine genaue Uhrzeit und das detaillierte Programm veröffentlichen wir in Kürze.

 

Du willst dabei sein?

Melde dich per E-Mail an: hoou@haw-hamburg.de

 

Mehr zur Gemeinwohl-Ökonomie findest du in unserem digitalen Lernangebot.

 

Übrigens: Ende 2025 fand unser erster Learning Circle zu dem Thema statt – mit so viel positiver Resonanz, dass wir jetzt in die zweite Runde gehen!

Was wäre, wenn wirtschaftlicher Erfolg nicht am Gewinn gemessen würde, sondern daran, wie sehr ein Unternehmen Menschen, Gesellschaft und Umwelt stärkt? Genau das ist die Idee der Gemeinwohl-Ökonomie (GWÖ) – ein Wirtschaftsmodell, das Kooperation statt Konkurrenz in den Mittelpunkt stellt. Und darum geht’s bei unserem 2. Learning Circle der HAW Hamburg.

 

Ab März tauchen wir gemeinsam tiefer in die GWÖ ein: Wir erkunden Praxisbeispiele, diskutieren Ideen und entwickeln vielleicht sogar eigene Bildungsangebote dazu.

Neugierig aufs Thema? Dann bringt eure Fragen mit – wir finden zusammen Antworten. Unser Learning Circle lebt davon, als feste Runde zusammenzukommen, die über mehrere Wochen zusammenwächst und das Thema von allen Seiten beleuchtet.

 

Unsere acht Termine von März bis Juni:

– 02.03.

– 16.03.

– 30.03.

– 13.04.

– 27.04.

– 11.05.

– 08.06.

– 15.06.

 

Alle Treffen finden in der in den Räumen der HOOU an der HAW Hamburg in der Jungestraße 10, 6. OG, statt. Da Learning Circles von wiederkehrenden Begegnungen leben, freuen wir uns, wenn möglich, über deine Teilnahmen an allen Terminen. Eine genaue Uhrzeit und das detaillierte Programm veröffentlichen wir in Kürze.

 

Du willst dabei sein?

Melde dich per E-Mail an: hoou@haw-hamburg.de

 

Mehr zur Gemeinwohl-Ökonomie findest du in unserem digitalen Lernangebot.

 

Übrigens: Ende 2025 fand unser erster Learning Circle zu dem Thema statt – mit so viel positiver Resonanz, dass wir jetzt in die zweite Runde gehen!

Was wäre, wenn wirtschaftlicher Erfolg nicht am Gewinn gemessen würde, sondern daran, wie sehr ein Unternehmen Menschen, Gesellschaft und Umwelt stärkt? Genau das ist die Idee der Gemeinwohl-Ökonomie (GWÖ) – ein Wirtschaftsmodell, das Kooperation statt Konkurrenz in den Mittelpunkt stellt. Und darum geht’s bei unserem 2. Learning Circle der HAW Hamburg.

 

Ab März tauchen wir gemeinsam tiefer in die GWÖ ein: Wir erkunden Praxisbeispiele, diskutieren Ideen und entwickeln vielleicht sogar eigene Bildungsangebote dazu.

Neugierig aufs Thema? Dann bringt eure Fragen mit – wir finden zusammen Antworten. Unser Learning Circle lebt davon, als feste Runde zusammenzukommen, die über mehrere Wochen zusammenwächst und das Thema von allen Seiten beleuchtet.

 

Unsere acht Termine von März bis Juni:

– 02.03.

– 16.03.

– 30.03.

– 13.04.

– 27.04.

– 11.05.

– 08.06.

– 15.06.

 

Alle Treffen finden in der in den Räumen der HOOU an der HAW Hamburg in der Jungestraße 10, 6. OG, statt. Da Learning Circles von wiederkehrenden Begegnungen leben, freuen wir uns, wenn möglich, über deine Teilnahmen an allen Terminen. Eine genaue Uhrzeit und das detaillierte Programm veröffentlichen wir in Kürze.

 

Du willst dabei sein?

Melde dich per E-Mail an: hoou@haw-hamburg.de

 

Mehr zur Gemeinwohl-Ökonomie findest du in unserem digitalen Lernangebot.

 

Übrigens: Ende 2025 fand unser erster Learning Circle zu dem Thema statt – mit so viel positiver Resonanz, dass wir jetzt in die zweite Runde gehen!

Was wäre, wenn wirtschaftlicher Erfolg nicht am Gewinn gemessen würde, sondern daran, wie sehr ein Unternehmen Menschen, Gesellschaft und Umwelt stärkt? Genau das ist die Idee der Gemeinwohl-Ökonomie (GWÖ) – ein Wirtschaftsmodell, das Kooperation statt Konkurrenz in den Mittelpunkt stellt. Und darum geht’s bei unserem 2. Learning Circle der HAW Hamburg.

 

Ab März tauchen wir gemeinsam tiefer in die GWÖ ein: Wir erkunden Praxisbeispiele, diskutieren Ideen und entwickeln vielleicht sogar eigene Bildungsangebote dazu.

Neugierig aufs Thema? Dann bringt eure Fragen mit – wir finden zusammen Antworten. Unser Learning Circle lebt davon, als feste Runde zusammenzukommen, die über mehrere Wochen zusammenwächst und das Thema von allen Seiten beleuchtet.

 

Unsere acht Termine von März bis Juni:

– 02.03.

– 16.03.

– 30.03.

– 13.04.

– 27.04.

– 11.05.

– 08.06.

– 15.06.

 

Alle Treffen finden in der in den Räumen der HOOU an der HAW Hamburg in der Jungestraße 10, 6. OG, statt. Da Learning Circles von wiederkehrenden Begegnungen leben, freuen wir uns, wenn möglich, über deine Teilnahmen an allen Terminen. Eine genaue Uhrzeit und das detaillierte Programm veröffentlichen wir in Kürze.

 

Du willst dabei sein?

Melde dich per E-Mail an: hoou@haw-hamburg.de

 

Mehr zur Gemeinwohl-Ökonomie findest du in unserem digitalen Lernangebot.

 

Übrigens: Ende 2025 fand unser erster Learning Circle zu dem Thema statt – mit so viel positiver Resonanz, dass wir jetzt in die zweite Runde gehen!

Was wäre, wenn wirtschaftlicher Erfolg nicht am Gewinn gemessen würde, sondern daran, wie sehr ein Unternehmen Menschen, Gesellschaft und Umwelt stärkt? Genau das ist die Idee der Gemeinwohl-Ökonomie (GWÖ) – ein Wirtschaftsmodell, das Kooperation statt Konkurrenz in den Mittelpunkt stellt. Und darum geht’s bei unserem 2. Learning Circle der HAW Hamburg.

 

Ab März tauchen wir gemeinsam tiefer in die GWÖ ein: Wir erkunden Praxisbeispiele, diskutieren Ideen und entwickeln vielleicht sogar eigene Bildungsangebote dazu.

Neugierig aufs Thema? Dann bringt eure Fragen mit – wir finden zusammen Antworten. Unser Learning Circle lebt davon, als feste Runde zusammenzukommen, die über mehrere Wochen zusammenwächst und das Thema von allen Seiten beleuchtet.

 

Unsere acht Termine von März bis Juni:

– 02.03.

– 16.03.

– 30.03.

– 13.04.

– 27.04.

– 11.05.

– 08.06.

– 15.06.

 

Alle Treffen finden in der in den Räumen der HOOU an der HAW Hamburg in der Jungestraße 10, 6. OG, statt. Da Learning Circles von wiederkehrenden Begegnungen leben, freuen wir uns, wenn möglich, über deine Teilnahmen an allen Terminen. Eine genaue Uhrzeit und das detaillierte Programm veröffentlichen wir in Kürze.

 

Du willst dabei sein?

Melde dich per E-Mail an: hoou@haw-hamburg.de

 

Mehr zur Gemeinwohl-Ökonomie findest du in unserem digitalen Lernangebot.

 

Übrigens: Ende 2025 fand unser erster Learning Circle zu dem Thema statt – mit so viel positiver Resonanz, dass wir jetzt in die zweite Runde gehen!

Wir freuen uns sehr, euch zum H5P Community Meetup in Hamburg einzuladen!

 

Das Meetup bietet Raum für Lehrende, Entwickler:innen, Designer:innen und Lernbegeisterte, die sich für interaktive Inhalte und offene Lerntechnologien interessieren.

Ziel der Veranstaltung ist es, Gleichgesinnte zusammenzubringen, Erfahrungen auszutauschen, voneinander zu lernen und zu erkunden, wie H5P in der Praxis eingesetzt wird. Egal, ob ihr gerade erst mit H5P beginnt oder bereits seit Jahren damit arbeitet – ihr seid herzlich willkommen.

Das Meetup wird kurze Vorträge, Demos, Diskussionen sowie viel Zeit zum Netzwerken umfassen. Wir möchten, dass dies eine gemeinschaftsgetragene Veranstaltung ist, die von den Teilnehmenden mitgestaltet wird.

Kommt vorbei, lernt dazu, teilt euer Wissen und vernetzt euch mit der H5P-Community in Hamburg – wir freuen uns darauf, euch kennenzulernen!

 

P.S. Wenn ihr selbst einen Beitrag einreichen wollt, ist das noch möglich:

 

Call for Proposals
Derzeit suchen wir nach Beiträgen für das Programm. Mögliche Formate sind:

• Kurzvorträge oder Lightning Talks
• Praktische Demos oder Anwendungsbeispiele
• Workshops oder Hands-on-Sessions
• Offene Diskussionen oder Erfahrungsberichte

Die Themen können von didaktischen Konzepten und Praxisbeispielen über technische Einblicke und Integrationen bis hin zu Zukunftsideen rund um H5P und interaktives Lernen reichen.

Wenn ihr euch beteiligen möchtet, reicht bitte einen kurzen Vorschlag mit Thema, Format und einer kurzen Beschreibung ein.

Einreichungen unter: https://h5p.org/h5p-hamburg-community-event

 

 

Fotocredit: the background image is also my image „Sundown over Wascana Lake“ flickr photo by cogdogblog shared under a Creative Commons (BY) license and the foreground is my own re-edit of my own photo „Wallace Island Intersection“ flickr photo by cogdogblog shared under a Creative Commons (BY) license. Alane Levine / flickr