Thema: Künstliche Intelligenz
29.01.2026 | Christian Friedrich
(Un-)sicher mit LLMs?
Untertitel
Zu Gast: Dr. Tobias Wirth, Leiter des Transferlabors Innere Sicherheit am DFKI
Beschreibung
Mit Tobias Wirth haben wir über die (Un-)Sicherheit von LLMs und KI Anwendungen in Sicherheitsbehörden gesprochen. Er ist Themenfeldleiter für generative und transparente KI im Forschungsbereich smarte Daten- und Wissensdienste am DFKI und leitet das Transferlabor KI-Forschung für die Polizei KI4POL.
Im Gespräch geht es um Möglichkeiten, LLMs auszutricksen, darum, wie Sicherheitsbehörden sich gegen die größten Angriffsvektoren schützen können und darum, was wir daraus auch auf den Alltag außerhalb von Sicherheitsbehörden lernen können.
Links
BSI-Publikationen
BSI: Generative KI-Modelle – Chancen und Risiken für Industrie und Behörden (PDF)
BSI: Evasion-Angriffe auf LLMs – Gegenmaßnahmen (PDF)
Sicherheit und Schwachstellen
Malwarebytes: ChatGPT Deep Research Zero-Click Vulnerability
OWASP Top 10 for Large Language Model Applications
Agentic LLM Vulnerabilities (arXiv, Stanford HAI)
Tools und Ressourcen
GARAK – LLM Vulnerability Scanner
Prompt Injection in the Wild (Kaggle Dataset)
Podcast App Empfehlungen
Unsere Kapitelbilder könnt ihr mit einer guten Podcast App sehen. Zum Beispiel mit:
Die Sicherheits_lücke im Netz
Abonniere Die Sicherheits_lücke überall, wo es Podcasts gibt, oder über unsere Website: https://www.sicherheitsluecke.fm
Die Sicherheits_lücke bei Mastodon
Die Sicherheits_lücke bei LinkedIn
Die Sicherheits_lücke bei Pixelfed
Feedback oder Kritik? Wünsche? Schreib uns: post@sicherheitsluecke.fm
Die Sicherheits_lücke ist ein Podcast der Hamburg Open Online University (HOOU).
Monina Schwarz, LSI Bayern
Volker Skwarek an der HAW Hamburg
Produktion und Musik: Christian Friedrich
Das in dieser Episode verwendete Bildmaterial steht unter der Lizenz CC-BY 4.0, Urheberin ist Anne Vogt.
Bild: Midjourney
23.01.2026 | Katrin Schröder
Lunch Bag Session: KI-Bilderwelten! Einführung in Bildgeneratoren
In dieser Online-Schulung bieten wir am 6. Mai, 12 bis 13 Uhr einen Überblick über die bekanntesten Text-zu-Bild KI-Generatoren und deren vielfältige Anwendungsmöglichkeiten. Diese 60-minütige Schulung richtet sich an alle Interessierten, unabhängig von Vorkenntnissen, und lädt dazu ein, die faszinierende Welt der künstlichen Intelligenz zu entdecken und zu verstehen, wie sie kreative Prozesse unterstützen kann.
Die Schulung beginnt mit einer kurzen Einführung in die grundlegenden Konzepte von KI-Bildgeneratoren. Es wird gezeigt, wie diese Technologien funktionieren und welche technischen Voraussetzungen notwendig sind. Im Anschluss daran werden die bekanntesten und am weitesten verbreiteten Text-zu-Bild KI-Generatoren (beispielsweise Midjourney, Leonardo.AI, ChatGPT) live vorgestellt, einschließlich ihrer spezifischen Funktionen und Anwendungsbereiche.
Für die Teilnahme an dieser Schulung sind keine Vorkenntnisse erforderlich. Alle, die sich für die Möglichkeiten und Herausforderungen der künstlichen Intelligenz interessiert, ist herzlich eingeladen, teilzunehmen. Weitere Informationen zu KI-Anwendungen gibt es auch im kostenfreien HOOU-Kurs „KI-Tools kurz erklärt! So verwendest du ChatGPT, Leonardo.AI & Co.“
Melden Sie sich jetzt über unseren HOOU-Partner, das Multimedia Kontor Hamburg, an und lassen Sie uns gemeinsam die kreativen Potenziale von KI-Bildgeneratoren entdecken.
ZUR ANMELDUNG
Die Lunch Bag Session wird vom Multimedia Kontor Hamburg (MMKH) in Zusammenarbeit mit der Hamburg Open Online University (HOOU) organisiert und durchgeführt.
Foto: KI-generiert
23.01.2026 | Katrin Schröder
Lunch Bag Session: Einführung in KI-Textgeneratoren
Unter dem Titel „Lunch Bag Session: Einführung in KI-Textgeneratoren“ veranstalten wir für alle Interessierten am Mittwoch, 25. März von 12 bis 13 Uhr eine Lunch Bag Session. Diese findet auf ZOOM statt. Die Teilnahme ist kostenfrei, eine Anmeldung ist aus organisatorischen Gründen erforderlich.
In dieser Online-Schulung wird ein Überblick über die Möglichkeiten von KI-Tools, wie beispielsweise ChatGPT, Claude und Gemini gegeben. Die Schulung richtet sich an alle Interessierten – nicht nur aus dem Hochschulbereich, sondern auch explizit an interessierte Bürger*innen – unabhängig von Vorkenntnissen, und vermittelt ein grundlegendes Verständnis für die Anwendungen und Potenziale dieser KI-Modelle.
Die Schulung beginnt mit einer Einführung in die Grundlagen von KI-Sprachmodellen, die Texte erstellen, übersetzen und umschreiben können, aber auch dichten, programmieren und unterstützen. Es wird gezeigt, wie die Anwendungen funktionieren und welche Einsatzmöglichkeiten sie bieten.
Weitere Informationen zu KI-Anwendungen gibt es auch im kostenfreien HOOU-Kurs „KI-Tools kurz erklärt! So verwendest du ChatGPT, Leonardo.AI & Co.“
Jetzt bei unserem HOOU Partner MMKH Hamburg kostenfrei anmelden: ZUR ANMELDUNG
Die Lunch Bag Session wird vom Multimedia Kontor Hamburg (MMKH) in Zusammenarbeit mit der Hamburg Open Online University (HOOU) organisiert und durchgeführt.
28.12.2025 | Christian Friedrich
Live vom 39C3 - Tag 1
Die Sicherheits_lücke live aus dem Sendezentrum beim 39C3 – Tag 1
Wir senden in diesem Jahr jeden Tag live vom 39C3, dem 39. Chaos Communication Congress in Hamburg. In dieser Folge sprechen wir auf der Bühne des Sendezentrums über die Vorträge von Tag 1, die wir empfehlen möchten, und darüber, weshalb wir sie interessant und relevant finden. In dieser Folge zu Gast sind Marieke, Petersen, Elena Müller und Karola Köpferl.
In dieser besonderen Live-Episode senden wir direkt vom 39. Chaos Communication Congress in Hamburg. Auf der Bühne des Sendezentrums sprechen wir mit unseren Gästinnen Marieke Petersen, Elena Müller und Karola Köpferl über die Vorträge des ersten Congress-Tages.
Wir diskutieren, welche Talks uns besonders beeindruckt haben und warum sie relevant für die Cybersicherheits-Community sind – von politischen Aktionen über forensische Technologien in Ausländerbehörden bis hin zu KI in der Medizinentwicklung und kreativen Hardware-Hacks.
Website: www.sicherheitsluecke.fm
LinkedIn: https://www.linkedin.com/company/die-sicherheitslücke/
Mastodon: https://podcasts.social/@DieSicherheits_luecke
Links zu dieser Folge
39C3 Mediathek – Alle Vorträge
Zentrum für Politische Schönheit: Ein Jahr Adenauer, SRP und mehr
Handy weg bis zur Ausreise: Wie Cellebrite ins Ausländeramt kam
Developing new Medicines in the Age of AI and Personalized Medicine
Not an Impasse: Child Safety, Privacy, and Healing Together
KI, Digitalisierung und Longevity als Fix für ein kaputtes Gesundheitssystem
FetAp 611 unplugged: Taking a rotary dial phone to the mobile age
Podcast App Empfehlungen
Unsere Kapitelbilder könnt ihr mit einer guten Podcast App sehen. Zum Beispiel mit:
Die Sicherheits_lücke im Netz
Abonniere Die Sicherheits_lücke überall, wo es Podcasts gibt, oder über unsere Website: https://www.sicherheitsluecke.fm
Die Sicherheits_lücke bei Mastodon
Die Sicherheits_lücke bei LinkedIn
Die Sicherheits_lücke bei Pixelfed
Feedback oder Kritik? Wünsche? Schreib uns: post@sicherheitsluecke.fm
Die Sicherheits_lücke ist ein Podcast der Hamburg Open Online University (HOOU).
Credits
Gästinnen:
Elena Müller
Moderation und Produktion:
Volker Skwarek an der HAW Hamburg
Produktion und Musik: Christian Friedrich
Das in dieser Episode verwendete Bildmaterial steht unter der Lizenz CC-BY 4.0, Urheberin ist Anne Vogt.
18.12.2025 | Christian Friedrich
Brandbeschleuniger KI?
Ist KI der Brandbeschleuniger in der Cybersicherheit? Wir sprechen über (vermeintliche) Angriffe mit KI-Systemen und darüber, was wir aus ihnen lernen können.
Ist KI der Brandbeschleuniger in der Cybersicherheit? Wir sprechen über (vermeintliche) Angriffe mit KI-Systemen und darüber, was wir aus ihnen lernen können.
Links zu dieser Folge
Anthropic: Disrupting the First Reported AI-Orchestrated Cyber-Espionage Campaign
BleepingComputer: Anthropic Claims of Claude AI-Automated Cyberattacks Met with Doubt
The Hacker News: Chinese Hackers Use Anthropic’s AI to Launch Automated Cyber Espionage Campaign
Heise: Autonome KI-Cyberattacke: Hat sie wirklich so stattgefunden?
EU AI Act Explorer – Article 15: Accuracy, Robustness and Cybersecurity
OpenAI: Attacking Machine Learning with Adversarial Examples
Wikipedia: Adversarial Machine Learning
IEEE: Explainable AI in Cybersecurity – A Comprehensive Framework
Cybersecurity Tribe: An Introduction to Agentic AI in Cybersecurity
Podcast App Empfehlungen
Unsere Kapitelbilder könnt ihr mit einer guten Podcast App sehen. Zum Beispiel mit:
Die Sicherheits_lücke im Netz
Abonniere Die Sicherheits_lücke überall, wo es Podcasts gibt, oder über unsere Website: https://www.sicherheitsluecke.fm
Die Sicherheits_lücke bei Mastodon
Die Sicherheits_lücke bei LinkedIn
Die Sicherheits_lücke bei Pixelfed
Feedback oder Kritik? Wünsche? Schreib uns: post@sicherheitsluecke.fm
Die Sicherheits_lücke ist ein Podcast der Hamburg Open Online University (HOOU).
Monina Schwarz, LSI Bayern
Volker Skwarek an der HAW Hamburg
Produktion und Musik: Christian Friedrich
Das in dieser Episode verwendete Bildmaterial steht unter der Lizenz CC-BY 4.0, Urheberin ist Anne Vogt.
09.12.2025 | Christian Friedrich
Zamina Ahmad
Gründerin und Beraterin Zamina Ahmad im Gespräch mit Christian Friedrich über faire und verantwortungsvolle KI
Zamina Ahmad ist Expertin für maschinelles Lernen und hilft Unternehmen, KI Anwendungen sinnvoll einzusetzen. Sie setzt sich für Faire KI ein und in dieser Folge geht es auch darum, was das für sie und andere bedeuten kann.
Zamina hat ein Beratungsunternehmen gegründet, dass sich mit Fragen rund um Fairness und Ethik von KI-Anwendungen befasst. Sie hat einen eigenen Podcast, hält regelmäßig Vorträge, gibt Workshops zum Thema KI und ihrem verantwortungsbewusster Einsatz in Organisationen und in Unternehmen. Im Gespräch teilt Zamina auch Tipps, was einzelne Nutzende in ihrer privaten Nutzung von Chatbots wie ChatGPT tun können, um Vorurteile, Stereotypen und vielleicht auch unerwünschte Ergebnisse ein Stück weit zu minimieren.
Links
Programmiersprache Python (Wikipedia)
Zaminas Buchempfehlung: Bas Kast, Wie der Bauch dem Kopf beim Denken hilft
Fair Tech, Fair Society (Podcast)
HOOU Lernangebote
Credits
Moderation: Nicola Wessinghage und Christian Friedrich
Musik: Jakob Kopczynski
Produktion: Christian Friedrich
Die Angebote zum Selbstlernen auf der Online-Plattform der Hamburg Open Online University stehen allen Interessierten frei zur Verfügung.
Um unsere Lernangebote zu nutzen, brauchst du weder zu studieren noch bestimmte Voraussetzungen zu erfüllen. Schau einfach online vorbei. Unsere Internetadresse ist www.hoou.de
Feedback, Anregungen und Kommentare zum Podcast erreichen uns per E-Mail unter waswillstduwissen@haw-hamburg.de
Bild: Maximilian Glas)
09.05.2025 | Katrin Schröder
Online-Workshop für Schüler:innen – „Schreiben und Bilder erstellen mit KI“
Für alle, die lieber online teilnehmen möchten, bieten wir einen Workshop an, bei dem du bequem von zu Hause aus lernen kannst, wie du mit Künstlicher Intelligenz deine Geschichten schreibst und sie visuell zum Leben erweckst. In diesem Workshop wirst du die Grundlagen von KI kennenlernen, eine Geschichte mit der KI entwickeln und dazu passende Bilder generieren. Am Ende des Workshops wirst du nicht nur mit einer Geschichte und einem Bild, sondern auch mit einem neuen Verständnis für die Möglichkeiten der KI aufwarten können.
Diese Workshops werden von der HOOU@HAW Hamburg in Kooperation mit dem SFZ Hamburg durchgeführt und von J&K realisiert. Weitere Informationen findest du auf den offiziellen Webseiten:
09.05.2025 | Katrin Schröder
Eltern-Workshop parallel vor Ort – „KI verstehen und kreativ nutzen“
Dieser Workshop bietet Eltern einen spannenden Einblick in die Welt der Künstlichen Intelligenz und ihre Anwendung im kreativen Bereich. Während die Kinder in einem separaten Workshop mit KI Geschichten schreiben, können die Eltern lernen, wie sie ihren Kindern beim sicheren Umgang mit dieser Technologie zur Seite stehen können. Gemeinsam entdecken wir, wie KI beim Schreiben und der kreativen Gestaltung helfen kann – und welche Lernmöglichkeiten es dafür gibt.
Damit Sie direkt mitmachen können, bringen Sie bitte ein eigenes Gerät (Laptop oder Tablet) mit – das WLAN des SFZ Hamburg steht Ihnen während des Workshops zur Verfügung.
Diese Workshops werden von der HOOU@HAW Hamburg in Kooperation mit dem SFZ Hamburg durchgeführt und von J&K realisiert. Weitere Informationen findest du auf den offiziellen Webseiten:
09.05.2025 | Katrin Schröder
Schüler*innen-Workshop vor Ort – „Schreibe deine Geschichte mit KI“
Dieser dreistündige Workshop richtet sich an Schüler*innen, die ihre Kreativität mit der neuesten Technik verbinden möchten. Mit der Unterstützung von Künstlicher Intelligenz wirst du deine eigene Geschichte entwickeln, sie mit Bildern ergänzen und deine kreativen Ideen zum Leben erwecken. Am Ende des Workshops hast du nicht nur eine eigene Geschichte geschrieben, sondern auch die Möglichkeit, sie mit anderen zu teilen und Feedback zu bekommen.
Diese Workshops werden von der HOOU@HAW Hamburg in Kooperation mit dem SFZ Hamburg durchgeführt und von J&K realisiert. Weitere Informationen findest du auf den offiziellen Webseiten:
KI-generiert, Midjourney
18.02.2025 | Katrin Schröder
KI für alle – aber richtig!
Von Barrierefreiheit bis Cloud-Alternative: Die KI-Werkstatt der HOOU zeigt in der Zentralbibliothek der Bücherhallen Hamburg Wege zur digitalen Selbstbestimmung.
Du experimentierst schon länger mit ChatGPT und Co., aber spürst: Da geht noch mehr? Du willst verstehen, wie KI-Tools wirklich Mehrwert schaffen können – unabhängig von großen Cloud-Anbietern und zugänglich für alle? Die KI-Werkstatt in der Zentralbibliothek der Bücherhallen Hamburg zeigt am Samstag, 26. April, neue Wege zur digitalen Souveränität.
Während Regierungen milliardenschwere KI-Strategien verkünden und um die richtige Balance zwischen Innovation und Regulierung ringen, stellen sich viele von uns ganz praktische Fragen: Was bedeutet diese Technologie eigentlich für mich? Und wie kann ich sie sinnvoll nutzen?
Neue Perspektiven statt alter Hype
Du hörst von immer neuen KI-Anwendungen, aber zwischen den großen Schlagzeilen und deinem Leben klafft eine Lücke. Während in Europa, den USA und China um Transparenzpflichten und Sicherheitsstandards gerungen wird, warten konkrete Chancen darauf, entdeckt zu werden – von dir.
Das erwartet dich bei der KI-Werkstatt
Unsere KI-Werkstatt besteht aus mehreren Thementischen. Wir wollen fragen:
- Wie setzt du KI-Bildgeneratoren kreativ und rechtssicher für deine Projekte ein?
- Welche Möglichkeiten bietet KI-gestützte Videobearbeitung für Bildung und Kommunikation?
- Wie ermöglichen lokale KI-Lösungen mehr Unabhängigkeit von Cloud-Diensten?
- Wo kann KI tatsächlich zu mehr Chancengleichheit beitragen?
- Welche Kompetenzen sind für den souveränen Umgang mit KI-Tools wichtig?
Digitale Selbstbestimmung: Menschen unterstützen statt ersetzen
Das Besondere an diesem Format: Wir bleiben nicht in der Theorie stecken. In Übungen und Diskussionen lernst du die Tools kennen, die du in deinem Alltag, Beruf oder ehrenamtlichen Engagement einsetzen kannst. Dabei hat die KI-Werkstatt einen klaren ethischen Kompass: Wie können wir KI so einsetzen, dass sie Menschen unterstützt statt ersetzt? Wie wahren wir digitale Selbstbestimmung?
Zwischen Fortschritt und Umsicht: KI verstehen, gestalten, verantworten
Nach einem Input von Prof. Dr. Christian Warneke (HAW Hamburg) zu „Künstliche Intelligenz zwischen Fortschritt und Umsicht: KI verstehen, gestalten, verantworten“ tauchen wir in interaktive Thementische ein, an denen du diskutieren und KI-Anwendungen selbst ausprobieren kannst.
Zum Input:
Künstliche Intelligenz entwickelt sich rasant und beeinflusst immer mehr Bereiche unseres Lebens – von der Arbeitswelt über Bildung und Gesundheit bis hin zu kreativen Prozessen. Doch wie können wir sicherstellen, dass KI unsere Gesellschaft bereichert? Welche ethischen Herausforderungen stellen sich bei automatisierten Entscheidungen, und wer trägt die Verantwortung, wenn Fehler passieren?
Der Vortrag von Prof. Dr. Christian Warneke beleuchtet Chancen und Risiken von KI, darunter Diskriminierungsgefahren, den „Digital Divide“ und die Rolle der Technologie in einer gerechten Gesellschaft. Er lädt dazu ein, kritisch und vorausschauend über den verantwortungsvollen Einsatz von KI nachzudenken – ein Thema, das unsere Zukunft nachhaltig prägen wird.
Unsere Thementische
1. KI auf lokaler Hardware – Effiziente Nutzung ohne Cloud-Abhängigkeit
Leitung: Marcel Völschow (HAW Hamburg)
Inhalt: Sprachmodelle wie ChatGPT sind für viele von uns ein täglicher Begleiter geworden, der Aufgaben vereinfacht und beschleunigt. Neben Cloud-Modellen von OpenAI, Google & Co. gibt es inzwischen auch Modelle, die lokal auf dem eigenen Rechner laufen und sich für datenschutzkritische Umgebungen eignen. Im Workshop vermitteln wir die Grundlagen zur Funktionsweise von Sprachmodellen, helfen bei der Modellauswahl und zeigen, wie sie erfolgreich lokal genutzt werden können.
2. KI-gestützte Videoproduktion – Von der Idee zum Video mit KI
Leitung: Stefan Dublasky (TUHH)
Inhalt: Mit der Bildgenerierung durch KI verändert sich auch die Produktion von bewegten Bildern durch leistungsstarke Generatoren. Wir werfen einen Blick auf aktuelle Produktionsweisen, die Veränderung ganzer Berufszweige und welche Kompetenzen dafür heute gefragt sind, aber auch auf unkomplizierte KI-gestützte Hilfen für die Videoproduktion am eigenen Endgerät.
3. KI-Bildgeneratoren – Kreative Möglichkeiten erkunden
Leitung: Katrin Schröder (MMKH)
Inhalt: An diesem Thementisch erhältst du einen kompakten Überblick über die bekanntesten Text-zu-Bild-KI-Generatoren und ihre vielfältigen Einsatzmöglichkeiten. Nach einer kurzen Einführung in die grundlegenden Konzepte von KI-Bildgeneratoren zeigen wir Midjourney, Leonardo.AI und DALL-E – inklusive ihrer wichtigsten Funktionen und kreativen Anwendungsmöglichkeiten. Der Thementisch richtet sich an alle Interessierten, unabhängig von Vorkenntnissen, und lädt dazu ein, die faszinierende Welt der KI-gestützten Bildgenerierung zu entdecken.
4. KI & Inklusion – KI als Treiber oder Hindernis für eine inklusive und gerechte Bildung? Neue Perspektiven auf ein komplexes Thema
Leitung: Katrin Bock (TUHH).
Inhalt: Der Einsatz von KI könnte neuen Schwung in unser Bildungssystem bringen und dringend benötigte Verbesserungen ermöglichen. Doch profitieren wirklich alle Lernenden im Sinne einer inklusiven und chancengerechten Bildung davon? Um dies besser zu verstehen, braucht es eine Klärung grundlegender Fragen, die Berücksichtigung verschiedener Blickwinkel und praktische Lösungen. So lassen sich Probleme schnell angehen und Potentiale bestmöglich nutzen. Dieser Thementisch liefert einen kurzen Überblick über dieses komplexe Thema. Gemeinsam sollen Fragen diskutiert, geklärt oder auch neu gestellt werden.
5. Kom-KI: Kompetenzentwicklung für Studierende & Lehrkräfte – Kompetenzen im Umgang mit KI fördern
Leitung: Prof. Dr. Maren Baumhauer und Johannes Schäfers (TUHH)
Inhalt: Künstliche Intelligenz (KI) spielt für viele Bereiche unseres Lebens bereits eine wichtige Rolle. Dies zeigt sich durch die intensive Nutzung von generativer KI, zum Beispiel in Form von Textgenerierung oder verschiedenen kreativen Prozessen wie Bilderstellung, Musikkomposition oder Videoproduktion. Die Veränderungen, die KI mit sich bringt, wirken sich aber auch unmittelbar auf unsere persönliche und berufliche Bildung aus. Erste Zusammenhänge möchten wir gerne an unserem Thementisch aufzeigen und vermitteln. Hierzu gehört auch die Diskussion und Beantwortung von Fragen und Hintergründen.
Programmablauf
- 14:00 Begrüßung und Eröffnung mit einem Input von Prof. Dr. Christian Warneke
- 14:45 Erste Tischrunde
- 15:45 – 16:15 Uhr: Pause
- 16:15 Zweite Tischrunde
- Ab 17:15 Uhr: Abschluss und Austausch
Entdecke die Potenziale von KI in praxisnahen Formaten und gestalte die Zukunft aktiv mit. Bringe gerne dein Notebook mit, um Künstliche Intelligenz selbst auszuprobieren.
Wir freuen uns auf deine Teilnahme und den Austausch mit dir! Vorkenntnisse sind nicht notwendig – die KI-Werkstatt in den Bücherhallen Hamburg ist offen für alle Interessierten! Eine Anmeldung ist aus organisatorischen Gründen notwendig.
Eine Kooperation mit den Bücherhallen Hamburg. Zusammen möchten wir Wissenschaft, Forschung und Kultur für alle zugänglich machen.
