Kann KI Ethik?

Diese Episode gehört zum Podcast Die Sicherheits_lücke

Das erwartet dich:

Können KI-Systeme ethisch handeln, oder bringen erst wir Nutzer:innen die Ethik ins Ergebnis? Volker und Monina über Werte, Trainingsdaten und Guardrails.

Cyberangriffe mithilfe von KI, insbesondere mit agentischen Sprachmodellen, tauchen seit Monaten fast wöchentlich in den Nachrichten auf. Intensität und Komplexität der Angriffe nehmen zu. Volker und Monina nehmen diese Meldungslage zum Anlass für eine technikphilosophische Folge: Können KI-Systeme ethisch handeln, und wie lassen sie sich ethisch einsetzen?

Monina erklärt, wie Large Language Models und Transformer-Architekturen arbeiten und mit welchen Methoden KI lernt. Volker fragt, was Ethik überhaupt ist und warum sich Werte, die teils unbewusst und gesellschaftsabhängig sind, so schwer in ein System programmieren lassen. Dabei geht es um das Moravecsche Paradox, um Bias und Poisoning in Trainingsdaten, um KI-generierte Inhalte als neue Trainingsgrundlage und um Guardrails im Unternehmenseinsatz.

Am Ende steht die Frage, wer die Ethik ins Ergebnis bringt. Gerade bei agentischen Systemen liegt viel Verantwortung bei uns Nutzer:innen, schon beim Prompting.

Website: www.sicherheitsluecke.fm

LinkedIn: https://www.linkedin.com/company/die-sicherheitslücke/

Mastodon: https://podcasts.social/@DieSicherheits_luecke

Trump setzt bei KI auf Selbstkontrolle der Techbranche (tagesschau, 30.9.2026)

Erster Hack einer Regierungsbehörde durch KI (wissenschaft.de, 24.9.2026)

KI-Bosse wollen mehr Regulierung (WDR 5 Morgenecho, 14.9.2026)

KI-Entwickler blockiert Biowaffen-Recherchen (tagesschau, 11.9.2026)

Detecting and countering misuse of AI: Threat Intelligence Report September 2026 (Anthropic)

Investigating three real-world incidents in our cybersecurity evaluations (Anthropic, 30.6.2026)

Anthropic sperrt Zugang zu Top-KI-Modell „Fable“ (Deutschlandfunk, 17.6.2026)

Stellungnahme zum Zugang zu Fable und Mythos (Anthropic)

Unsere Folge „OpenAI goes wild“ vom 27.7.2026 (HOOU)

Moravecsches Paradox (Wikipedia)

„Die Welt braucht nur fünf Computer“: Thomas J. Watson (Wikipedia)

Nick Bostrom: Ethical Issues in Advanced Artificial Intelligence

Claude's Constitution (Anthropic)

Was ist ein Wert als Basis von Ethik? Wert und Wertethik (Ethik-Lexikon)

Shared Minds: The cognitive parallels between humans and artificial intelligence (Human Behavior and Emerging Technologies, Wiley, 21.1.2026)

Attention Is All You Need: Das Transformer-Paper von Google, 2017 (arXiv)

AI models collapse when trained on recursively generated data (Nature, 2024)

Naturrecht (Wikipedia)

Podcast App Empfehlungen

Unsere Kapitelbilder könnt ihr mit einer guten Podcast App sehen. Zum Beispiel mit:

Antenna Pod (Android)

Pocket Casts (Android & iOS)

Overcast (iOS)

Die Sicherheits_lücke im Netz

Abonniere Die Sicherheits_lücke überall, wo es Podcasts gibt, oder über unsere Website: https://www.sicherheitsluecke.fm

Die Sicherheits_lücke bei Mastodon

Die Sicherheits_lücke bei LinkedIn

Die Sicherheits_lücke bei Pixelfed

Feedback oder Kritik? Wünsche? Schreib uns: post@sicherheitsluecke.fm

Die Sicherheits_lücke ist ein Podcast der Hamburg Open Online University (HOOU).

Credits

Monina Schwarz, LSI Bayern

Volker Skwarek an der HAW Hamburg

Produktion und Musik: Christian Friedrich

Das in dieser Episode verwendete Bildmaterial steht unter der Lizenz CC-BY 4.0, Urheberin ist Anne Vogt.

Podcast Design: Anne Vogt

Mitwirkende:
  • Das Avatar-Bild von Prof. Dr. Volker Skwarek
    Prof. Dr. Volker Skwarek
  • Das Avatar-Bild von Monina Schwarz
    Monina Schwarz

Entdecke weitere Episoden