Events

Fachvortrag des Career Services der Goethe-Universität in Kooperation mit PPI AG

KI-Systeme verändern die Art, wie wir arbeiten – doch sie eröffnen auch völlig neue Angriffsflächen. In diesem Vortrag tauchen wir tief ein in die Welt der KI-Sicherheit: Von Prompt Injection und Data Leakage über Model Theft bis hin zu Excessive Agency lernen Sie die kritischsten Angriffsvektoren kennen, die LLMs und ML-Modelle heute bedrohen.

Basierend auf dem OWASP LLM Top 10, Beispielen aus der Praxis und aktuellen Incidents zeigen wir nicht nur, wie Angreifer vorgehen, sondern vor allem, wie man sich wirksam schützt. Die Teilnehmer erhalten praxiserprobte Abwehrstrategien – von Input-Sanitization über Least Privilege für KI-Agenten bis hin zu Monitoring und Supply-Chain-Security.

Erforderliche Vorkenntnisse:

Keine, aber Interesse an Technik hilfreich.

Ziele:

Der Vortrag vermittelt ein fundiertes Verständnis der kritischsten Angriffsvektoren gegen KI-System. Auf Basis der OWASP LLM Top 10 und realer Incidents lernen die Teilnehmenden, wie Angreifer vorgehen und wie sie sich mit praxiserprobten Abwehrstrategien wirksam schützen.

Inhalte:

Einleitung: Warum KI-Sicherheit jetzt relevant ist

• Die Bedrohungslage und der Faktor Zeit
• Zunehmender Einsatz von KI in kritischen Prozessen (Compliance, IT-Security, Kundeninteraktion)
• Unterschied zu traditioneller AppSec: KI exploitiert Semantik, nicht nur Syntax

Angriffsvektoren im Überblick (OWASP LLM Top 10)

• LLM01 Prompt Injection: Direkte und indirekte Manipulation von Modellverhalten
• LLM02 Sensitive Information Disclosure: Unbeabsichtigte Offenlegung von Trainingsdaten, System-Prompts, Session-Daten
• LLM03 Supply Chain Vulnerabilities: Risiken durch Third-Party-Modelle, Plugins, Vektor-Stores
• LLM04 Data and Model Poisoning: Manipulation von Trainings- oder Fine-Tuning-Datencomputer
• LLM05 Improper Output Handling: XSS, Command Injection, SSRF durch nicht validierte Modellausgaben
• LLM06 Excessive Agency: Zu viel Autonomie/Berechtigungen für KI-Agenten
• LLM07 System Prompt Leakage: Offenlegung von System-Prompts durch geschickte Queries
• LLM08 Vector and Embedding Weaknesses: Angriffe auf RAG/Embedding-Pipelines
• LLM09 Misinformation: Manipulierte oder irreführende Modellausgaben
• LLM10 Unbounded Consumption: DoS-ähnliche Angriffe durch ressourcenintensive Queries

Adversarial Machine Learning (klassische ML-Modelle)

• Adversarial Examples: Gezielte Eingaben, die Modelle zu Fehlklassifikationen bringen
• Backdoor Attacks: Versteckte Trigger in Modellen
• Model Extraction / Theft: Herauslesen von Modellparametern über API-Abfragen

Abwehrmaßnahmen & Best Practices

• Input/Context-Härtung: Prompt-Sanitization, Trennung von System-Prompt und User-Input, Context-Isolations
• Output-Validierung: Sanitization vor Weitergabe an Downstream-Systeme (XSS-, Command-Injection-Schutz)
• Least Privilege für KI-Agenten: Excessive Agency vermeiden, Berechtigungen minimieren
• Supply-Chain-Security: Modell-Provenance prüfen, Third-Party-Komponenten überwachen
• Monitoring & Detection: Anomale Query-Muster, Token-Usage-Spikes, Prompt-Injection-Indikatoren
• Adversarial Training & Robust Optimization: Modelle gegen bekannte Angriffe härtenc

Integration in bestehende Security-Prozesse

• Anbindung an ISO 27001 / BSI Grundschutz / DORA (AI-Risiken als Teil des IKS)
• KI-Security als Teil von Threat Modeling (MITRE ATLAS / ATT&CK for ML)
• Governance: AI-Risk-Assessments, Human-in-the-Loop für kritische Entscheidungen

Takeaways & Handlungsempfehlungen

• Priorisierung: Prompt Injection, Data Leakage, Excessive Agency als Top-3-Startpunkte
• Nächste Schritte: Security-Reviews für bestehende KI-Anwendungen planen

Primäre Zielgruppe:

Das Angebot richtet sich an Studierende der Wirtschaftswissenschaften und MINT-Fächer

Referent*in:

Jan-Paul Neder, Director im Consulting Banken, Head of Information Security

Unternehmen:

Die Welt verändert sich rasant – und wir sind mittendrin. Als unabhängiges Consulting- und Softwareunternehmen unterstützt die PPI AG Banken und Versicherungen dabei, die digitale Transformation erfolgreich zu meistern. Mit über 40 Jahren Erfahrung, innovativen Ideen und marktführenden Softwarelösungen sorgen wir dafür, dass unsere Kunden bestens für die Zukunft aufgestellt sind.

Zukunft? Gestalten wir gemeinsam.

Du willst nicht nur irgendeinen Job, sondern deinen Karrierestart – mit Sinn, Perspektive und echten Herausforderungen? Dann bist du bei PPI genau richtig! Komm´ zu einem der „Besten Arbeitgeber Deutschlands“ (Great Place To Work®).

Termin, Ort:

Donnerstag 19.11.2026, 13:00-14:30 Uhr
Goethe-Universität, Campus Westend, Seminarhaus, SH 3.104