Praktikum Cybersecurity Consulting – AI Gateway: Benchmark von Lösungen und Absicherung des KI-Gateways

Die Einführung generativer KI in Unternehmen hat sich innerhalb weniger Monate massiv ausgeweitet: die Anzahl der Modellanbieter, Business-Anwendungen, Copiloten und nun auch autonomer Agenten nimmt stetig zu. Diese Proliferation erfolgt meist ohne einen zentralen Zugangspunkt: Jedes Team nutzt die APIs der Anbieter direkt mit eigenen Schlüsseln, eigenen Quoten und eigenen Regeln, was dem Unternehmen jegliche konsolidierte Sichtbarkeit über die Nutzung, die Kosten und die an die Modelle übermittelten Daten raubt.

Als Antwort darauf ist eine neue Architekturkomponente unumgänglich geworden: die AI Gateway, ein Gateway, das sämtliche Aufrufe an KI-Modelle zentralisiert. Ähnlich wie die API Gateways für Anwendungsarchitekturen übernimmt sie das Multi-Modell-Routing, das Management von Schlüsseln und Quoten, die Kostenkontrolle, die Observability, aber vor allem und am wichtigsten die KI-spezifischen Sicherheitskontrollen: Filterung von Prompts und Antworten, Schutz vor Prompt Injection, Vermeidung von sensiblen Datenlecks, Zugriffstrennung und Rückverfolgbarkeit zum Zweck der Compliance (DSGVO, nLPD, EU AI Act). Der Markt befindet sich in einer Phase der Strukturierung mit heterogenen Angeboten: Open-Source-Lösungen, Bausteine von Cloud-Anbietern und spezialisierte Akteure. Unsere Kunden in der Schweiz und anderswo fragen uns heute nach der Auswahl und Absicherung dieser kritischen Komponente.

1. Ziel des Praktikums
2. Die Studienphase

In Anbindung an das Schweizer Büro von Wavestone besteht das Ziel des Praktikums darin, einen instrumentierten Benchmark der AI Gateway-Lösungen am Markt durchzuführen und eine sichere Referenzarchitektur zu definieren und zu demonstrieren, die es einem Unternehmen ermöglicht, all seine generativen KI-Anwendungen zu zentralisieren und zu kontrollieren.

Vorbereitende Arbeit:

Die Erreichung der Ziele erfordert vorbereitende Arbeiten zu folgenden Punkten:

• State-of-the-Art der AI Gateway: Positionierung in einer Unternehmensarchitektur, Unterschiede zu einer klassischen API Gateway, Kartierung der Marktlösungen (Open Source, Cloud-Anbieter, spezialisierte Akteure) und deren Deployment-Modelle.
• Panorama der KI-spezifischen Risiken und ihrer Referenzrahmen (OWASP Top 10 für LLMs, MITRE ATLAS, NIST AI RMF, EU AI Act, nLPD/DSGVO), um zu identifizieren, welche Kontrollen das Gateway tatsächlich übernehmen muss.
• Sammlung repräsentativer Anwendungsfälle und Einschränkungen unserer Kunden: Multi-Vendor-Umgebungen, Souveränität und Hosting von Daten, regulierte Sektoren (Banken, Gesundheit, öffentlicher Sektor), Nutzung durch autonome Agenten und Business-Anwendungen.

Wir bieten ein Praktikum an, das sich um die folgenden Ziele dreht:

Ziel 1: Erstellung eines Bewertungsrasters und Benchmarking der AI Gateway-Lösungen am Markt

• Definition eines objektiven und gewichteten Bewertungsrasters, das die wesentlichen erwarteten Aspekte eines Gateways abdeckt: Sicherheitsfunktionen, Routing und Multi-Modell-Unterstützung, Kosten- und Quoten-Governance, Observability, Performance (Latenz, Durchsatz), Integration in das bestehende Ökosystem (IAM, SIEM, CI/CD) und Reifegrad der Lösung.
• Auswahl eines repräsentativen Panels von Lösungen, deren Deployment in einem Labor und deren Konfrontation mit vergleichbaren Test-Szenarien, um gemessene statt nur deklarierte Ergebnisse zu erzielen.
• Formalisierung der Ergebnisse in Form eines für Projekte nutzbaren Vergleichs: Stärken und Grenzen jeder Lösung, Empfehlungsszenarien nach Kundentypologie und damit verbundene Kosten.

Ziel 2: Definition einer Referenzarchitektur zur Absicherung der AI Gateway

• Entwurf einer Referenzarchitektur, die das Gateway als zentralen Kontrollpunkt positioniert: Authentifizierung und Autorisierung der Konsumenten (Nutzer, Anwendungen, Agenten), zentralisiertes Management von Secrets und Anbieter-Schlüsseln, Trennung nach Umgebung und Anwendungsfall.
• Spezifikation der auf die Datenströme anzuwendenden Sicherheitskontrollen: Filterung von Prompts und Antworten, Erkennung und Blockierung von Prompt Injections, Vermeidung von Datenlecks (DLP, Anonymisierung), Leitplanken für die Nutzung von Tools durch Agenten, Ratenbegrenzung (Rate Limiting) und Schutz vor Missbrauch.
• Definition des Bereichs Detektion und Compliance: verwertbare Protokollierung der Aufrufe, an das SOC gemeldete Indikatoren und Alarme, Rückverfolgbarkeit der an die Modelle übertragenen Daten und die von Regulatoren erwarteten Nachweise.

Ziel 3: Erprobung der gewählten Architektur in einer realistischen Umgebung

• Implementierung eines Demonstrators in einer isolierten Laborumgebung: Deployment der gewählten Lösung, Anbindung mehrerer Modellanbieter (offene lokal ausgeführte und kommerzielle) sowie repräsentativer konsumierender Anwendungen, einschließlich eines autonomen Agenten.
• Überprüfung der Robustheit der Kontrollen durch eine offensive Testkampagne am Demonstrator: direkte und indirekte Prompt Injection, Datenexfiltration, Umgehung von Filtern, missbräuchliche Nutzung von Quoten und den Agenten zur Verfügung gestellten Tools.
• Kapitalisierung der Erkenntnisse in einer für Projekte direkt wiederverwendbaren Form: kommentierte Zielarchitektur, Referenz für sichere Konfiguration, Audit-Checkliste für eine AI Gateway und Empfehlungen zum Deployment.

1. Beiträge zum Beratungsunternehmen

Als Praktikant(in) im Consulting werden Sie auch dazu angehalten, zu den operativen Einsätzen unserer Kunden beizutragen.

Wir bieten Ihnen zudem die Möglichkeit, aktiv am internen Leben der Kanzlei teilzunehmen durch:

• Unterstützung beim Ausbau unserer Cybersecurity-Expertise: Mitwirkung an Akquiseaktivitäten und der Erstellung von kommerziellen Angeboten.
• Monitoring und interner Austausch zur Absicherung generativer KI: Entwicklungen am AI Gateway-Markt, Referenzrahmen und anwendbare regulatorische Rahmenbedingungen.
• Erstellung von Materialien zur Sensibilisierung anderer Mitarbeiter des Unternehmens für die Nutzung und Grenzen