AI Jailbreak & Prompt-Injection Security Expert

Kurz gesagt

Bei dieser Stelle prüfen Sie KI-Systeme auf Sicherheitslücken, indem Sie gezielt versuchen, deren Schutzmechanismen zu umgehen. Ihre Arbeit hilft dabei, KI-Modelle sicherer und stabiler zu machen. Die Stelle passt besonders zu Menschen mit Erfahrung in IT-Sicherheit oder KI-Sicherheit, denn Vorkenntnisse in KI sind nicht nötig.

Ihre Aufgaben

• Sie entwickeln Methoden, um die Sicherheit von KI-Systemen zu prüfen, zum Beispiel bei Jailbreaks, Prompt Injection und Missbrauch von Werkzeugen.
• Sie entwerfen Testfälle, die mehrstufige Angriffe auf KI-Modelle sichtbar machen.
• Sie pflegen und aktualisieren Testreihen, die prüfen, ob Modelle anfällig für Jailbreaks oder Prompt Injection sind.
• Sie setzen Ihre Ergebnisse in klare Verbesserungsvorschläge um und arbeiten dafür mit technischen Fachleuten zusammen.
• Sie schreiben verständliche Berichte für technische und nicht technische Leserinnen und Leser.

Das brauchen Sie für die Bewerbung

• Mindestens 2 Jahre Erfahrung in adversarial Machine Learning, LLM Red Teaming, KI-Sicherheitsprüfung oder einem verwandten Sicherheitsbereich.
• Nachweisbare Erfahrung beim Testen oder Aufdecken von Schwachstellen wie Jailbreaks oder Prompt Injection.
• Sehr gute schriftliche und mündliche Kommunikationsfähigkeit.
• Gute Kenntnisse von LLM-Architekturen, Prompt-Engineering und Sicherheitswerkzeugen sind sehr wünschenswert.

Wer sich bewerben kann

Die Stelle ist ein Freelance-Vertrag und vollständig remote. Bewerben können sich Menschen aus aller Welt, weil kein Land vorgegeben ist.