AI Jailbreak & Prompt-Injection Security Expert

In breve

Questo lavoro da freelance, in remoto, è pensato per chi conosce la sicurezza informatica e vuole rendere più sicure le intelligenze artificiali. Ti occuperai di mettere alla prova i modelli di AI per trovare falle e aiutare a migliorarli. Il compenso è di 50 a 90 USD all'ora.

Cosa farai

• Ideare metodi per verificare la sicurezza dei sistemi di AI, concentrandoti su jailbreak, red teaming sui LLM, prompt injection e uso improprio degli strumenti.
• Creare test di sicurezza ripetibili per controllare se un modello cade ancora in trappole già note.
• Costruire strumenti di valutazione che mettano sotto pressione i modelli con minacce reali.
• Lavorare con i tecnici per trasformare ciò che trovi in miglioramenti concreti.
• Scrivere report chiari e presentazioni, adatti sia a un pubblico tecnico sia a un pubblico non tecnico.

Cosa ti serve per candidarti

• Almeno 2 anni di esperienza in machine learning avversariale, red teaming sui LLM, valutazione della sicurezza dell'IA o in un ambito di sicurezza molto vicino.
• Esperienza dimostrata nel cercare falle legate a jailbreak, prompt injection o abuso degli strumenti dei modelli.
• Ottime capacità di scrittura e di comunicazione orale, per documentare bene il tuo lavoro.
• Gradita una laurea magistrale o un dottorato in informatica, sicurezza, machine learning o materie affini, oppure un background professionale equivalente.

Chi può candidarsi

Puoi candidarti da qualsiasi paese del mondo, perché il progetto è aperto a tutti senza restrizioni di paese indicate. Ci sono 20 posti disponibili.