Un nuovo studio condotto da ricercatori europei ha scoperto che è possibile aggirare le barriere di sicurezza dei chatbot AI semplicemente formulando richieste in forma poetica. La ricerca, intitolata "Adversarial Poetry as a Universal Single-Turn Jailbreak in Large Language Models (LLMs)", è stata realizzata dal laboratorio Icaro, una collaborazione tra l'Università Sapienza di Roma e il think tank DexAI.
Il metodo poetico
Secondo lo studio, i chatbot AI tendono a fornire informazioni su argomenti sensibili come armi nucleari e materiale di abuso infantile se le domande vengono poste in forma di poesia. I ricercatori hanno testato questo approccio su 25 chatbot sviluppati da aziende come OpenAI, Meta e Anthropic, riscontrando un successo variabile ma significativo.
I sistemi AI come Claude e ChatGPT dispongono di meccanismi di sicurezza che impediscono loro di rispondere a domande pericolose. Tuttavia, questi sistemi possono essere ingannati utilizzando "suffissi avversari" all'interno delle richieste. In pratica, aggiungendo elementi extra alle domande si confonde l'intelligenza artificiale e si superano i suoi sistemi di sicurezza.
Poesia contro la logica
L'approccio poetico funziona perché la poesia utilizza una sequenza imprevedibile e a bassa probabilità di parole. Questo tipo di linguaggio sembra bypassare i controlli dei modelli linguistici avanzati (LLM). Nei LLMs la temperatura è un parametro che determina quanto sia prevedibile o sorprendente l'output del modello; la poesia sfrutta questa variabilità per creare percorsi non convenzionali attraverso il sistema linguistico del modello.
L'efficacia del metodo
I risultati dello studio sono sorprendenti: richieste normalmente rifiutate dai chatbot vengono accettate quando presentate sotto forma poetica. Anche se il contenuto dannoso rimane visibile nel testo poetico, il suo travestimento stilistico ne consente l'accettazione da parte dell'AI.
Conclusioni
Gli esperti ammettono che non è ancora chiaro perché questo metodo funzioni così bene. Le differenze interpretative tra umani e macchine sembrano giocare un ruolo cruciale: mentre gli esseri umani riconoscono facilmente il significato sottostante delle metafore poetiche, i modelli AI trattano questi input in modo diverso.
