Prompt injection

Prompt injection : ce n'est pas un jailbreak, et ça ne se corrige pas

Le jailbreak vise l'alignement du modèle, la prompt injection vise l'application. Structurelle par nature, l'injection indirecte détourne un agent via une page ou un PDF. Les défenses qui tiennent.