Jailbreaking (Jailbreak / Prolomení zábran AI)

Jailbreaking u AI označuje techniku formulace dotazů (promptů), jejímž cílem je obejít bezpečnostní, etická a právní omezení modelu. Pomocí hraní rolí, hypotetických scénářů nebo šifrovaného jazyka se uživatel snaží přimět AI k vygenerování obsahu, který má normálně zakázaný (např. návod na škodlivý kód).

Vývojáři AI modelů vedou s jailbreaky neustálý boj a průběžně aktualizují bezpečnostní filtry, aby tyto obcházející taktiky včas zablokovali.