нейрохаб.рфСправка
← Справка

Джейлбрейк (jailbreak)

Попытка заставить модель обойти предусмотренные ограничения поведения. В контексте ИИ относится к обходу защит модели, а не к разблокировке операционной системы устройства.

На практике

Так называют попытку добиться ответа, который система должна ограничивать, через обходные формулировки или ролевые сценарии. Успех оценивают по фактическому нарушению правил системы.

Что учитывать

Джейлбрейк не обязательно связан с внешним документом. Промпт-инъекция описывает подмену инструкций через данные, а джейлбрейк — цель обхода ограничений.