Джейлбрейк (jailbreak — «побег из тюрьмы») — обход программных ограничений, наложенных производителем устройства, с целью получить доступ к закрытым для пользователя функциям и возможностям. С развитием искусственного интеллекта и машинного обучения термином «джейлбрейк» также стали называть способы обхода ограничений моделей. Помимо этого, джейлбрейком может называться метод или инструмент, при помощи которого достигается обход ограничений.
Термин «джейлбрейк» применяется не к любым устройствам. В частности, аналогичные джейлбрейку методы получения неограниченных прав в системе Android называются рутингом, рутованием или рутом.
Джейлбрейк устройств
В операционных системах устройств (например, iOS) могут быть установлены ограничения, которые не позволяют пользоваться определенными функциями и менять некоторые настройки. Это необходимо для того, чтобы обеспечить целостность и безопасность системы. Пользователи прибегают к джейлбрейку для обхода этих ограничений и получения полного контроля над устройством.
В большинстве стран джейлбрейк не является противозаконной операцией, однако взломанное устройство лишается гарантии и становится уязвимым к различным угрозам. Кроме того, если целью джейлбрейка является противозаконное действие, например нарушение авторских прав или установка запрещенного ПО, то оно может преследоваться по закону.
Возможные цели джейлбрейка:
- загрузка и установка сторонних программ, не доступных в официальных магазинах приложений;
- удаление предустановленных приложений;
- кастомизация интерфейса;
- блокировка рекламы в приложениях и браузере.
Риски и недостатки использования джейлбрейка:
- гарантия на устройство аннулируется;
- устройство может не получать автоматические обновления ОС и систем безопасности или необратимо сломаться при попытке установить обновление;
- отключение защитных механизмов при джейлбрейке делает устройство уязвимым перед вредоносным ПО, а в случае заражения злоумышленники получат неограниченные права на устройстве;
- на взломанном устройстве приложения могут работать с перебоями или не работать вообще, как, например, банковские приложения, защитные механизмы которых препятствуют их запуску после джейлбрейка.
Джейлбрейк ИИ-моделей
Чтобы различных ИИ-ассистентов и чат-ботов нельзя было использовать для поиска незаконной информации или противоправных действий, таких как раскрытие конфиденциальных данных или генерация дипфейков, разработчики встраивают в эти системы фильтры и ограничения. Обход таких ограничений также называется джейлбрейком.
Как правило, джейлбрейк заключается в формулировке затравок, способных манипулировать моделью и вынуждать ее отвечать в обход фильтров. Например, атакующий может замаскировать запрещенный запрос или попросить модель сыграть роль другого чат-бота, у которого нет ограничений.
Кроме того, злоумышленники создают на основе существующих языковых моделей свои ИИ, в которые не закладывают этические ограничения. Такие модели могут использоваться для генерации различного незаконного контента, такого как мошеннические письма или вредоносные скрипты, а также для хакерских атак.