Эксперт Kaspersky назвал способ развязать язык ИИ и заставить нейросети говорить на запретные темы

Такие чат-боты с искусственным интеллектом, как ChatGPT, обучаются на огромном количестве данных из Интернета, в том числе затрагивающих запретные темы. Но после релиза разработчики блокируют возможность общаться с ИИ на такие темы, однако существует способ обойти это препятствие.

"Представители преступного мира активно обмениваются джейлбрейками. Это наборы особых команд, которые заставляют языковую модель давать ответы, связанные с противоправной деятельностью. Чат-боты обучены отказываться говорить на подобные темы, и джейлбрейки помогают такие ограничения обходить", — рассказал руководитель группы исследований и разработки технологий машинного обучения в Лаборатории Касперского Владислав Тушканов "Газете.ru".

По словам интернет-эксперта, применение джейлбрейков в отношении ИИ можно сравнить с действием алкоголя, если идти в сторону такой аналогии. Но полезно ли или правдиво сказанное в состоянии опьянения — большой вопрос, задумался специалист.

"Тем не менее джейлбрейки могут быть и полезны. Например, если мы говорим о помощи специалистам по тестированию на проникновение. Инструкции и советы, которые им нужны, могут быть похожи на те, что пригодятся и злоумышленникам, и языковая модель может отказываться их предоставлять. В таком случае на помощь приходит джейлбрейкинг", — заключил специалист.

А ранее Life.ru рассказывал историю российского разработчика Александра Жадана, который поделился, что невесту ему нашёл ChatGPT. Однако некоторые пользователи Интернета негативно отреагировали на такой опыт. Они призвали девушку "бежать" из этих отношений. Самого же программиста обвинили в психопатии.