🤖 Исследователи нашли способ обойти защиту чат-ботов

Группа исследователей обнаружила новый способ обхода защитных механизмов ИИ-моделей, позволяющий заставить чат-боты генерировать опасный контент, включая рецепты запрещённых веществ. Используя технику 'jailbreak', они смогли заставить ИИ воспринимать текст злоумышленников как собственные рассуждения, что указывает на более глубокие проблемы безопасности. Это открытие подчеркивает необходимость усиления мер защиты в разработке ИИ.