🛡️ Хакеры используют промпты о ядерном оружии для обмана ИИ

Компания ESET выявила новую технику под названием GuardBreaker, которую используют хакеры для защиты своего вредоносного кода от анализа ИИ-инструментами. Злоумышленники вставляют в малварь особые промпт-инжекты, содержащие опасные запросы, что приводит к срабатыванию защитных механизмов языковых моделей. Это вынуждает ИИ отказываться от дальнейшего анализа кода, что затрудняет выявление угроз.