💣 «Контекстные бомбы» снижают эффективность атак с применением ИИ

Исследователи из компании Tracebit предложили новый метод защиты от атак автономных ИИ-агентов. Они разработали «контекстные бомбы», которые сбивают ИИ с курса и направляют его к ложным целям. Эти ловушки помогают снизить эффективность атак, заставляя ИИ тратить ресурсы на ненастоящие задачи.