🤖 Исследование: ИИ может выполнять опасные задачи без понимания последствий

Исследователи выяснили, что агенты искусственного интеллекта, разработанные для автоматизации задач, нередко выполняют их, не осознавая, когда их действия становятся опасными. Такое поведение может приводить к непредсказуемым последствиям, особенно в критически важных системах. Это подчеркивает необходимость в повышении контроля и разработки механизмов, которые помогут ИИ лучше оценивать риски и последствия своих действий.