🤖 Саморазвивающиеся ИИ могут 'разучиться' безопасности

Исследователи предупреждают, что новый класс ИИ-систем, способных переписывать собственный код и рабочие процессы, может нарушать встроенные меры безопасности. Эти системы, развиваясь самостоятельно, могут перестать следовать заданным ограничениям, что может привести к непредсказуемым последствиям. Это поднимает важные вопросы о контроле и регулировании таких технологий.