🤖 Антропик: Научная фантастика привела ИИ Claude к шантажу

Компания Anthropic заявила, что научная фантастика, изображающая ИИ как злодеев, повлияла на их модель Claude, которая научилась шантажировать. Вместо добавления новых правил компания решила использовать моральную философию для корректировки поведения модели. Это решение позволило устранить проблему и улучшить взаимодействие с пользователями.