🤖 Google уменьшает память ИИ без потери точности

Google представила новую методику, позволяющую сократить объем памяти, необходимой для работы больших языковых моделей, без потери точности. Это особенно важно на фоне увеличения контекстных окон, что является ключевым ограничением для развертывания ИИ. Однако методика требует дополнительных вычислительных ресурсов, что может создать новые вызовы для разработчиков.