🚀 Ollama ускоряет инференс LLM на Mac с Apple MLX

Ollama обновила своё программное обеспечение до версии 0.19, заменив llama.cpp на Apple MLX для работы на Mac с процессорами Apple Silicon. Это позволило значительно увеличить скорость инференса больших языковых моделей (LLM), достигнув двукратного прироста производительности. Переход на Apple MLX делает эту платформу более привлекательной для разработчиков, работающих с искусственным интеллектом на устройствах Apple.