DeepSeek DSpark: нова система за инференс увеличава скоростта на LLM до 4 пъти

DeepSeek, съвместно с Пекинския университет, представи DSpark – система за инференс, предназначена да подобри ефективността на големите езикови модели, без да променя основните им възможности. Решението бързо привлече вниманието на общността от инженери. По-специално, то беше анализирано подробно от Дмитрий Жулгаков, съосновател на Fireworks AI и разработчик на PyTorch, който отбеляза силната му производствено-ориентирана архитектура […]

Прочети цялата публикация