Tinygrad: GLM 5.2 достигла 120 токенов в секунду на двойной конфигурации Blackwell за $150 000

Как сообщает BlockBeats, 21 июня Tinygrad заявил, что GLM 5.2 обеспечивает скорость инференса 120 токенов в секунду на двухсетевой архитектуре Blackwell в настройке tinybox. Конфигурация за 150 000 долларов доступна либо в виде двух стандартных устройств tinybox, либо в виде одного tinybox Pro. Tinygrad позиционирует это предложение как вариант частного развертывания вместо облачных сервисов инференса с слоганом «buy once, never pay cloud fees again» («купите один раз — и больше никогда не платите за облако»). GLM официально не подтверждал заявленные показатели.
Дисклеймер: Информация на этой странице может быть получена из источников третьих сторон и предоставляется только для ознакомления. Она не отражает взгляды или мнения Gate и не является финансовой, инвестиционной или юридической рекомендацией. Торговля виртуальными активами связана с высоким риском. Пожалуйста, не основывайте свои решения исключительно на данных этой страницы. Подробнее смотрите в Дисклеймере.
комментарий
0/400
Нет комментариев