Coinbase сокращает расходы на ИИ почти вдвое, используя модели с открытыми весами GLM и Kimi в качестве стандартных

Как заявил генеральный директор Coinbase Брайан Армстронг 29 июня, компания сократила расходы на ИИ почти вдвое за счёт оптимизации настроек по умолчанию, маршрутизации и стратегий кэширования, а не за счёт ограничений использования. В качестве моделей по умолчанию через свой LLM-шлюз компания установила модели с открытыми весами, включая GLM от Zhipu и Kimi от Moonshot, при этом 91% сотрудников ни разу не превышали лимиты использования. Доля попаданий в кэш выросла с 5% до 60%, что демонстрирует эффективность оптимизации на уровне инфраструктуры.
Дисклеймер: Информация на этой странице может быть получена из источников третьих сторон и предоставляется только для ознакомления. Она не отражает взгляды или мнения Gate и не является финансовой, инвестиционной или юридической рекомендацией. Торговля виртуальными активами связана с высоким риском. Пожалуйста, не основывайте свои решения исключительно на данных этой страницы. Подробнее смотрите в Дисклеймере.
комментарий
0/400
Нет комментариев