Tether AI выпускает TurboQuant с открытым исходным кодом, интегрирует его в QVAC SDK 0.12.0 с 5-кратным сжатием KV Cache

2026-06-01 13:16:39

Tether AI недавно выпустила с открытым исходным кодом TurboQuant и интегрировала его в QVAC SDK 0.12.0. На основе алгоритма сжатия памяти для кэшей из Google Research технология сжимает KV-кэши больших языковых моделей до 5 раз, снижая потребление памяти на локальных и периферийных устройствах при сохранении качества выходных данных.

Посмотреть источник

Дисклеймер: Информация на этой странице может быть получена из источников третьих сторон и предоставляется только для ознакомления. Она не отражает взгляды или мнения Gate и не является финансовой, инвестиционной или юридической рекомендацией. Торговля виртуальными активами связана с высоким риском. Пожалуйста, не основывайте свои решения исключительно на данных этой страницы. Подробнее смотрите в Дисклеймере.

Связанные новости

1ч назад

OpenAI демонстрирует AI-операционную систему для телефона без традиционных приложений на Voice Hack Night

4ч назад

B.AI интегрирует мультимодальную LLM MiniMax M3 с окном контекста в 1 млн с 1 июня

6ч назад

NVIDIA запускает открытые исходные физические AI-инструменты для робототехники и цифровых двойников 1 июня

7ч назад

Lenovo, Dell, HP и Microsoft выпустят ПК с суперчипом NVIDIA RTX Spark во второй половине 2026 года

10ч назад

Дженсен Хуанг определяет архитектуру ИИ-агентов на GTC Taipei 2026: LLM-плюс оркестрационный движок

Детальный анализ