Google lança algoritmo TurboQuant: quantização KV cache de 3 bits sem perda de precisão, velocidade de inferência aumenta até 8 vezes

Notícias do Gate News, a 25 de março, o Google Research lançou o algoritmo de compressão quântica TurboQuant, que consegue comprimir o cache KV de grandes modelos de linguagem para 3 bits, reduzindo o uso de memória pelo menos 6 vezes, sem necessidade de treino ou ajuste fino, sem perder precisão do modelo. No modo de 4 bits, a velocidade de cálculo de atenção na GPU Nvidia H100 é até 8 vezes superior à linha de base de 32 bits não quantificados. A equipe de pesquisa validou o TurboQuant usando modelos Gemma e Mistral em benchmarks de contexto longo como LongBench, Needle In A Haystack e ZeroSCROLLS, alcançando desempenho ótimo em todos os testes. O algoritmo é composto por duas subferramentas: PolarQuant, que elimina o custo de memória das quantizações tradicionais por meio de transformação em coordenadas polares, e QJL, que corrige o erro residual usando apenas 1 bit. A pesquisa foi liderada por Amir Zandieh do Google Research e Vahab Mirrokni, vice-presidente e Google Fellow, em colaboração com KAIST na Coreia do Sul e a Universidade de Nova York, e será apresentada na ICLR 2026. O Google afirmou que uma das principais aplicações dessa tecnologia é resolver o gargalo do cache KV em modelos como Gemini.

Aviso: As informações nesta página podem ser provenientes de terceiros e não representam as opiniões ou pontos de vista da Gate. O conteúdo exibido nesta página é apenas para referência e não constitui aconselhamento financeiro, de investimento ou jurídico. A Gate não garante a exatidão ou integridade das informações e não será responsável por quaisquer perdas decorrentes do uso dessas informações. Os investimentos em ativos virtuais apresentam altos riscos e estão sujeitos a uma volatilidade de preços significativa. Você pode perder todo o capital investido. Por favor, compreenda completamente os riscos envolvidos e tome decisões prudentes com base em sua própria situação financeira e tolerância ao risco. Para mais detalhes, consulte o Aviso Legal.

Related Articles

35% dos investidores europeus trocariam de banco por serviços melhores de cripto, adoção da MiCA acelera

Mensagem do Gate News, 22 de abril — Uma pesquisa da Boerse Stuttgart Digital descobriu que 35% dos investidores europeus considerariam trocar de banco por serviços de criptomoedas melhores, destacando como os ativos digitais começam a influenciar os relacionamentos bancários em todo o continente. A pesquisa cobriu

GateNews36m atrás

Eightco Holdings Divulga $336M Ativos Totais, Incluindo 283,5M WLD e 11.068 ETH

Os totais atualizados do portfólio da Eightco somam US$ 336 milhões, com Worldcoin em 23% (~US$ 77M), OpenAI em 27% (~US$ 90M), Beast Industries em 7% (~US$ 25M), e $118M em caixa/stablecoins; a ETH continua em 11.068 tokens. Resumo: A Eightco Holdings divulga uma composição de ativos de $336 milhões liderada pela Worldcoin, investimentos da OpenAI e da Beast Industries, além de caixa/stablecoins e uma participação em ETH inalterada de 11.068 tokens.

GateNews4h atrás

Pesquisa: 35% dos Investidores Europeus Considerariam Trocar de Banco por Melhores Serviços de Cripto

Mensagem do Gate News, 22 de abril — Uma pesquisa da Börse Stuttgart Digital, braço de ativos digitais da Bolsa de Valores de Stuttgart, descobriu que 35% dos investidores europeus considerariam trocar de banco se outras instituições oferecessem melhores opções de investimento em criptomoedas. O estudo abrangeu aproximadamente 6.000 inve

GateNews4h atrás

DDC Enterprise Divulga Receita Recorde de US$ 39,2M, Detém 2.383 BTC no Valor de US$ 182M

A DDC Enterprise reporta receita de 2025 de US$ 39,2M (+4,6%), detém ~2.383 BTC (~US$182M) entre as 30 maiores, e revela a Plataforma de Inteligência de Tesouraria da DDC orientada por IA para uma gestão otimizada de fundos em Bitcoin.

GateNews5h atrás

Pesquisa do Deutsche Bank mostra que a adoção de Bitcoin nos EUA subiu para 12% em março, acima dos 7% em fevereiro

Mensagem do Gate News, 21 de abril — Uma pesquisa com investidores do gigante bancário alemão Deutsche Bank revelou que a adoção de criptomoedas nos EUA subiu para 12% em março, acima da mínima de 7% em fevereiro, voltando aos níveis projetados para julho de 2025. O relatório destacou a recuperação na demanda institucional como

GateNews16h atrás
Comentário
0/400
Sem comentários