Tether AI 发布开源 TurboQuant，并将其集成至 QVAC SDK 0.12.0
深潮 TechFlow 消息，6 月 01 日，Tether AI 宣布发布开源 TurboQuant，并将其纳入 QVAC SDK 0.12.0。该技术基于 Google Research 的内存压缩算法，可将大语言模型运行中的 KV 缓存压缩最高约 5 倍，在尽量保持输出质量的同时，降低本地与边缘设备的内存占用。
Tether 表示，TurboQuant 可支持笔记本、手机、消费级 GPU、边缘设备及去中心化推理网络处理更长对话、更大文档和更复杂工作负载，并已通过 Fabric 向开发者开放。
Aviso legal: o conteúdo do OKX Orbit é fornecido apenas para fins informativos. Saber mais
Respostas
Related Flash News
"Novo Deus das Ações" Serenity: O financiamento de 80 mil milhões de dólares da Google pode beneficiar empresas do ecossistema upstream como a Micron e a TSMC
Bilionário vende 153 milhões de dólares em ações da Google (GOOGL)
Setor de serviços de computação em nuvem nos EUA fortalece-se, CoreWeave sobe quase 9%
XBIT DEX: As ações dos EUA abriram em baixa, com as ações do conceito cripto geralmente a cair
Instituições de investigação revelam classificações de aplicações empresariais de IA: Nvidia, Meta e Amazon empataram no primeiro lugar
XBIT DEX: A Anthropic prevê 83,2% de probabilidade de melhor modelo de IA até ao final de junho
"New Stock God" Serenity analisa a grande vitória da ARM: de 134 para 354 dólares, a meta de receita de 15 mil milhões é agora totalmente razoável
A Loeb refuta a teoria da bolha: investir em IA definitivamente não é deitar as sanitas com dinheiro; só agora tocámos na superfície do hype
As dez maiores empresas dos EUA estão agora todas ocupadas por empresas relacionadas com tecnologia e IA
XBIT DEX: Espera-se que a Alphabet seja a segunda maior empresa até ao final de maio, probabilidade de 83,4%
Criptomoedas populares
