NetEase Youdao lanza la plataforma ThinkFlow, que permite la visualización de tokens en toda la cadena

robot
Generación de resúmenes en curso

Noticias de Mars Finance, NetEase Youdao ha lanzado recientemente la plataforma de agregación de modelos grandes a nivel empresarial ThinkFlow.
La plataforma está diseñada para resolver el problema de estandarización en la producción, distribución, facturación y optimización de eficiencia de tokens cuando las empresas enfrentan una oferta fragmentada de modelos grandes.
A través de una interfaz API estándar, permite a las empresas acceder a más de 20 modelos grandes principales como DeepSeek, Kimi, Qwen, MiniMax con una sola integración, y cambiar de modelos sin reescribir el código en el lado del negocio.
La plataforma cuenta con mecanismos integrados de enrutamiento inteligente y balanceo de carga, que soportan conmutación de fallos y degradación en milisegundos.
ThinkFlow también ofrece un panel de visualización de consumo de tokens de extremo a extremo, que permite visualizar con precisión el costo de llamadas a modelos grandes por cada solicitud.

Ver original
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
  • Recompensa
  • Comentar
  • Republicar
  • Compartir
Comentar
Añadir un comentario
Añadir un comentario
Sin comentarios
  • Anclado