NetEase Youdao выпустила платформу ThinkFlow, реализующую визуализацию токенов по всей цепочке

Марсианские новости, NetEase Youdao недавно запустила платформу агрегирования корпоративных больших моделей ThinkFlow.
Эта платформа предназначена для решения стандартных задач при столкновении предприятий с фрагментированным предложением больших моделей, таких как производство токенов, их распространение, выставление счетов и оптимизация эффективности.
Через стандартный API-интерфейс предприятия могут один раз подключиться и вызывать более 20 популярных больших моделей, таких как DeepSeek, Kimi, Qwen, MiniMax, без необходимости переписывать код при переключении моделей на бизнес-стороне.
В платформе встроены интеллектуальные маршрутизаторы и механизмы балансировки нагрузки, поддерживающие переключение в течение миллисекунд при сбоях и снижение нагрузки через отключение.
ThinkFlow также предоставляет визуальную панель для полного отслеживания потребления токенов по всей цепочке, позволяя точно определить стоимость вызова больших моделей за один запрос.