OpenAI и Broadcom представили чип Jalapeno AI для вывода LLM 25 июня

По данным OpenAI, компания и Broadcom представили Jalapeno 25 июня — собственный AI-ускоритель, предназначенный специально для инференса больших языковых моделей. Разработанный в партнерстве с Broadcom и Celestica, Jalapeno представляет собой первый компонент запланированной многопоколенческой вычислительной платформы, направленной на повышение скорости, эффективности и доступности передовых AI-систем. Чип был создан на основе внутренних исследований требований к инференсу LLM и включает оптимизацию ядра, управление памятью, сетевые и сервисные системы. Ранние инженерные образцы уже выполняют задачи машинного обучения в лабораторных условиях, включая те, что связаны с передовыми моделями, такими как GPT-5.3-Codex-Spark, работающие на целевых частотах и уровнях мощности. Архитектура делает упор на сокращение перемещения данных и сбалансированное распределение ресурсов между вычислительными мощностями, памятью и сетью, и предназначена для работы с разными большими языковыми моделями.
Дисклеймер: Информация на этой странице может быть получена из источников третьих сторон и предоставляется только для ознакомления. Она не отражает взгляды или мнения Gate и не является финансовой, инвестиционной или юридической рекомендацией. Торговля виртуальными активами связана с высоким риском. Пожалуйста, не основывайте свои решения исключительно на данных этой страницы. Подробнее смотрите в Дисклеймере.
комментарий
0/400
Нет комментариев