Google запускает отдельные AI-чипы для обучения и инференса, повышая производительность в 2,8 раза

Новостное сообщение Gate, 23 апреля — 22 апреля Google объявила, что выпустит отдельные чипы TPU восьмого поколения для обучения и для инференса позже в этом году, заменив свою прежнюю объединенную конструкцию. Этот шаг нацелен на рабочие нагрузки AI-агентов и предлагает клиентам Google Cloud альтернативу аппаратному обеспечению Nvidia.

Чип для обучения обеспечивает в 2,8 раза более высокую производительность TPU Ironwood седьмого поколения от Google при той же цене, а чип для инференса работает на 80% быстрее и оснащен 384 МБ SRAM, что в три раза больше, чем в Ironwood. Разделение возможностей для обучения и инференса отражает сдвиг в том, как компании оптимизируют под разные вычислительные потребности.

Инициатива подкреплена долгосрочным партнерством с Broadcom и Anthropic. Anthropic планирует использовать примерно 3,5 гигаватта вычислений на TPU через Broadcom начиная с 2027 года, при этом Broadcom будет отвечать за производство чипов и сетевые компоненты до 2031 года. Anthropic, стартап в области ИИ, стоящий за Claude, в последнее время увидел, что ежегодная выручка превысила $30 billion. Тем временем Apple, Microsoft, Meta и Amazon также расширяют усилия по разработке собственных AI-чипов, чтобы снизить зависимость от Nvidia, которая по-прежнему остается лидером рынка.