Vitalik suggère de standardiser le matériel local pour les LLM autour de la catégorie de mémoire de 96 Go

ETH-3,17%
D’après PANews, le 28 mai, l’un des cofondateurs d’Ethereum, Vitalik Buterin, a suggéré que les déploiements de grands modèles de langage (LLM) locaux se standardisent autour de configurations de mémoire précises, avec 96 Go identifiés comme une limite supérieure faisable pour le matériel actuel. Buterin a cité le GPU RTX 6000 avec 96 Go de mémoire VRAM et des MacBook haut de gamme avec 128 Go de mémoire unifiée comme points de référence, en notant qu’environ 32 Go devraient être réservés aux autres tâches du système. Il a proposé que l’écosystème adopte des paliers de capacité standardisés — 2 Go, 8 Go, 24 Go, 96 Go, 256 Go et 1 To — afin d’améliorer l’efficacité des déploiements et la compatibilité inter-plateformes pour les deux LLM et la conception du matériel GPU.
Avertissement : Les informations figurant sur cette page peuvent provenir de sources tierces et sont fournies à titre indicatif uniquement. Elles ne reflètent pas les points de vue ou opinions de Gate et ne constituent pas un conseil financier, d’investissement ou juridique. Le trading des actifs virtuels comporte des risques élevés. Veuillez ne pas vous fonder uniquement sur les informations de cette page pour prendre vos décisions. Pour en savoir plus, consultez l’avertissement.
Commentaire
0/400
Aucun commentaire