D’après des informations, des chercheurs de NVIDIA et du MIT ont publié Lightning OPD (Offline On-Policy Distillation), un nouveau cadre post-entraînement pour les grands modèles de langage qui élimine la nécessité de garder un modèle enseignant en fonctionnement pendant l’entraînement. En précalculant hors ligne les log-probabilités du modèle enseignant, le cadre améliore l’efficacité de l’entraînement de 4x tout en libérant toutes les ressources GPU pour l’entraînement du modèle étudiant.
Lors de tests sur 8 GPU NVIDIA H100, Lightning OPD a réussi à distiller Qwen3-30B-A3B-Base (un modèle MoE de 30 milliards de paramètres) et a atteint 71,0 sur le benchmark AIME 2024, tandis que l’OPD standard a manqué de mémoire sur le même matériel. Pour le modèle Qwen3-8B plus petit, le cadre n’a nécessité que 30 heures de GPU pour atteindre 69,9 points.
Avertissement : Les informations contenues dans cette page peuvent provenir de tiers et ne représentent pas les points de vue ou les opinions de Gate. Le contenu de cette page est fourni à titre de référence uniquement et ne constitue pas un conseil financier, d'investissement ou juridique. Gate ne garantit pas l'exactitude ou l'exhaustivité des informations et n'est pas responsable des pertes résultant de l'utilisation de ces informations. Les investissements en actifs virtuels comportent des risques élevés et sont soumis à une forte volatilité des prix. Vous pouvez perdre la totalité du capital investi. Veuillez comprendre pleinement les risques pertinents et prendre des décisions prudentes en fonction de votre propre situation financière et de votre tolérance au risque. Pour plus de détails, veuillez consulter l'
avertissement.
Articles similaires
La plateforme B.AI ajoute 8 756 utilisateurs le 11 mai, DeepSeek-V4 alimente 60 % de la consommation de jetons
D'après B.AI, la plateforme a ajouté 8 756 nouveaux utilisateurs le 11 mai, tandis que l’adoption des paiements Stripe parmi les utilisateurs payants principaux a atteint 69,0 %, reflétant une meilleure rétention des développeurs traditionnels et des utilisateurs de niveau production. Les modèles de la série DeepSeek-V4 représentaient près de 60 % de la consommation de tokens, s’appuyant sur des capacités de latence ultra-faible, de concurrence élevée et de débit pour servir de moteur d’exécutio
GateNewsIl y a 13m
Les catalyseurs macroéconomiques se succèdent en masse cette semaine : analyse panoramique de la publication de l’IPC à l’examen du projet de loi CLARITY
Début-mi mai 2026, le marché des cryptomonnaies traverse une fenêtre macro extrêmement rare, sensible aux moindres signaux. Les données américaines de l’IPC (CPI) d’avril seront publiées le 12 mai, le sommet Chine-Pékin (prévu) se tiendra du 13 au 15 mai, et la commission bancaire du Sénat examinera le 14 mai le projet de loi CLARITY (Loi sur la clarté des marchés d’actifs numériques). Trois événements indépendants mais fortement corrélés se concentrent sur le terrain en seulement quatre jours,
GateInstantTrendsIl y a 36m
La startup d’IA voix Vapi termine une levée de fonds $50M Série B menée par Peak XV Partners
D’après TechCrunch, Vapi, une startup d’IA vocale, a finalisé une levée de fonds de série B de 50 millions de dollars, menée par Peak XV Partners, avec une valorisation post-money d’environ 500 millions de dollars. Ring, la filiale d’Amazon, a déployé Vapi pour traiter 100% de ses appels entrants après avoir évalué plus de 40 fournisseurs d’IA vocale, contribuant ainsi à stimuler la levée.
GateNewsIl y a 1h
La précision de GPT-5.4 chute de 100 % à 54 % sur ARC-AGI après un résumé répété de la mémoire
D’après Beating, une récente étude sur la mémoire d’agents par Dylan Zhang, doctorant à l’Université de l’Illinois, a révélé que la répétition de la résumation des expériences du modèle peut dégrader les performances plutôt que les améliorer. Dans des tâches ARC-AGI, GPT-5.4 a atteint 100% de précision sur 19 problèmes sans mémoire, mais après plusieurs tours de compression de la mémoire basés sur des trajectoires de solution correctes, la précision est tombée à 54%. De même, dans des tâches d’a
GateNewsIl y a 1h
OpenAI étend le programme d’accès de confiance à des dizaines d’entreprises européennes le 12 mai
D’après des informations du 12 mai, OpenAI a annoncé son intention d’étendre son programme Trusted Access à des dizaines d’entreprises européennes.
GateNewsIl y a 1h
Transformers en version réelle ! Tech de la société Yushu (宇樹科技) lance le premier robot véhiculaire mondial de production en série, au prix de 570 000 dollars
La société chinoise de robots Unitree Robotics, basée à Hangzhou, a publié le 12 mai son tout nouveau produit, le GD01 : un robot humanoïde mécanisé transportant un passager, capable de basculer librement entre un mode de marche bipède humanoïde et un mode d’escalade quadrupède. On peut dire que c’est un transfert des images de science-fiction des films Transformers et Pacific Rim dans le monde réel. Cette annonce ne constitue pas seulement un spectacle technologique, elle illustre aussi la prog
ChainNewsAbmediaIl y a 2h
