Research Scientist / Engineer - Large-scale Training in Paris

Votre mission en tant que chercheur scientifique / ingénieur — Formation à grande échelle consiste à développer les architectures et les méthodes de formation qui rendent les modèles fondamentaux robotiques d'UMA plus capables et plus efficaces à former. Vous allez enquêter sur la manière dont la conception des modèles, l'optimisation et l'implémentation consciente du matériel fonctionnent ensemble pour offrir de meilleures performances aux robots humanoïdes dans un budget de calcul donné.

Votre objectif principal sera le pré-entraînement, avec un travail s'étendant au milieu et après l'entraînement. Vous explorerez des architectures multimodales efficaces, des recettes d'entraînement plus rapides et des stratégies de mise à l'échelle efficaces en calcul, en utilisant des expériences contrôlées pour déterminer quelles améliorations se traduisent par de meilleures capacités sur de vrais robots.

Nous avons déjà une pile d'entraînement fonctionnelle et une équipe solide derrière elle. En travaillant en étroite collaboration avec des chercheurs en IA et des ingénieurs en infrastructure de formation, vous ferez passer des idées de changements architecturaux et de prototypes au niveau noyau à travers des expériences d'entraînement jusqu'à une validation à plus grande échelle. Vos découvertes façonneront ce que nous entraînons, comment nous l'entraînons et comment nous allouons le calcul.

Responsabilités clés :

• Rechercher des architectures de modèles efficaces pour les modèles fondamentaux robotiques, y compris les mécanismes d'attention, la fusion multimodale, la tokenisation visuelle et d'action, la compression de séquence, et les conceptions denses contre rares ou mélange d'experts.
• Optimiser les recettes d'entraînement et la convergence à travers des choix d'optimisateurs, de calendriers de taux d'apprentissage, d'initialisation, de normalisation, de tailles de lot et de précision numérique.
• Co-concevoir des architectures et des noyaux de calcul : identifier les opérations coûteuses, explorer des alternatives adaptées au matériel, et prototyper des noyaux fusionnés ou personnalisés en utilisant des outils tels que Triton ou CUDA lorsque cela est utile.
• Enquêter sur l'attention efficace et le traitement des séquences, réduisant le coût de l'apprentissage à partir de vidéos, de contextes temporels et de séquences d'actions tout en préservant des informations utiles.
• Développer des lois de mise à l'échelle et des études d'allocation de calcul pour comprendre comment les performances changent avec la taille du modèle, les données d'entraînement et le calcul.
• Rechercher des techniques d'accélération de l'entraînement, telles que des augmentations progressives de la résolution ou de la longueur du contexte, le gel sélectif, le partage de paramètres, et le calcul à faible précision, en évaluant leurs effets sur la stabilité et la performance finale.
• Exécuter des ablations contrôlées et des benchmarks de performance qui distinguent une exécution plus rapide d'une meilleure efficacité d'apprentissage, en suivant le temps réel, le calcul, la mémoire, la convergence et la capacité en aval.
• Diagnostiquer les dynamiques d'entraînement et les instabilités numériques, y compris le comportement des gradients, la sensibilité à la précision, les pics de perte, et les changements qui émergent à mesure que les modèles ou les tailles de lot évoluent.
• Évaluer comment les améliorations du pré-entraînement se transfèrent à travers le milieu et l'après-entraînement vers le succès des robots réels, la généralisation, la robustesse et l'efficacité d'adaptation.
• Travailler avec des ingénieurs en infrastructure de formation pour intégrer des méthodes validées dans des systèmes d'entraînement évolutifs et reproductibles, et avec des chercheurs en données pour étudier les interactions entre la capacité du modèle, les mélanges de données et la durée de l'entraînement.

Ce que vous apportez :

• Expérience antérieure dans l'entraînement de modèles fondamentaux à grande échelle tels que les LLMs, la génération vidéo ou les encodeurs visuels.
• Solide expérience en recherche sur l'apprentissage profond, l'entraînement efficace des modèles, les modèles fondamentaux ou les systèmes ML, démontrée à travers des projets de recherche, des publications, des systèmes déployés ou des travaux open-source.
• Solides compétences en Python et PyTorch, avec une expérience pratique dans l'implémentation d'architectures et la réalisation d'expériences d'entraînement substantielles.
• Une compréhension approfondie des architectures de modèles, de l'optimisation et des dynamiques d'entraînement, et la capacité d'expliquer pourquoi un changement affecte la convergence, la stabilité ou le coût computationnel.
• Expérience dans l'amélioration de l'efficacité de l'entraînement, que ce soit par la conception d'architectures, des méthodes d'optimisation, la précision numérique ou l'implémentation consciente du matériel.
• Capacité à raisonner sur le calcul, la bande passante mémoire, les formes de tenseurs et l'exécution GPU, et à relier les résultats de profilage aux décisions de recherche.
• Un jugement expérimental solide : bases significatives, comparaisons de calcul équitables, résultats reproductibles et interprétation soigneuse des tendances de mise à l'échelle.
• Intérêt pour la connexion de la recherche sur l'entraînement efficace à l'apprentissage multimodal et aux capacités robotiques du monde réel.
• Capacité à prospérer dans une startup dynamique : autonome, rigoureux, collaboratif et à l'aise pour passer entre recherche et mise en œuvre.

Atouts :

• Triton, CUDA, noyaux fusionnés, attention efficace ou optimisation basée sur le compilateur.
• Laws de mise à l'échelle, entraînement optimal en calcul, modèles de mélange d'experts ou pré-entraînement multimodal à grande échelle.
• Entraînement distribué, entraînement à faible précision, modèles vision-langage-action ou apprentissage robotique.
• Contributions open-source, mises en œuvre de recherche reproductibles ou rédaction technique.

Nous valorisons une expertise approfondie dans un ou plusieurs de ces domaines, ainsi que la curiosité de travailler à travers eux. UMA est un lieu de travail inclusif qui valorise des chercheurs et des bâtisseurs exceptionnels plutôt que des parcours parfaits. Quelle que soit votre origine, votre identité ou votre parcours, si vous ne répondez pas à tous les critères mais pensez pouvoir avoir un impact important ici, nous vous encourageons vivement à postuler.

Faites en sorte que chaque unité de calcul compte pour des robots plus capables.