Staff Software Engineer - Serverless

Nous recherchons un ingénieur logiciel senior pour diriger techniquement et construire la plateforme sans serveur de Runware. Vous ferez partie d'une petite équipe travaillant en étroite collaboration avec la direction pour lancer une nouvelle ligne de produits. Runware évolue au-delà des API de modèles vers une plateforme où les développeurs peuvent déployer des modèles et exécuter des charges de travail d'IA sans gérer de GPU, de serveurs ou d'infrastructure. Vous construirez la couche logicielle qui connecte notre moteur d'inférence sonic haute performance et transforme une infrastructure complexe en une expérience développeur convaincante. Ce poste est destiné à quelqu'un qui apprécie le leadership technique, les problèmes de plateforme difficiles et les systèmes simples et clairs.

Votre travail aidera les entreprises, les laboratoires de modèles et les développeurs à passer de l'idée à la production plus rapidement, puis à évoluer sans avoir besoin de construire et d'exploiter eux-mêmes l'infrastructure.

Ce que vous ferez :

• Construire les systèmes centraux derrière la plateforme sans serveur de Runware, y compris l'exécution des charges de travail, le routage, la planification, l'isolation et l'évolutivité en tirant parti de notre moteur d'inférence.
• Faciliter le déploiement de modèles et l'exécution de charges de travail d'IA sans gérer de GPU, de serveurs, de files d'attente ou d'infrastructure via une interface SDK simple.
• Concevoir et améliorer le plan de contrôle pour l'exécution sans serveur, y compris les API, les travailleurs, la gestion du cycle de vie, les tentatives et la gestion des échecs.
• Travailler en étroite collaboration avec nos équipes d'infrastructure et de ML pour améliorer le temps de démarrage des charges de travail, l'utilisation des GPU, le préchauffage des modèles, la mise en cache et le placement.
• Construire une observabilité qui rend les charges de travail sans serveur faciles à surveiller, déboguer et exploiter à l'échelle mondiale.
• Diriger la conception technique, encadrer d'autres ingénieurs et aider à définir les normes d'ingénierie pour un nouveau domaine de produit.

Exigences :

• Expérience solide en tant qu'ingénieur senior, ingénieur backend, ingénieur plateforme ou similaire.
• Expérience dans la construction de services backend, de systèmes distribués, de plateformes pour développeurs ou de systèmes d'orchestration de charges de travail.
• Compréhension approfondie du traitement asynchrone, des files d'attente, de la planification, des tentatives, de la pression arrière et de la gestion des échecs.
• À l'aise pour travailler à travers les API, les plans de contrôle, les travailleurs, les bases de données et les systèmes d'observabilité.
• Solides fondamentaux en ingénierie dans un ou plusieurs langages backend, idéalement Go.
• Bon jugement concernant les compromis entre fiabilité, latence, échelle, coût et expérience développeur.
• Communication claire, forte responsabilité et capacité à diriger la direction technique dans un environnement en évolution rapide.

Avis souhaitable :

• Expérience dans la construction de plateformes sans serveur, de systèmes d'exécution de tâches, de plateformes de conteneurs ou de systèmes d'orchestration de calcul.
• Expérience avec des charges de travail soutenues par GPU, l'inférence IA/ML, le service de modèles, le traitement par lots ou le calcul haute performance.
• Familiarité avec des technologies telles que vLLM, TensorRT, Triton, Kubernetes, Nomad ou Knative.
• Expérience dans l'amélioration des performances des charges de travail grâce à la mise en lot, à l'autoscaling, au préchauffage des modèles, à la mise en cache, au routage des requêtes ou à la gestion des files d'attente.
• Expérience avec l'isolation multi-locataires, le sandboxing, les quotas, les limites de taux, la comptabilité des ressources ou la facturation basée sur l'utilisation.

Avantages :

• Nous sommes un collectif à distance, nous nous rencontrons en personne deux fois par an pour planifier, brainstormer, célébrer nos succès et profiter d'un moment en face à face.
• Nous avons des heures de travail centrales pour la coopération et les appels, mais en dehors de cela, votre calendrier vous appartient.
• Travaillez aux heures qui vous permettent de performer à votre meilleur tout en construisant une vie saine.
• Nous avançons rapidement et maintenons un niveau élevé, mais nous croyons également que la performance durable est importante.
• Après des sorties majeures et des jalons, nous créons de l'espace pour que l'équipe puisse se déconnecter correctement, se ressourcer et revenir avec l'énergie nécessaire pour s'attaquer à ce qui vient ensuite.
• Congés payés généreux - vacances, jours de maladie, jours fériés.
• Options d'actions significatives - partagez les bénéfices que vous créez.
• Mise en place à distance - travaillez depuis chez vous, où que nous puissions vous employer.
• Heures flexibles - gérez votre emploi du temps en dehors des blocs de collaboration centrale.
• Congé familial - congé maternité, paternité et temps de soin payés.
• Retraites d'entreprise - rassemblements biannuels dans des lieux inspirants.