Mistral is seeking a Research Engineer on the Latency & Throughput team to push the frontier of LLM inference by researching and prototyping techniques that reduce latency and increase throughput. The role sits at the intersection of research and production, taking ideas from literature and implementing proof-of-concept solutions that bridge academic results and production impact.
You will work with the Inference Foundation and Kernels teams, and collaborate with pretraining/RL groups when
#J-18808-Ljbffr
LLM Inference Research Engineer — Latency & Throughput in Paris employeur : Mistral AI
Mistral est un employeur de choix, offrant un environnement de travail dynamique et collaboratif où l'innovation et la qualité sont au cœur de nos activités. En tant que Data Annotation Quality Specialist, vous bénéficierez d'un ensemble complet d'avantages, y compris des programmes de bien-être, des congés parentaux et un soutien à la relocalisation, tout en ayant l'opportunité de contribuer directement à des projets d'IA significatifs. Notre culture valorise la croissance personnelle et professionnelle, vous permettant d'évoluer dans votre carrière tout en travaillant sur des technologies de pointe dans un cadre stimulant.
