Runpod, the AI Developer Cloud, is seeking an ML Systems Engineer focused on inference. You will own end-to-end LLM serving performance, measure throughput and latency, and drive optimizations across models and hardware generations.
This is a hands-on role dedicated to reducing cost per token and improving reliability in production. You’ll work with vLLM and SGLang, optimize for API-level latency, and collaborate with product and infra teams to craft scalable, production-grade runtimes and
Lead ML Inference Systems Engineer empresa: College Recruiter
Capitole es una de las mejores empresas de consultoría IT, donde la gente es el centro de todo. Ofrecemos un ambiente de trabajo flexible y humano, con oportunidades de crecimiento profesional a través de un presupuesto anual de formación de 1200 € y un camino de carrera adaptado a tus necesidades. Además, disfrutarás de un equipo diverso y dinámico, acceso a comunidades tecnológicas y eventos emocionantes, todo mientras trabajas en proyectos interesantes desde la comodidad de tu hogar en España.