Remote Senior Ml Systems Engineer, Inference in Madrid

Remote Senior Ml Systems Engineer, Inference in Madrid

Madrid Full Time 49500 - 60500 € / año (est.) Remoto
Runpod

De un vistazo

  • Tareas: Lidera el rendimiento de LLM en Runpod, mejorando la eficiencia y la latencia.
  • Empresa: Runpod, la nube para desarrolladores de IA, con un equipo remoto y colaborativo.
  • Beneficios: Salario competitivo, acciones de la empresa, planes médicos y tiempo libre flexible.
  • Otra información: Ambiente inclusivo que valora la diversidad y el crecimiento profesional.
  • Por qué este empleo: Únete a un equipo apasionado en la vanguardia de la infraestructura de IA.
  • Cualificaciones: 5+ años de experiencia en ingeniería de sistemas y habilidades sólidas en Python.

El salario previsto está entre 49500 - 60500 € por año.

Runpod es la Nube para Desarrolladores de IA. Más de un millón de desarrolladores, desde investigadores independientes hasta equipos que ejecutan modelos avanzados en producción, utilizan Runpod para experimentar, entrenar, ajustar, desplegar y escalar IA en una sola plataforma. La plataforma ha procesado más de 20 mil millones de solicitudes de inferencia. Estamos en un punto de inflexión para la infraestructura de IA y estamos construyendo la plataforma de la que dependerá la próxima generación de desarrolladores. Somos un equipo pequeño y remoto. Tomamos en serio la propiedad, nos movemos rápido y entregamos trabajo del que más de un millón de desarrolladores dependen todos los días. Buscamos personas que se preocupen profundamente, construyan con urgencia y quieran tener un impacto a gran escala.

Estamos buscando un Ingeniero de Sistemas de ML, Inferencia. Queremos que Runpod sea el mejor lugar del mundo para ejecutar inferencias de LLM, lo que significa ser el más rápido y el más rentable. Liderarás ese esfuerzo. Serás responsable del rendimiento de la entrega de LLM de principio a fin. Esto significa medirlo, comprenderlo y mejorarlo a través de modelos, generaciones de hardware y cargas de trabajo. El trabajo que entregues se reflejará directamente en la latencia y el costo que experimentan nuestros clientes.

Esta es una función de ingeniería práctica para alguien que le gusta encontrar el verdadero cuello de botella y solucionarlo, luego convertir esa solución en algo que funcione de manera confiable en producción.

Responsabilidades:

  • Definir cómo medimos el rendimiento de la inferencia, incluyendo el rendimiento, el tiempo hasta el primer token, la latencia entre tokens y el costo por token, y construir las herramientas que hagan que esas mediciones sean rigurosas y repetibles.
  • Perfilar y diagnosticar problemas de rendimiento en toda la pila de entrega, desde la programación y la gestión de memoria hasta los núcleos y la interconexión.
  • Mejorar la eficiencia de entrega para modelos grandes y de última generación en implementaciones de GPU de nodo único y multinodo.
  • Convertir lo que aprendas en tiempos de ejecución, configuraciones y valores predeterminados listos para producción de los que los clientes se beneficien automáticamente.
  • Trabajar en estrecha colaboración con los equipos de producto e infraestructura para dar forma a cómo se ofrece la inferencia en Runpod.
  • Mantenerse al día con el ecosistema de inferencia en rápida evolución, incluida la comunidad de código abierto, y decidir qué vale la pena adoptar, qué vale la pena construir y qué vale la pena contribuir de vuelta.
  • Rastrear cuellos de botella en el motor/runtime de entrega e implementar soluciones cuando la optimización de configuración no sea suficiente.

Requisitos:

  • Más de 5 años de experiencia profesional en ingeniería de sistemas.
  • Experiencia profunda y práctica con v LLM, SGLang (o un motor de entrega comparable) en producción o a escala de referencia seria.
  • Fuertes habilidades de ingeniería de software en Python.
  • Comodidad trabajando en grandes bases de código críticas para el rendimiento.
  • Una comprensión sólida de lo que impulsa el rendimiento de la inferencia de LLM: agrupamiento, memoria, paralelismo y las compensaciones entre latencia y rendimiento.
  • Experiencia con técnicas modernas de optimización de inferencia como cuantización, decodificación especulativa o entrega distribuida.
  • Rigor en la evaluación comparativa y análisis de rendimiento, además de comodidad con herramientas de perfilado de GPU.
  • La capacidad de explicar tus resultados claramente por escrito y convertirlos en decisiones.

Experiencia Preferida:

  • Escritura o ajuste de núcleos de GPU en CUDA o Triton.
  • Contribuciones a proyectos de inferencia o sistemas de ML.
  • Experiencia con sistemas de GPU multinodo y redes de alta velocidad.
  • Experiencia en una empresa donde el costo y la latencia de la inferencia eran métricas comerciales clave.

Lo que recibirás:

  • El salario base competitivo para esta posición varía de ($150,000 - $220,000). Este rango salarial puede incluir varios niveles de carrera en Runpod y se ajustará durante el proceso de entrevista según varios factores, incluida la experiencia, calificaciones y ubicación del candidato.
  • Equidad significativa en una empresa de rápido crecimiento: todos en el equipo reciben opciones sobre acciones; tu impacto impulsa nuestro crecimiento y compartes el beneficio.
  • Planes médicos, dentales y de visión generosos.
  • PTO flexible: toma el tiempo que necesites para recargar.
  • La mayoría de los roles son remotos con equipos inclusivos y colaborativos utilizando Slack como la principal forma de comunicación interna.
  • Únete a un equipo apasionado en la vanguardia de la infraestructura de IA, donde la cultura, el aprendizaje y la propiedad son el corazón de cómo escalamos.
  • Estipendio de $1,200 para oficina en casa y equipo: te equipamos para el éxito desde el primer día con equipo y apoyo para crear tu espacio de trabajo ideal.

Runpod se compromete a mantener un lugar de trabajo libre de discriminación y a defender los principios de igualdad y respeto por todas las personas. Creemos que la diversidad en todas sus formas mejora nuestro equipo. Como empleador que ofrece igualdad de oportunidades, Runpod se compromete a crear una fuerza laboral inclusiva en todos los niveles. Evaluamos a los solicitantes calificados sin tener en cuenta la raza, color, religión, sexo, orientación sexual, identidad de género, origen nacional, edad, estado civil, estado de veterano protegido, estado de discapacidad o cualquier otra característica protegida por la ley. Damos la bienvenida a todos los candidatos calificados elegibles para trabajar en los Estados Unidos; sin embargo, actualmente no podemos patrocinar visas de empleo.

Remote Senior Ml Systems Engineer, Inference in Madrid empresa: Runpod

Runpod es un excelente empleador que ofrece un entorno de trabajo remoto y colaborativo, donde la cultura de propiedad y aprendizaje está en el centro de su crecimiento. Con oportunidades significativas de desarrollo profesional y un paquete de beneficios competitivo que incluye opciones sobre acciones y un generoso estipendio para la oficina en casa, los empleados pueden contribuir a la vanguardia de la infraestructura de IA mientras disfrutan de un equilibrio saludable entre trabajo y vida personal. Aquí, cada miembro del equipo tiene la oportunidad de marcar la diferencia en un sector en rápida evolución.

Runpod

Datos de contacto:

Equipo de selección de Runpod

Consejo de los expertos de StudySmarter🤫

Creemos que así podrías conseguir Remote Senior Ml Systems Engineer, Inference in Madrid

✨Conéctate con la comunidad tech

Asistir a meetups y conferencias de software en tu área es una gran manera de conocer a la gente clave en la industria. Compartir tus intereses y proyectos en estos eventos puede abrirte puertas inesperadas.

✨Aprovecha las plataformas de código abierto

Contribuir a proyectos de código abierto no solo demuestra tus habilidades técnicas, sino que también te ayuda a hacer contactos valiosos. Además, ¡es una excelente forma de mostrar tu trabajo a futuros empleadores como Runpod!

✨Política de puertas abiertas

No dudes en hacer ‘walk-ins’ en empresas tech locales. Lleva tu CV y una sonrisa, ¡nunca sabes quién puede estar buscando talento nuevo como el tuyo!

✨Aplica directamente en Runpod

Si encuentras una oportunidad que te emociona, como un puesto de Remote Senior Ml Systems Engineer, Inference, no esperes. Aplica a través de nuestra web y asegúrate de destacar tus proyectos y contribuciones, ¡eso puede marcar la diferencia!

Creemos que necesitas estas habilidades para triunfar como Remote Senior Ml Systems Engineer, Inference in Madrid

Ingeniería de sistemas
Experiencia en LLM
SGLang
Python
Optimización de inferencia
Cuantización
Decodificación especulativa

Algunos consejos para tu solicitud 🫡

Destaca tus proyectos personales:En ingeniería y desarrollo de software, es fundamental mostrar que no solo sabes hacer lo que se te pide, sino que también eres proactivo. Incluye un enlace a tu GitHub o proyectos personales en tu CV para que podamos ver de lo que eres capaz. Esto realmente añade un plus a tu aplicación.

Personaliza tu CV con tus habilidades técnicas:Asegúrate de destacar las habilidades técnicas que son relevantes para el puesto de Remote Senior Ml Systems Engineer, Inference en Runpod. ¿Conoces lenguajes de programación específicos, frameworks o herramientas que usamos? Menciónalos y, si tienes certificaciones, ¡añádelas! Esto nos muestra que estás preparado para el trabajo desde el primer día.

Carta de motivación sincera:Como estás aplicando a un puesto a tiempo completo, aprovecha la carta de motivación para contarnos por qué eres un buen fit para Runpod. Cuéntanos sobre tu pasión por la tecnología y cómo quieres contribuir al equipo. Queremos saber más sobre tu enfoque y cómo te ves creciendo con nosotros.

Formato claro y conciso:En el mundo del software, la claridad y la concisión son clave. Asegúrate de que tu CV y carta de motivación sean fáciles de leer y bien estructurados. Usa viñetas para resaltar logros y habilidades, y no te olvides de revisar el formato para que se vea profesional, ¡aunque no tienes que ser excesivamente formal!

Cómo prepararte para una entrevista de trabajo en Runpod

✨Prepárate para los retos técnicos

En el mundo de la ingeniería y desarrollo de software, es probable que enfrentes preguntas técnicas y ejercicios de codificación en tu entrevista. Asegúrate de practicar algoritmos y estructuras de datos, porque los reclutadores en Runpod querrán ver cómo resuelves problemas en tiempo real.

✨Muestra tu portafolio de proyectos

Como candidato a un puesto a tiempo completo, es crucial que muestres un portafolio sólido. Presenta tus proyectos anteriores, especialmente aquellos que demuestran habilidades técnicas relevantes y tu capacidad para trabajar en equipo. ¡No dudes en explicar las tecnologías que utilizaste y los desafíos que superaste!

✨Conoce la cultura de trabajo

Investiga a fondo la cultura de trabajo de Runpod. Como ingeniere, a menudo trabajarás en equipo, por lo que demostrar que puedes integrarte bien y que compartes sus valores es clave. Prepara ejemplos de cómo has colaborado en el pasado para alinearte con lo que ellos buscan.

✨Repasa conceptos clave

Haz una lista de conceptos y herramientas clave que son esenciales en el desarrollo de software, como lenguajes de programación, frameworks, y metodologías ágiles. Esto no solo te ayudará a responder preguntas, sino que también te permitirá hacer preguntas inteligentes que demuestren tu interés en el puesto y en las prácticas de Runpod.