De un vistazo
- Tareas: Lidera el rendimiento de inferencia LLM y mejora la eficiencia en modelos avanzados.
- Empresa: Runpod, la nube para desarrolladores de IA con un equipo remoto y colaborativo.
- Beneficios: Salario competitivo, opciones de acciones, planes médicos y tiempo libre flexible.
- Otra información: Ambiente dinámico con oportunidades de crecimiento profesional y un equipo apasionado.
- Por qué este empleo: Impacta directamente en la infraestructura de IA que usan millones de desarrolladores.
- Cualificaciones: 5+ años de experiencia en ingeniería de sistemas y habilidades sólidas en Python.
El salario previsto está entre 49500 - 60500 € por año.
Runpod es la Nube para Desarrolladores de IA. Más de un millón de desarrolladores, desde investigadores independientes hasta equipos que ejecutan modelos avanzados en producción, utilizan Runpod para experimentar, entrenar, ajustar, desplegar y escalar IA en una sola plataforma. La plataforma ha procesado más de 20 mil millones de solicitudes de inferencia. Estamos en un punto de inflexión para la infraestructura de IA y estamos construyendo la plataforma de la que dependerá la próxima generación de desarrolladores. Somos un equipo pequeño y remoto. Tomamos en serio la responsabilidad, nos movemos rápido y entregamos trabajo del que más de un millón de desarrolladores dependen todos los días. Buscamos personas que se preocupen profundamente, construyan con urgencia y quieran tener un impacto a gran escala.
Estamos buscando un Ingeniero de Sistemas de ML, Inferencia. Queremos que Runpod sea el mejor lugar del mundo para ejecutar inferencias de LLM, lo que significa que sea el más rápido y el más rentable. Liderarás ese esfuerzo. Serás responsable del rendimiento del servicio de LLM de principio a fin. Eso significa medirlo, entenderlo y mejorarlo a través de modelos, generaciones de hardware y cargas de trabajo. El trabajo que entregues se reflejará directamente en la latencia y el costo que nuestros clientes experimentan. Este es un rol de ingeniería práctico para alguien que le gusta encontrar el verdadero cuello de botella y solucionarlo, luego convertir esa solución en algo que funcione de manera confiable en producción.
Responsabilidades:
- Definir cómo medimos el rendimiento de la inferencia, incluyendo el rendimiento, el tiempo hasta el primer token, la latencia entre tokens y el costo por token, y construir las herramientas que hagan esas mediciones rigurosas y repetibles.
- Perfil y diagnosticar problemas de rendimiento en toda la pila de servicio, desde la programación y la gestión de memoria hasta los núcleos y la interconexión.
- Mejorar la eficiencia del servicio para modelos grandes y de última generación en implementaciones de GPU de nodo único y multinodo.
- Convertir lo que aprendas en tiempos de ejecución, configuraciones y valores predeterminados listos para producción de los que los clientes se beneficien automáticamente.
- Trabajar en estrecha colaboración con los equipos de producto e infraestructura para dar forma a cómo se ofrece la inferencia en Runpod.
- Mantenerse al día con el ecosistema de inferencia en rápida evolución, incluida la comunidad de código abierto, y decidir qué vale la pena adoptar, qué vale la pena construir y qué vale la pena contribuir de vuelta.
- Rastrear cuellos de botella en el motor/runtime de servicio e implementar soluciones cuando la optimización de configuración no sea suficiente.
Requisitos:
- Más de 5 años de experiencia profesional en ingeniería de sistemas.
- Experiencia práctica profunda con vLLM, SGLang (o un motor de servicio comparable) en producción o a escala de referencia seria.
- Fuertes habilidades de ingeniería de software en Python. Te sientes cómodo trabajando en grandes bases de código críticas para el rendimiento.
- Una sólida comprensión de lo que impulsa el rendimiento de la inferencia de LLM: agrupamiento, memoria, paralelismo y las compensaciones entre latencia y rendimiento.
- Experiencia con técnicas modernas de optimización de inferencia como cuantización, decodificación especulativa o servicio distribuido.
- Rigor en la evaluación comparativa y análisis de rendimiento, además de comodidad con herramientas de perfilado de GPU.
- La capacidad de explicar tus resultados claramente por escrito y convertirlos en decisiones.
Preferido:
- Experiencia escribiendo o ajustando núcleos de GPU en CUDA o Triton.
- Contribuciones a proyectos de sistemas de inferencia o ML.
- Experiencia con sistemas de GPU multinodo y redes de alta velocidad.
- Experiencia en una empresa donde el costo y la latencia de la inferencia eran métricas comerciales clave.
Lo que recibirás:
- El salario base competitivo para este puesto varía de ($150,000 - $220,000). Este rango salarial puede incluir varios niveles de carrera en Runpod y se ajustará durante el proceso de entrevista según varios factores, incluida la experiencia, calificaciones y ubicación del candidato.
- Equidad significativa en una empresa de rápido crecimiento: todos en el equipo reciben opciones sobre acciones; tu impacto impulsa nuestro crecimiento y compartes el beneficio.
- Generosos planes médicos, dentales y de visión.
- PTO flexible: toma el tiempo que necesites para recargar.
- La mayoría de los roles son remotos, con equipos inclusivos y colaborativos utilizando Slack como la principal forma de comunicación interna.
- Únete a un equipo apasionado en la vanguardia de la infraestructura de IA, donde la cultura, el aprendizaje y la propiedad son el corazón de cómo escalamos.
- $1,200 de estipendio para oficina en casa y equipo: te preparamos para el éxito desde el primer día con equipo y apoyo para crear tu espacio de trabajo ideal.
Runpod se compromete a mantener un lugar de trabajo libre de discriminación y a defender los principios de igualdad y respeto por todas las personas. Creemos que la diversidad en todas sus formas enriquece nuestro equipo. Como empleador que ofrece igualdad de oportunidades, Runpod se compromete a crear una fuerza laboral inclusiva en todos los niveles. Evaluamos a los solicitantes calificados sin tener en cuenta la raza, color, religión, sexo, orientación sexual, identidad de género, origen nacional, edad, estado civil, estado de veterano protegido, estado de discapacidad o cualquier otra característica protegida por la ley. Damos la bienvenida a todos los candidatos calificados elegibles para trabajar en los Estados Unidos; sin embargo, actualmente no podemos patrocinar visas de empleo.
Remote Senior Ml Systems Engineer, Inference in Valladolid empresa: Runpod
Runpod es un excelente empleador que ofrece un entorno de trabajo dinámico y colaborativo, ideal para aquellos apasionados por la inteligencia artificial y el desarrollo en la nube. Con un enfoque en la eficiencia y la innovación, los empleados tienen oportunidades significativas de crecimiento profesional y acceso a tecnologías de vanguardia. Además, la cultura de trabajo remoto fomenta la flexibilidad y el equilibrio entre la vida laboral y personal, lo que hace de Runpod un lugar atractivo para desarrollar una carrera significativa.
Consejo de los expertos de StudySmarter🤫
Creemos que así podrías conseguir Remote Senior Ml Systems Engineer, Inference in Valladolid
✨Conéctate con la comunidad tech
Asistir a meetups y conferencias de software en tu área es una gran manera de conocer a la gente clave en la industria. Compartir tus intereses y proyectos en estos eventos puede abrirte puertas inesperadas.
✨Aprovecha las plataformas de código abierto
Contribuir a proyectos de código abierto no solo demuestra tus habilidades técnicas, sino que también te ayuda a hacer contactos valiosos. Además, ¡es una excelente forma de mostrar tu trabajo a futuros empleadores como Runpod!
✨Política de puertas abiertas
No dudes en hacer ‘walk-ins’ en empresas tech locales. Lleva tu CV y una sonrisa, ¡nunca sabes quién puede estar buscando talento nuevo como el tuyo!
✨Aplica directamente en Runpod
Si encuentras una oportunidad que te emociona, como un puesto de Remote Senior Ml Systems Engineer, Inference, no esperes. Aplica a través de nuestra web y asegúrate de destacar tus proyectos y contribuciones, ¡eso puede marcar la diferencia!
Creemos que necesitas estas habilidades para triunfar como Remote Senior Ml Systems Engineer, Inference in Valladolid
Algunos consejos para tu solicitud 🫡
Destaca tus proyectos personales:En ingeniería y desarrollo de software, es fundamental mostrar que no solo sabes hacer lo que se te pide, sino que también eres proactivo. Incluye un enlace a tu GitHub o proyectos personales en tu CV para que podamos ver de lo que eres capaz. Esto realmente añade un plus a tu aplicación.
Personaliza tu CV con tus habilidades técnicas:Asegúrate de destacar las habilidades técnicas que son relevantes para el puesto de Remote Senior Ml Systems Engineer, Inference en Runpod. ¿Conoces lenguajes de programación específicos, frameworks o herramientas que usamos? Menciónalos y, si tienes certificaciones, ¡añádelas! Esto nos muestra que estás preparado para el trabajo desde el primer día.
Carta de motivación sincera:Como estás aplicando a un puesto a tiempo completo, aprovecha la carta de motivación para contarnos por qué eres un buen fit para Runpod. Cuéntanos sobre tu pasión por la tecnología y cómo quieres contribuir al equipo. Queremos saber más sobre tu enfoque y cómo te ves creciendo con nosotros.
Formato claro y conciso:En el mundo del software, la claridad y la concisión son clave. Asegúrate de que tu CV y carta de motivación sean fáciles de leer y bien estructurados. Usa viñetas para resaltar logros y habilidades, y no te olvides de revisar el formato para que se vea profesional, ¡aunque no tienes que ser excesivamente formal!
Cómo prepararte para una entrevista de trabajo en Runpod
✨Prepárate para los retos técnicos
En el mundo de la ingeniería y desarrollo de software, es probable que enfrentes preguntas técnicas y ejercicios de codificación en tu entrevista. Asegúrate de practicar algoritmos y estructuras de datos, porque los reclutadores en Runpod querrán ver cómo resuelves problemas en tiempo real.
✨Muestra tu portafolio de proyectos
Como candidato a un puesto a tiempo completo, es crucial que muestres un portafolio sólido. Presenta tus proyectos anteriores, especialmente aquellos que demuestran habilidades técnicas relevantes y tu capacidad para trabajar en equipo. ¡No dudes en explicar las tecnologías que utilizaste y los desafíos que superaste!
✨Conoce la cultura de trabajo
Investiga a fondo la cultura de trabajo de Runpod. Como ingeniere, a menudo trabajarás en equipo, por lo que demostrar que puedes integrarte bien y que compartes sus valores es clave. Prepara ejemplos de cómo has colaborado en el pasado para alinearte con lo que ellos buscan.
✨Repasa conceptos clave
Haz una lista de conceptos y herramientas clave que son esenciales en el desarrollo de software, como lenguajes de programación, frameworks, y metodologías ágiles. Esto no solo te ayudará a responder preguntas, sino que también te permitirá hacer preguntas inteligentes que demuestren tu interés en el puesto y en las prácticas de Runpod.