De un vistazo
- Tareas: Diseña pruebas para evaluar la seguridad de modelos de IA y colabora con investigadores.
- Empresa: Mercor, una empresa innovadora conectando talento creativo y técnico con laboratorios de investigación en IA.
- Beneficios: Salario competitivo de hasta 84$/hora y trabajo remoto.
- Otra información: Ambiente dinámico con oportunidades de crecimiento profesional.
- Por qué este empleo: Contribuye a la seguridad de la IA y marca la diferencia en un campo en crecimiento.
- Cualificaciones: Título universitario y más de 5 años de experiencia en seguridad de IA o campos relacionados.
Mercor conecta talento creativo y técnico de élite con laboratorios de investigación en IA líderes. Con sede en San Francisco, nuestros inversores incluyen a Benchmark, General Catalyst, Peter Thiel, Adam D'Angelo, Larry Summers y Jack Dorsey.
Responsabilidades del rol:
- Diseñar prompts adversariales para poner a prueba modelos de IA de vanguardia.
- Identificar jailbreaks, comportamientos inseguros, alucinaciones y fallos de políticas.
- Evaluar la robustez del modelo en relación con desinformación, ciberseguridad, bioseguridad, fraude, contenido político y otros dominios sensibles.
- Documentar vulnerabilidades y contribuir a informes de evaluación de seguridad y red teaming.
- Colaborar con investigadores de IA para mejorar la alineación, robustez y seguridad del modelo.
Calificaciones necesarias:
- Título universitario o superior en Ciencias de la Computación, Ciberseguridad, Periodismo, Comunicaciones, Psicología, Biología, Química, Políticas Públicas o una disciplina relacionada.
- Más de 5 años de experiencia profesional en Seguridad de IA, Red Teaming de IA, Confianza y Seguridad, ciberseguridad, periodismo de investigación, ciencias de la vida o un campo relacionado.
- Fuertes habilidades de razonamiento analítico, diseño de prompts y comunicación escrita.
- Experiencia en el diseño de prompts adversariales o en la evaluación de sistemas de IA de vanguardia.
Experiencia preferida:
- Experiencia con Red Teaming de IA, RLHF, SFT, Alineación de IA o Confianza y Seguridad.
- Familiaridad con pruebas de jailbreak, ingeniería de prompts o metodologías de evaluación adversarial.
- Experiencia en uno o más dominios de área gris, incluyendo ciberseguridad, bioseguridad, contenido político, desinformación o seguridad científica.
Water Safety Specialist – Remote – Spain in Córdoba empresa: Fut?Ure
Fut?Ure ofrece un entorno de trabajo que prioriza el equilibrio entre la vida laboral y personal, permitiendo a sus empleados crecer profesionalmente en un ambiente solidario. La empresa valora la mejora continua y la colaboración, lo que se traduce en oportunidades para maximizar el valor de los sistemas de recursos humanos. Además, al ser parte de una organización global, los empleados tienen acceso a una cultura empresarial enriquecedora y diversas oportunidades de desarrollo.