Membro da Equipa Vermelha de IA — Testes Adversariais de IA (Nível Avançado); Inglês e Português do Brasil

Localização: Remoto; Restrito aos EUA e ao Brasil

Tipo: Trabalho por contrato a tempo inteiro ou a tempo parcial

Competências linguísticas exigidas: Inglês e Português do Brasil. É exigida fluência de nível nativo em inglês e português do Brasil para esta função.

Por que esta função existe

Na Mercor, acreditamos que a IA mais segura é aquela que já foi atacada — por nós. Estamos a formar uma equipa vermelha para este projeto — especialistas em dados humanos que testam modelos de IA com entradas adversárias, identificam vulnerabilidades e geram os dados da equipa vermelha que tornam a IA mais segura para os nossos clientes.

Este projeto envolve a análise de resultados de IA que abordam temas sensíveis, como preconceitos, desinformação ou comportamentos prejudiciais. Todo o trabalho é baseado em texto, e a participação em projetos de maior sensibilidade é opcional e apoiada por diretrizes claras e recursos de bem-estar. Antes de ser exposto a qualquer conteúdo, os temas serão claramente comunicados.

O que irá fazer

• Modelos e agentes de IA conversacional da equipa vermelha: jailbreaks, injeções de prompts, casos de uso indevido, exploração de preconceitos, manipulação em várias etapas
• Gerar dados humanos de alta qualidade: anotar falhas, classificar vulnerabilidades e sinalizar riscos sistémicos
• Aplicar estrutura: seguir taxonomias, benchmarks e manuais para manter a consistência dos testes
• Documentar de forma reproduzível: produzir relatórios, conjuntos de dados e casos de ataque sobre os quais os clientes possam agir

Quem é que você é

• Y