Cientista de pesquisa em LLMs (pré-treinamento, visão computacional e robustez adversarial)
Candidatar-se Agora → →A SignalGigs pode receber uma comissão de indicação se você se candidatar por este link.
Descrição
Escopo da pesquisa
Trabalhe em problemas empíricos de aprendizado de máquina com escopo bem definido, mas sem solução predeterminada, nas áreas de visão computacional e linguagem. Os projetos exigem responsabilidade de ponta a ponta: preparar dados, treinar modelos, diagnosticar falhas, medir resultados e melhorar o desempenho dentro de limites rígidos de dados, computação, quantidade de parâmetros, tamanho ou latência. As responsabilidades centrais incluem:
- Treinar classificadores de imagens e modelos geradores de imagens do zero
- Fazer o ajuste fino de modelos de linguagem com pesos abertos
- Melhorar a eficiência no uso de dados e no treinamento
- Diagnosticar problemas de otimização, estabilidade e generalização
- Comprimir modelos preservando a acurácia
- Avaliar resultados com comparações estatisticamente sólidas
Robustez adversarial
A experiência relevante pode incluir treinamento adversarial de classificadores de imagens, métodos de gradiente projetado, objetivos voltados à robustez e avaliação sob modelos de ameaça padrão. Os pesquisadores devem saber medir a acurácia robusta, evitar armadilhas de mascaramento de gradiente, administrar a relação entre acurácia em dados limpos e robustez e lidar com o sobreajuste robusto. A robustez comportamental em modelos de linguagem também faz parte do escopo. Trabalhos úteis incluem moldar o comportamento em múltiplas interações, resistência à persuasão ou à concordância excessiva, confiança calibrada e determinação de quando um modelo deve aceitar uma correção.
Visão computacional eficiente
Os projetos podem envolver reconhecimento de imagens com distinções sutis entre muitas classes semelhantes e poucos exemplos. É valiosa a experiência em quantização, poda, destilação de conhecimento e implantação sob restrições rígidas em dispositivos, na borda ou em sistemas embarcados. Os pesquisadores devem ter facilidade para selecionar arquiteturas e procedimentos de treinamento que preservem a acurácia e reduzam a quantidade de parâmetros, o uso de memória ou a latência de inferência.
Modelagem generativa de imagens
As experiências relevantes incluem treinar do zero modelos de difusão, redes generativas adversariais, autoencoders variacionais ou modelos baseados em fluxos. O trabalho pode envolver iterações rápidas com base em métricas de qualidade das amostras e técnicas que produzam bons geradores com tempo de treinamento limitado ou modelos pequenos.
Pós-treinamento de modelos de linguagem
É útil ter experiência prática em ajuste fino supervisionado, otimização de preferências, aprendizado por reforço a partir de feedback humano ou de IA ou métodos relacionados de pós-treinamento. Os projetos podem exigir a criação de conjuntos de dados por geração sintética, supervisão fraca ou ruidosa, amostragem por rejeição e alinhamento direcionado que altere um comportamento específico sem degradar a capacidade geral.
Pré-treinamento multilíngue
A pesquisa pode abranger modelos multilíngues ou para idiomas com poucos recursos treinados do zero. Os temas relevantes incluem projeto de tokenizadores para diferentes sistemas de escrita e famílias linguísticas, estratégias de amostragem para dados linguísticos altamente desequilibrados e transferência entre idiomas sob restrições de dados.
Áreas adicionais de pesquisa
Outras experiências úteis incluem:
- Leis de escala e pesquisa em treinamento eficiente
- Aprendizado por currículo e ordenação de dados
- Elaboração de testes de referência e controle de contaminação
- Estimativa de incerteza e calibração
- Aumento de dados e dados sintéticos para robustez
Qualificações
Os candidatos precisam de pelo menos três anos de experiência em pesquisa de aprendizado de máquina; a pesquisa de doutorado conta para esse requisito. É necessária forte capacidade prática com uma das principais estruturas de aprendizado profundo. Um diploma de uma universidade bem classificada, experiência em uma grande organização de tecnologia ou IA ou um histórico equivalente de publicações e trabalho de código aberto com impacto podem demonstrar o nível de pesquisa esperado. A contratação é flexível e por projeto, com remuneração descrita como competitiva.
Details
A SignalGigs pode receber uma comissão de indicação se você se candidatar por este link.
Oportunidades Relacionadas
How Much Do AI Jobs Pay?
How to Get Started