AIレッドチーム担当 — 敵対的AIテスト（上級）；英語およびブラジルポルトガル語

勤務地：リモート勤務；居住地域は米国、ブラジルに限定

雇用形態：フルタイムまたはパートタイムの契約社員

必須の言語スキル： 英語およびブラジルポルトガル語。このポジションには、英語およびブラジルポルトガル語のネイティブレベルの流暢さが求められます。

この役職の意義

Mercorでは、最も安全なAIとは、すでに攻撃を受けているAI、つまり私たちによって攻撃されたAIであると考えています。このプロジェクトのために、私たちはレッドチームを結成しています。これは、敵対的入力でAIモデルを検証し、脆弱性を洗い出し、お客様にとってより安全なAIを実現するためのレッドチームデータを生成する、人間のデータ専門家たちです。

このプロジェクトでは、バイアス、誤情報、有害な行動など、デリケートなトピックに関わるAIの出力をレビューします。業務はすべてテキストベースで行われます。機密性の高いプロジェクトへの参加は任意であり、明確なガイドラインとウェルネス支援リソースが用意されています。コンテンツに接触する前に、対象となるトピックは明確に通知されます。

主な業務内容

• 対話型AIモデルおよびエージェントに対するレッドチーム活動：ジェイルブレイク、プロンプトインジェクション、悪用ケース、バイアスの悪用、マルチターン操作

• 高品質なヒューマンデータの生成：失敗事例の注釈付け、脆弱性の分類、システミックリスクの特定

• 体系的なアプローチ：分類法、ベンチマーク、プレイブックに従い、一貫性のあるテストを実施

• 再現性のあるドキュメント作成：顧客が具体的なアクションを起こせるレポート、データセット、攻撃ケースの作成

求める人物像

• Y