LLM研究員(事前学習・コンピュータービジョン・敵対的頑健性)
今すぐ応募 → →このリンクから応募されると、SignalGigsが紹介料を受け取る場合があります。
仕事内容
研究範囲
コンピュータービジョンと言語にまたがる、範囲は明確でも解法が定まっていない実証的な機械学習課題に取り組みます。データ準備、モデル学習、失敗の診断、結果の測定、厳しいデータ量・計算量・パラメータ数・サイズ・遅延の制約内での性能向上まで、一貫した責任が求められます。主な業務は以下のとおりです。
- 画像分類器と画像生成モデルをゼロから学習
- 重みが公開された言語モデルのファインチューニング
- データ効率と学習効率の改善
- 最適化、安定性、汎化の問題の診断
- 精度を維持しながらモデルを圧縮
- 統計的に妥当な比較による結果の評価
敵対的頑健性
関連する経験には、画像分類器の敵対的学習、射影勾配法、頑健性を重視した目的関数、標準的な脅威モデルでの評価などがあります。頑健精度の測定、勾配マスキングの落とし穴の回避、クリーン精度と頑健性のトレードオフの管理、頑健性における過学習への対処を理解している必要があります。言語モデルの行動面の頑健性も対象です。複数ターンでの挙動の形成、説得や迎合への耐性、確信度の適切な調整、モデルが訂正を受け入れるべき状況の判断などが役立ちます。
効率的なコンピュータービジョン
案件では、類似したクラスが多く、事例数が限られる細粒度の画像認識を扱う場合があります。量子化、枝刈り、知識蒸留、デバイス上・エッジ・組み込み環境での厳しい制約下のデプロイ経験が有用です。パラメータ数、メモリ使用量、推論遅延を削減しながら精度を維持するアーキテクチャと学習手順を、適切に選べることが求められます。
画像生成モデリング
関連する経歴には、拡散モデル、敵対的生成ネットワーク、変分オートエンコーダー、フローベースモデルをゼロから学習した経験があります。サンプル品質の指標に照らした迅速な反復や、限られた学習時間・小さなモデルサイズでも優れた生成器を作る技術を扱う場合があります。
言語モデルの事後学習
教師ありファインチューニング、選好最適化、人間やAIのフィードバックを用いた強化学習、または関連する事後学習手法の実務経験が役立ちます。合成生成、弱いまたはノイズのある教師信号、棄却サンプリング、一般的な能力を損なわず特定の挙動を変える目的を絞ったアラインメントを通じて、データセットを構築する場合があります。
多言語の事前学習
研究では、ゼロから学習する多言語モデルや低資源言語モデルを扱う場合があります。関連するテーマには、文字体系や語族をまたぐトークナイザー設計、大きく偏った言語データのサンプリング戦略、データ制約下での言語間転移があります。
その他の研究分野
以下の経験も役立ちます。
- スケーリング則と効率的な学習の研究
- カリキュラム学習とデータの順序付け
- ベンチマーク設計とデータ汚染の管理
- 不確実性の推定とキャリブレーション
- 頑健性を高めるデータ拡張と合成データ
応募資格
機械学習の研究経験が3年以上必要で、博士課程での研究もこの経験に含まれます。主要な深層学習フレームワークを使いこなす高い実務能力が必須です。評価の高い大学の学位、大手技術企業・AI組織での経験、または同等の論文実績や影響力のあるオープンソース活動によって、求められる研究水準を示せます。柔軟なプロジェクト単位の契約で、報酬は競争力のある水準とされています。