@Higuchi Kokoro
What the Top 1% of Engineering Teams Do Differently with AI
What the Top 1% of Engineering Teams Do Differently with AI
- 開発生産性を測る企業 weaveのブログ
- weave独自指標で、開発生産性が高い上位1%の企業にどんな特徴があるかをまとめている記事
- 指標の定義は” シニアエンジニアが実装するとしたらどれくらい時間がかかるコード”かをMLなどで推定して、それの積み重ねを生産性としている
- 生産性が高い企業の特徴
- 組織がフラット構造であり、エンジニア1人1人がend2endでPJを任されている
- AIの利用料が多いが、アウトプットあたりのコストは小さい
- ReviewしているPRの割合が小さい。その中でもAIがレビューしているものの割合が多い
- 生産性は上がっているが、バグの数は増えてない
- ProductionにデプロイしているPRが多い
@MizutaYuki
Embedding 安定化で検索リランキングのCold start problemを解決
Embedding 安定化で検索リランキングのCold start problemを解決：LINEバイトでの適用事例紹介
- 課題
- LINEバイトの検索では、求人の並び替えにTwo-towerのembeddingをリランキングモデルの特徴量として活用
- Two-towerモデルは新規求人に対応するため毎日再学習している
- （リランクモデルはしていない?）
- 再学習のたびにembedding空間が変化し、リランキングモデルの推論精度悪化
- アプローチ: Embedding Stabilization
- 前日と当日のembedding空間を回転・反転させて揃える
- Low Rank SVD: よりより標準化された低ランク表現へ変換
- Orthogonal Procrustes：embedding の距離関係や内積構造を保ちつつ、前日と当日で重ね合わせる
- 結果
- 当日と前日でembeddingの類似度が大幅に改善
- 各nDCGも改善