@Higuchi Kokoro

Running a Software Factory Efficiently at Uber Scale

Running a Software Factory Efficiently at Uber Scale

• Uber社内で効率的にAI Agentを活用するために行なっている工夫をまとめた記事
• 2月からAIのWAUは7倍、リクエストは9.4倍している
  • リクエストあたりのコストは34%ダウン、,セッションあたりは52%ダウン
• どんなことをしているか
  • Agentのレイヤーを分けて管理している
  • トータルの使用量を分けてそれぞれに最適化を図っている
    • Price/Token
      • モデルをベンチマークしてパレート最適なものを常に選べるようにする
    • Token/Req
      • 適切なキャッシュ戦略を選ぶ
      • MCPを呼ぶ時、よく呼ぶ場合は、結果などをAgentに返さないようにする
    • Req/Trunなど…
      • 社内コンテキストをグラフで管理

@MizutaYuki

Pre-release of Polars 2.0

Pre-release of Polars 2.0

• Polars 2.0 RC が出た（正式版は数週間以内）。新機能ではなく、既定値とAPIの整理がメインです。
• LazyFrame.collect() が streaming engine 既定に。
  • 集計で約5倍高速、メモリも大幅減。
  • 代償として join / group_by / unpivot の行順が保証されない
  • コレが破壊的変更なので、今回メジャーアップデートになった最大の要因
  • 絵を描いてもらった
• 厳格化
  • is_in の非可逆な型変換（Int64 を Float64 に寄せて 2^53 超が丸まる）
  • 水平 concat の長さ不一致（従来は null 埋め、今後は要 how="horizontal_extend"）
  • 曖昧な cast の削除
  • AIエージェントは collect_schema() を使ってクエリの構造を早い段階で検証しよう
• 削除済みAPIは移行先を案内（melt→unpivot 等）
• 今後
  • streaming engine の本格的な out-of-core 対応 / 新しい IO plugin / S3 reader …