ML アクセラレータ TPU の分散実行インフラについて向井が読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。
- [2203.12533] Pathways: Asynchronous Distributed Dataflow for ML
- [2204.02311] PaLM: Scaling Language Modeling with Pathways
- System Architecture | Cloud TPU | Google Cloud