作者简介
柳浩，网名“罗西的 思考 ”，浙江大学硕士。曾就职于多家 世界 500强 企业 ，主导过多个大型项目，现就职于某新能源车企。 技术 栈广博，有丰富的各种大型 软件 开发 和 系统 架构 经验 ，对机器 学习 框架、微服务框架、大 数据 引擎、NoSQL、消息队列、分布式追踪系统、可观测系统、可靠性 设计 、移动开发方案和源码有着深刻的理解和认识。
内容简介
《分布式 机器学习 ——系统、工程与实战》主要讲解分布式机器学习 算法 和开源框架，读者既可以从宏观的设计上了解分布式机器学习的概念和 理论 ，也可以深入核心技术的细节设计中，对分布式机器学习形成深刻而直观的认识，做到学以致用。
《分布式机器学习——系统、工程与实战》共分为5篇，第1篇是分布式基础，首先介绍了分布式机器学习的概念、基础设施，以及机器学习并行化技术、框架和软件系统，然后对集合通信和参数服务器PS-Lite进行了介绍。第2篇是数据并行，以PyTorch和Horovod为主对数据并行进行分析，读者可以了解在具体工程领域内实现数据并行有哪些挑战和解决方案。第3篇是流水线并行，讲解了除模型划分之外，还通过引入额外的流水线来提高 效率 ，以GPipe / PyTorch / PipeDream为例进行分析。第 4 篇是模型并行，首先对NVIDIA Megatron进行分析，讲解如何进行层内模型并行，然后讲解PyTorch 如何支持模型并行，最后介绍分布式优化器。第5篇是TensorFlow分布式，前面几篇以PyTorch为纲，结合其他框架/库来穿插完成，本篇带领大家进入TensorFlow分布式领域。
柳浩，网名“罗西的思考”，浙江大学硕士。曾就职于多家世界500强企业，主导过多个大型项目，现就职于某新能源车企。技术栈广博，有丰富的各种大型软件开发和系统架构经验，对机器学习框架、微服务框架、 大数据 引擎、NoSQL、消息队列、分布式追踪系统、可观测系统、可靠性设计、移动开发方案和源码有着深刻的理解和认识。
评论列表
发表评论