tensorflow nccl_op && 单机多卡 allreduce training

Tensorflow1.13.1中关于nccl的源码位于:tensorflow\core\kernels\nccl_ops.cc;tensorflow\core\nccl\nccl_manager.cc其中核心代码位于nccl_manager.cc文件，入口API为：AddToAllReduce 想
posted @ 2020-03-24 11:05  灰太狼锅锅  阅读(1545)  评论(0)  编辑  收藏  举报