• 数据并行执行引擎

    数据并行执行引擎

    ParallelExecutor 是以数据并行的方式在多个节点上分别执行 Program 的执行器。用户可以通过Python脚本驱动 ParallelExecutor 执行， ParallelExecutor 的执行过程：

    • 首先根据 Program 、 GPU 卡的数目（或者 CPU 的核数）以及 BuildStrategy 构建 SSA Graph 和一个线程池;

    • 执行过程中，根据Op的输入是否Ready决定是否执行该Op，这样可以使没有相互依赖的多个Op可在线程池中并行执行；ParallelExecutor 在构造时需要指定当前 Program 的设备类型， GPU 或者 CPU ：

    • 使用 GPU 执行： ParallelExecutor 会自动检测当前机器可以使用 GPU 的个数，并在每个 GPU 上分别执行 Program ，用户也可以通过设置 CUDA_VISIBLE_DEVICES 环境变量来指定执行器可使用的 GPU ；

    • 使用 CPU 多线程执行：ParallelExecutor 会自动检测当前机器可利用的 CPU 核数，并将 CPU 核数作为执行器中线程的个数，每个线程分别执行 Program ，用户也可以通过设置 CPU_NUM 环境变量来指定当前训练使用的线程个数。ParallelExecutor 支持模型训练和模型预测：

    • 模型训练： ParallelExecutor 在执行过程中对多个节点上的参数梯度进行聚合，然后进行参数的更新；

    • 模型预测： ParallelExecutor 在执行过程中各个节点独立运行当前的 Program ；ParallelExecutor 在模型训练时支持两种模式的梯度聚合, AllReduce 和 Reduce ：

    • AllReduce 模式下， ParallelExecutor 调用AllReduce操作使多个节点上参数梯度完全相等，然后各个节点独立进行参数的更新；

    • Reduce 模式下， ParallelExecutor 会预先将所有参数的更新分派到不同的节点上，在执行过程中 ParallelExecutor 调用Reduce操作将参数梯度在预先指定的节点上进行聚合，并进行参数更新，最后调用Broadcast操作将更新后的参数发送到其他节点。这两种模式通过 build_strategy 来指定，使用方法，请参考 BuildStrategy 。

    注意 ：如果在Reduce模式下使用 CPU 多线程执行 Program ， Program 的参数在多个线程间是共享的，在某些模型上，Reduce模式可以大幅节省内存。

    鉴于模型的执行速率和模型结构及执行器的执行策略有关，ParallelExecutor 允许你修改执行器的相关参数，例如线程池的规模( num_threads )、为清除临时变量 num_iteration_per_drop_scope 需要进行的循环次数。更多信息请参照 ExecutionStrategy 。

    1. # 注释：
    2. #   - 如果你想在ParallelExecutor中指定用于运行的GPU卡，需要在环境中定义
    3. #     CUDA_VISIBLE_DEVICES
    4. #   - 如果你想在ParallelExecutor中使用多CPU来运行程序，需要在环境中定义
    5. #     CPU_NUM
    6. # 首先创建Executor。
    7. place = fluid.CUDAPlace(0) if use_cuda else fluid.CPUPlace()
    8. exe = fluid.Executor(place)
    9. # 运行启动程序仅一次。
    10. exe.run(fluid.default_startup_program())
    11. # 定义train_exe和test_exe
    12. exec_strategy = fluid.ExecutionStrategy()
    13. exec_strategy.num_threads = dev_count * 4 # the size of thread pool.
    14. build_strategy = fluid.BuildStrategy()
    15. build_strategy.memory_optimize = True if memory_opt else False
    16. train_exe = fluid.ParallelExecutor(use_cuda=use_cuda,
    17.                                    main_program=train_program,
    18.                                    build_strategy=build_strategy,
    19.                                    exec_strategy=exec_strategy,
    20.                                    loss_name=loss.name)
    21. # 注释：对于test_exe，loss_name是不必要的。
    22. test_exe = fluid.ParallelExecutor(use_cuda=True,
    23.                                   main_program=test_program,
    24.                                   build_strategy=build_strategy,
    25.                                   exec_strategy=exec_strategy,
    26.                                   share_vars_from=train_exe)
    27. train_loss, = train_exe.run(fetch_list=[loss.name], feed=feed_dict)
    28. test_loss, = test_exe.run(fetch_list=[loss.name], feed=feed_dict)
    • 相关API :
    • ParallelExecutor
    • BuildStrategy