Release2.1 distributed

[zhiboniu]

PR types

Others

PR changes

APIs

Describe

update 2.0 public api in distributed
cherry-pick from develop pr #32695

背景：
对于用户调用api的层级，由于之前没有明确的设计，api开放层级比较随意。影响用户使用中的逻辑和正规感受。
目的：
1）重新整理api开放层级，提升用户使用感受
2）API保留自有特色，同时更好地符合行业规范，降低用户学习成本
3）提高框架api逻辑性，便于后续维护和优化
主要实现方法：
1）__all__内容清晰化，内容逐个列出，一行一个。不再使用 all 的向上传递机制，仅在公开API层级添加 all，其余的 all 列表统一置空
2）不再使用 #DEFINE_ALIAS
3）导入内容清晰化，原则上不再使用 import *， 按需引入需要的API， 每行一个
4）原则上不再使用 from . import module， from .module import submodule时会引入module，避免重复引用
5）添加新的Public API时，需向上寻找到最近的节点添加 import 并加入 all 列表
6）Public API列表由多个公开API层级的 all 列表共同组成，文档抽取以此为准，这些指定层级是：
paddle,
paddle.amp,
paddle.nn,
paddle.nn.functional,
paddle.nn.initializer,
paddle.nn.utils,
paddle.tensor,
paddle.static,
paddle.static.nn,
paddle.io,
paddle.jit,
paddle.metric,
paddle.distribution,
paddle.optimizer,
paddle.optimizer.lr,
paddle.regularizer,
paddle.text,
paddle.utils,
paddle.utils.download,
paddle.utils.profiler,
paddle.sysconfig,
paddle.vision,
paddle.distributed,
paddle.distributed.fleet,
paddle.distributed.fleet.utils,
paddle.distributed.parallel,
paddle.distributed.utils,
paddle.callbacks,
paddle.hub
修改示例展示：
原来写法：

新的写法：

对开发者使用API的影响：
在指定层级推荐方式：（不受影响）
from paddle.nn import CTCLoss
from paddle.nn import Conv2D
非指定层级支持但不推荐：（不受影响）
from paddle.nn.layer.loss import CTCLoss
from paddle.nn.layer.conv import Conv2D
对于import *使用方式不推荐。（非公开层级受影响）
不再支持：（非公开层级）
from paddle.nn.layer import *
from paddle.nn.layer.conv import *
from paddle.nn.initializer.norm import *
from paddle.tensor.math import *
from paddle.optimizer.adam import *
可以支持：（公开层级）
from paddle import *
from paddle.nn import *
from paddle.utils import *
from paddle.optimizer import *

本pr只是依上述规则重新整理了distributed下的格式及整理了公开api层级__all__。
目前__all__所在层级是以下文件夹，其中__all__中api内容继承原内容，原来没有__all__的新增__all__并尽量包含原有api内容。
不在下述文件夹中的其他文件设置__all__=[]以禁用import *

• paddle.distributed
• paddle.distributed.fleet
• paddle.distributed.fleet.utils
• paddle.distributed.parallel
• paddle.distributed.utils

[paddle-bot-old]

Thanks for your contribution!
Please wait for the result of CI firstly. See Paddle CI Manual for details.

[XiaoguangHu01]

LGTM