• 稀疏更新
    • embedding使用例子:

    稀疏更新

    Fluid的 embedding 层在单机训练和分布式训练时，均可以支持“稀疏更新”，即梯度以sparse tensor 结构存储，只保存梯度不为0的行。在分布式训练中，对于较大的embedding层，开启稀疏更新有助于减少通信数据量，提升训练速度。

    在paddle内部，我们用lookup_table来实现embedding。下边这张图说明了embedding在正向和反向计算的过程：

    如图所示：一个Tensor中有两行不为0，正向计算的过程中，我们使用ids存储不为0的行，并使用对应的两行数据来进行计算；反向更新的过程也只更新这两行。../../../_images/lookup_table_training.png

    embedding使用例子:

    API详细使用方法参考 embedding ，以下是一个简单的例子：

    1. DICT_SIZE = 10000 * 10
    2. EMBED_SIZE = 64
    3. IS_SPARSE = False
    4. def word_emb(word, dict_size=DICT_SIZE, embed_size=EMBED_SIZE):
    5.     embed = fluid.layers.embedding(
    6.         input=word,
    7.         size=[dict_size, embed_size],
    8.         dtype='float32',
    9.         param_attr=fluid.ParamAttr(
    10.             initializer=fluid.initializer.Normal(scale=1/math.sqrt(dict_size))),
    11.         is_sparse=IS_SPARSE,
    12.         is_distributed=False)
    13.     return embed

    以上参数中：

    • is_sparse ： 反向计算的时候梯度是否为sparse tensor。如果不设置，梯度是一个 LodTensor 。默认为False。
    • is_distributed ： 标志是否是用在分布式的场景下。一般大规模稀疏更新（embedding的第0维维度很大，比如几百万以上）才需要设置。具体可以参考大规模稀疏的API guide cn_api_guide_async_training 。默认为False。
    • API汇总:
    • embedding