DeepRec

编译安装

  • DeepRec源代码编译&安装
  • Estimator源代码编译&安装
  • TFServing源代码编译&安装

Embedding

  • Embedding Variable
  • EmbeddingVariable进阶功能:特征淘汰
  • EmbeddingVariable进阶功能:特征准入
  • Dynamic-dimension Embedding Variable
  • Adaptive Embedding
  • Multi-Hash Variable
  • Embedding多级存储
  • Group Embedding

分布式训练

  • GRPC++
  • StarServer
  • 同步训练-SOK

图优化

  • Auto Micro Batch
  • Embedding子图Fusion
  • 流水线-Stage
  • 自动流水线-SmartStage
  • Embedding Lookup异步化
  • Auto Graph Fusion
  • 样本感知的图压缩

Runtime优化

  • CPU Memory Optimization
  • GPU Memory Optimization
  • GPU虚拟显存
  • Executor优化
  • GPU MultiStream

模型导出

  • Incremental Checkpoint
  • Embedding Variable 导出格式说明

优化器

  • AdamAsync Optimizer
  • AdagradDecay Optimizer
  • AdamW Optimizer

算子及硬件加速

  • oneDNN
  • 算子优化
  • NVIDIA TF32
  • PMEM
  • Embedding on PMEM
  • Arm Compute Library

模型量化

  • Intel® AMX
  • BFloat16

样本读取及Dataset

  • WorkQueue
  • KafkaDataset
  • KafkaGroupIODataset
  • ParquetDataset

编译优化

  • TensorRT
  • CUDA Graph Jit Optimization
  • BladeDISC
  • XLA

Inference优化

  • Processor
  • SessionGroup
  • Device Placement Optimization
DeepRec
  • 搜索


© 版权所有 2021 Alibaba Group Holding Limited.

利用 Sphinx 构建,使用的 主题 由 Read the Docs 开发.