[WeeklyReports] 2024.08.26~2024.09.08 周报汇总

[yinfan98]

[WeeklyReports] 2024.08.26~2024.09.08 周报汇总

请各位学员在本 issue 下以 comment 的形式填写周报摘要，ddl 本周日晚，格式示例如下：

### 姓名

xxx

### 本周工作

1. xxx
2. xxx
 
### 下周工作

1. xxx
2. xxx

### 详细周报链接：

- https://github.com/PFCCLab/Camp/pull/xxx

护航计划

项目一：PIR 专项

• @gouzil (@SigureMo )
• @zrr1999 (@SigureMo )
• @AndPuQing (@wanghuancoder )
• @ooooo-create (@wanghuancoder )

项目四：组合机制建设

• @zeroRains (@xiaoguoguo626807 )

项目五：框架API易用性提升

• @NKNaN (@zhwesky2010 )

项目八：PaddleDetection 套件能力建设

• @Yang-Changhui (@lyuwenyu)
• @MINGtoMING (@lyuwenyu)

项目十：推理Predictor 及 IR Pass建设

• @yinfan98 (@yuanlehome )
• @Hanyonggong (@yuanlehome )
• @aooxin (@vivenfanghuagood)
• @Layssy (@kangguangli )

项目十一：模型迁移工具建设

• @Xuxuanang(@zhouwei)

开源之夏

项目一：飞桨PaddlePaddle-PIR适配2ONNX推理转换

• @qzylalala (@0x45f )

项目二：飞桨PaddlePaddle-动转静支持子图高阶微分

• @CSWYF3634076 (@SigureMo )

项目三：飞桨PaddlePaddle-PIR适配VisualDL模型可视化

• @cse0001 (@changeyoung98 )

GLCC

项目一：为Paddle推理新增Pass管理功能

• @xue-yun-liang (@yuanlehome )

项目二：为开源大语言模型推理增加优化Pass

• @lszxb (@vivenfanghuagood)

项目三：飞桨Save/Load体系功能升级适配PIR

• @eggman-1024 (@xiaoguoguo626807 )

项目五：飞桨稀疏算子API升级适配PIR

• @epiphanyer (@risemeup1 )

项目六：动静统一自动并行支持 MoE 专家并行策略

• @fxfxfxfxfxfxfxfx (@pkuzyc )

[NKNaN]

姓名

李睿文

本周工作

1. 完成核对已修改的 58 个 API
2. 修复 paddle.diff 存在的 bug
3. 增强 paddle.optimizer.SGD/Adadelta/Adagrad/RMSprop 等优化器的功能
4. 修复 paddle.linalg.matrix_rank 新增 kernel 存在的 bug
5. 增强 F.max_unpool1d/F.max_unpool2d/F.max_unpool3d 输入 indices 的类型
6. 修复 F.batch_norm 存在的 bug
7. 增强 F.pad 的 data_format 参数

下周工作

1. 完善未合入的 pr 以及对应的映射文档、matcher、json 映射法则以及 PaConvert 中的单测
2. 分析 paddle.nonzero 修改的不兼容升级问题
3. paddle.load 增强输入类型
4. paddle.chunk 支持非整除情况

详细周报链接：

• [WeeklyReport] NKNaN 2024.08.26~2024.09.08 #374

[lszxb]

姓名

刘斯哲

本周工作

1. 对目前demo中的静态图推理过程进行profile并进行优化

   • Fix incorrect parameter replacing of PIR constant_folding_pass caused by stack op PaddlePaddle/Paddle#68152

2. 了解Attention显存管理的相关工作，并尝试进行实现

   • Add a inplace concat custom op based on CUDA VMM API PaddlePaddle/PaddleNLP#9126

3. 阅读QServe系统的代码，了解其具体实现

下周工作

1. 继续完善新实现的自定义算子，为新的自定义算子编写优化pass，使其能够自动覆盖PaddleNLP的大部分模型

详细周报链接：

• [WeeklyReport] lszxb 2024.08.26~2024.09.08 #375

[Xuxuanang]

姓名

许轩昂

本周工作

1.完成对torch.optim.lr_scheduler.OneCycleLR,torch.prod等约20个单测的case增强,并提交了PR。且已经成功合入主分支。

• CaseAdd5 PaddlePaddle/PaConvert#471

2. 添加相关映射规则，新增单测，转换规则约20个。

• fix docs api PaddlePaddle/PaConvert#475

3. 添加torch.cuda.is_bf16_supported，torch.distributions.Binomial等api的映射文档，已经全部完成所有映射文档缺失的检查。

• Fix docs PaddlePaddle/docs#6870

下周工作

1. 继续完成文档不对齐以及bug修复等相关工作

详细周报链接：

• [WeeklyReport] Xuxuanang 2024.08.26~2024.09.08 #376

[fxfxfxfxfxfxfxfx]

姓名

冯潇

本周工作

1. 阅读论文 GShard: Scaling Giant Models with Conditional Computation and Automatic Sharding，深入了解moe并行的实现
2. 阅读deepspeed关于moe的代码

下周工作

1. 将qwen2moe SparseMoEBlock改成自动并行版本，尽量少改动原本的代码，最大化利用自动并行相关api的功能。

详细周报链接

#354

[zeroRains]

姓名

卢林军

实习项目

组合机制建设和机制推全

本周工作

1. 为dropout_grad op 添加动态shape支持

相关 PR：

• [Prim][PIR] Support the dynamic shape for dropout_grad PaddlePaddle/Paddle#67757

2. 为prod_grad op 添加动态shape支持

相关 PR：

• [Prim][PIR] Support the dynamic shape for prod_grad PaddlePaddle/Paddle#67775

3. 为cumprod_grad 支持动态shape

相关 PR：

• [Prim][PIR] Support the dynamic shape for cumprod_grad op PaddlePaddle/Paddle#67965

4. 为gather_grad, gather_nd_grad 支持动态shape

相关 PR：

• [Prim][PIR] Support the dynamic shape for gather_grad op and gather_nd_grad op PaddlePaddle/Paddle#67968

5. 为scatter_grad 添加动态shape支持，添加scatter_nd_add_grad的动态shape单测，为所有反向动态shape测试添加拆解检测

相关 PR：

• [Prim][PIR] Support dynamic shape for scatter_grad and add the comp detection for all the backward dynamic shape test case PaddlePaddle/Paddle#68168

6. 为topk_grad添加动态shape支持

相关 PR：

• [Prim][PIR] Support the dynamic shape for topk_grad PaddlePaddle/Paddle#68228

7. 为unsqueeze_grad, squeeze_grad 添加动态shape单测

相关 PR：

• [Prim][PIR] Add the dynamic shape test case for unsqueeze_grad ans squeeze_grad PaddlePaddle/Paddle#68076

下周工作

1. group_norm_grad, layer_norm_grad, masked_select_grad, roll_grad反向适配动态shape
2. one_hot, batch_norm_, batch_norm, bmm 前向适配动态shape

详细周报链接：

• [WeeklyReport] zeroRains 2024.08.26~2024.09.08 #377

[aooxin]

姓名
马奥欣

实习项目

推理Predictor 及 IR Pass建设

本周工作

1. 对周中拿到的测试报告中提到的问题进行定位已经修改

• 修改msvsr、rec_r32_gaspin_bilstm_att、rec_svtrnet的问题
• 对测试报告中提出的其他问题进行复测，解决CSE pass 和 AMP pass 的冲突问题

2. 提交测试PR：

• fixed bugs for auto_mixed_precision_pass.cc PaddlePaddle/Paddle#67822

3. 提交注册CSE pass PR：

• REGISTER_IR_PASS for common_subexpression_elimination_pass.cc PaddlePaddle/Paddle#68158

下周工作

继续跟进PIR分布式单测修复工作

详细周报连接

• [WeeklyReport] aooxin 2024.08.12~2024.08.25 #366
  （上次 PR 还没合并进去，故合并在了同一个 PR 中）

[Layssy]

姓名

李伟

实习项目

推理Predictor 及 IR Pass建设

本周工作

paddle架构相关学习

1. 熟悉了Paddle-Inference-Demo python层面的运用
2. 学习了 paddle 算子层面的转换

算子的 Marker、converter 的开发 和单测的实现

1. 完成了 divide、multiply、substract的converter的开发和单测实现
2. 完成了max的marker和converter的开发和单测的测试
3. 排查了pd_op.bilinear_interp在旧ir下为什么没有进入tensorrt
4. 提交了split算子在进行converter的时候出现的bug

下周工作

1. 继续完成分配算子的converter的实现
2. 重新全部理解一下converter.py全部的实现

详细周报链接

#361（上次没有合入的）
#378