Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

Sign up for GitHub

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Jump to bottom

[WeeklyReports] 2024.10.28~2024.11.22 周报汇总 #414

Open
15 tasks
yinfan98 opened this issue Nov 21, 2024 · 9 comments
Open
15 tasks

[WeeklyReports] 2024.10.28~2024.11.22 周报汇总 #414

yinfan98 opened this issue Nov 21, 2024 · 9 comments

Comments

@yinfan98
Copy link
Collaborator

yinfan98 commented Nov 21, 2024 •
edited by sunzhongkai588
Loading

请各位学员在本 issue 下以 comment 的形式填写周报摘要，ddl 本周日晚，格式示例如下：

### 姓名

xxx

### 本周工作

1. xxx
2. xxx
 
### 下周工作

1. xxx
2. xxx

### 详细周报链接：

- https://github.com/PFCCLab/Camp/pull/xxx

护航计划

项目一：PIR 专项

项目五：框架API易用性提升

项目十：推理Predictor 及 IR Pass建设

项目十一：模型迁移工具建设

护航计划正式批

1. 框架 API 易用性提升

3. PaddleMiX 套件能力建设

4. PaddleNLP套件能力建设

5. 飞桨科学计算材料领域建设

7. 自动并行张量切分机制预研&建设

8. 自动并行在复杂模型结构下的能力摸底和技术储备
@sunzhongkai588 sunzhongkai588 changed the title [WeeklyReports] 2024.10.28~2024.11.08 周报汇总 [WeeklyReports] 2024.10.28~2024.11.22 周报汇总 Nov 22, 2024
@zty-king
Copy link

姓名

郑天宇

本周工作

  1. 非均衡切分vpp
  • 跑通llama模型，了解各个重要的输出信息
  • 验证micro_batch和pp_degree不为整数倍时是否会出错
  • 根据报错调整流水并行vpp模式下的编排代码，使其支持非均衡切分vpp

下周工作

  1. 完善支持非均衡切分vpp的代码
  2. vpp去尾工作支持
  3. 局部pipeline支持

详细周报链接：

@zeroRains
Copy link
Contributor

姓名

卢林军

本周工作

  1. 调研Hugging Face中的设计，并在PaddleNLP中设计并实现了AutoInferenceModel类，实现了推理模型的自动加载。
  2. 调研TRT-LLM推理流程，学习用户端推理使用流程。尝试在PaddleNLP中设计AutoPredictor。

下周工作

  1. 在PaddleNLP中完善AutoPredictor设计并实现
  2. 参考append_atten的集成PR，思考SageAttention集成到PaddleNLP中的方式

详细周报链接：

@lvdongyi
Copy link
Contributor

姓名

吕东翼

本周工作

  1. 升级CacheKV，构建Cache基类和DynamicCache
  2. 调研当答案包含在问题中时出现异常的修复方式，为Gemma手动修复此问题。

下周工作

  1. 继续修复当答案包含在问题中时出现异常的问题
  2. CacheKV升级

详细周报链接：

@NKNaN
Copy link
Contributor

NKNaN commented Nov 24, 2024

姓名

李睿文

本周工作

  1. 排查 distribution API 的 0D 输入问题
  2. 数学计算类API支持整数类型输入
  3. 修复 paddle.Tensor.square_
  4. 增强 paddle.bernoulli

下周工作

  1. 完善已修改 API 的映射文档以及 PaConvert 中的 json 映射规则/mathcer/单测
  2. 根据新的需求列表继续进行其他任务的开发

详细周报链接：

@javey-q
Copy link

javey-q commented Nov 24, 2024 •
edited
Loading

姓名

仇嘉伟

本周工作

  1. 支持 StableDiffusion3 Controlnet 模型, 完成推理流程初步搭建；
  2. 完善 StableDiffusion3 Controlnet 模型，完成精度对齐以及增加单测；
  3. 适配 StableDiffusion3.5 模型，代码已修改完成，待测试；
  4. 论文阅读计划：结合代码，对StableDiffusion3论文进行解读（未完成）。

下周工作

  1. 完成StableDiffusion3.5模型测试
  2. 完成StableDiffusion3论文解读。

详细周报链接：

@guozixu2001
Copy link
Contributor

姓名

郭子旭

本周工作

  1. 排查 GPU 和 Distributed 的 CI 问题
  2. 新增 torchvision 映射文档 33 个，修复首页文档中累积的目录的问题
  3. 新增 torchvision 到 paddle 的转换规则以及单侧 33 个
  4. 调研并设计对辅助函数的重构方法

下周工作

  1. 完成对辅助函数的改造的工作

详细周报链接：

@Xuxuanang
Copy link
Contributor

姓名

许轩昂

本周工作

  1. 新增torch.copysign,torch.cuda.device等约20个算子的映射规则以及Matcher，并提交了PR。且已经成功合入主分支。
  2. 修改torch.Tensor.sinc，torch.pi, torch.linalg.qr等算子的零散存量问题，并提交了PR。且已经成功合入主分支。
  3. 新增，修改torch.Tensor.sinc，torch.nn.DataParallel等约20余个api算子的映射文档，目前以及完成所有缺失文档的api文档。

下周工作

  1. 继续完成文档不对齐以及bug修复，单测规范化等相关工作

详细周报链接：

@Hanyonggong
Copy link
Contributor

姓名

韩用功

实习项目

推理Predictor 及 IR Pass建设

本周工作

实现cumsum到tensorrt的转换,test文件int32转int64

下周工作

继续算子到tensorrt转换相关工作

详细周报链接

#424

@gouzil
Copy link
Contributor

gouzil commented Nov 29, 2024

姓名

gouzil

本周工作

  1. 适配 SOT Python 3.13

下周工作

  1. 学习 SOT Guard 机制性能优化, 并尝试适配部分 Guard

详细周报链接：

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Assignees
No one assigned
Labels
None yet
Projects
None yet
Milestone
No milestone
Development

No branches or pull requests
10 participants
@lvdongyi @yinfan98 @javey-q @NKNaN @zeroRains @gouzil @guozixu2001 @Hanyonggong @Xuxuanang @zty-king