Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

使用CPU对UIE进行finetune时只能利用单核 #2815

Closed
qiudywzh opened this issue Jul 15, 2022 · 5 comments
Closed

使用CPU对UIE进行finetune时只能利用单核 #2815

qiudywzh opened this issue Jul 15, 2022 · 5 comments
Assignees
Labels
ie Issues related to Information Extraction stale

Comments

@qiudywzh
Copy link

qiudywzh commented Jul 15, 2022

欢迎您反馈PaddleNLP使用问题,非常感谢您对PaddleNLP的贡献!
在留下您的问题时,辛苦您同步提供如下信息:

  • 版本、环境信息
    1)PaddleNLP和PaddlePaddle版本:
    paddlenlp==2.3.3
    paddlepaddle-gpu==2.3.0
    2)系统环境:
    Ubuntu 7.5.0-3ubuntu1~18.04
    Python 3.7.9
  • 复现信息:如为报错,请给出复现环境、复现步骤

查阅了一些issue,是否因为paddle2动态图模式模型训练下无法支持cpu多核?
实测UIE推理是支持的多核CPU的,因为会生成一个inference model。

@qiudywzh qiudywzh changed the title 使用CPU对UIE 使用CPU对UIE进行finetune时只能利用单核 Jul 15, 2022
@wawltor
Copy link
Collaborator

wawltor commented Jul 15, 2022

目前paddle2动态图是在支持多核上功能已经开发完成,功能效果需要验证一下
预测是可以支持多核的,训练的时候需要多核之间有通信,因为训练需要梯度merge;预测的时候多核之间不需要通信,相对来说比较简单

@qiudywzh
Copy link
Author

qiudywzh commented Jul 17, 2022

目前paddle2动态图是在支持多核上功能已经开发完成,功能效果需要验证一下 预测是可以支持多核的,训练的时候需要多核之间有通信,因为训练需要梯度merge;预测的时候多核之间不需要通信,相对来说比较简单

感谢。我试过升级到最新paddlepaddle 2.3.1和paddlenlp 2.3.4发现还没支持,期待更新。

我也试过用to_static方式将UIE改造为静态图,但是目前还没找到读取UIE权重到静态图的方法

@wawltor
Copy link
Collaborator

wawltor commented Jul 18, 2022

目前paddle2动态图是在支持多核上功能已经开发完成,功能效果需要验证一下 预测是可以支持多核的,训练的时候需要多核之间有通信,因为训练需要梯度merge;预测的时候多核之间不需要通信,相对来说比较简单

感谢。我试过升级到最新paddlepaddle 2.3.1和paddlenlp 2.3.4发现还没支持,期待更新。

我也试过用to_static方式将UIE改造为静态图,但是目前还没找到读取UIE权重到静态图的方法

嗯嗯 目前的版本还没有支持多核训练,这个工作还在UIE上验证

@wawltor wawltor self-assigned this Jul 18, 2022
@wawltor wawltor added the ie Issues related to Information Extraction label Jul 18, 2022
@github-actions
Copy link

github-actions bot commented Dec 8, 2022

This issue is stale because it has been open for 60 days with no activity. 当前issue 60天内无活动,被标记为stale。

@github-actions github-actions bot added the stale label Dec 8, 2022
@github-actions
Copy link

This issue was closed because it has been inactive for 14 days since being marked as stale. 当前issue 被标记为stale已有14天,即将关闭。

@github-actions github-actions bot closed this as not planned Won't fix, can't repro, duplicate, stale Dec 22, 2022
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
ie Issues related to Information Extraction stale
Projects
None yet
Development

No branches or pull requests

2 participants