Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

第一阶段speech Qformer的训练和模型 #40

Open
ASolitaryMan opened this issue Apr 22, 2024 · 4 comments
Open

第一阶段speech Qformer的训练和模型 #40

ASolitaryMan opened this issue Apr 22, 2024 · 4 comments

Comments

@ASolitaryMan
Copy link

你好,请问第一阶段speech Qformer的训练和模型代码开源吗

@TCL606
Copy link
Member

TCL606 commented Apr 23, 2024

第一阶段的训练和模型的代码也是目前发布的这一套,不过只训练ASR和AAC而已 ~

@HenrryLiu24
Copy link

你好,我想问一下在第一阶段训练ASR和AAC的过程中的具体的训练设置是什么,使用的epoch base还是step base,大概训练了多少个epochs/steps呢?

@TCL606
Copy link
Member

TCL606 commented Jun 18, 2024

你好,我想问一下在第一阶段训练ASR和AAC的过程中的具体的训练设置是什么,使用的epoch base还是step base,大概训练了多少个epochs/steps呢?

我们的训练都是 step base 的,数据在 paper 中有提到,32 卡大概训练了 8w 步左右吧

@blue-blue272
Copy link

你好,我想问一下在第一阶段训练ASR和AAC的过程中的具体的训练设置是什么,使用的epoch base还是step base,大概训练了多少个epochs/steps呢?

我们的训练都是 step base 的,数据在 paper 中有提到,32 卡大概训练了 8w 步左右吧

您好,有几个训练的问题想请假一下:

  1. 第一阶段是32卡,单卡batch size设置为8, lr按照config的设置为3e-5吗?
  2. 第二阶段的训练配置(lr, batchsize等)和第一阶段一样吗?是从第一阶段的模型初始化,用不同的数据进行训练吗?

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

4 participants