We read every piece of feedback, and take your input very seriously.
To see all available qualifiers, see our documentation.
Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.
By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.
Already on GitHub? Sign in to your account
问题描述 / Problem Description 使用chatglm-6-b-128k出现自问自答,停不下来的情况
复现问题的步骤 / Steps to Reproduce 1.使用chatglm3-6b-128k 2.无论问答什么内容,都会出现自问自答情况。
预期的结果 / Expected Result 回答完毕后停止。
实际结果 / Actual Result 回答当前问题后,不停自问自答,无法停止。
环境信息 / Environment Information
附加信息 / Additional Information 想通过添加repetition_penalty来解决,但是未找到参数修改位置,希望可以指明。
The text was updated successfully, but these errors were encountered:
这主要是因为Langchain-chatchat没有适配,chatglm3-6b-128k使用<|user|>作为结束符而不是普通的eos,可以参考这里的代码,为生成过程添加额外的结束符即可,或者直接使用chatglm的chat函数接口。
Sorry, something went wrong.
No branches or pull requests
问题描述 / Problem Description
使用chatglm-6-b-128k出现自问自答,停不下来的情况
复现问题的步骤 / Steps to Reproduce
1.使用chatglm3-6b-128k
2.无论问答什么内容,都会出现自问自答情况。
预期的结果 / Expected Result
回答完毕后停止。
实际结果 / Actual Result
回答当前问题后,不停自问自答,无法停止。
环境信息 / Environment Information
附加信息 / Additional Information
想通过添加repetition_penalty来解决,但是未找到参数修改位置,希望可以指明。
The text was updated successfully, but these errors were encountered: