Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

Sign up for GitHub

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Jump to bottom

多轮对话后对话陷入死循环 #37

Open
pihang opened this issue Sep 19, 2023 · 5 comments
Open

多轮对话后对话陷入死循环 #37

pihang opened this issue Sep 19, 2023 · 5 comments

Comments

@pihang
Copy link

pihang commented Sep 19, 2023

模型对话突然无论问什么，后面一直回答同一个答案，无法纠正，这个要怎么改进？（感觉是因为history延长后，后面一直反复这个记录，成了死循环模型就不能正常chat了）
@LC1332
Copy link
Owner

LC1332 commented Sep 19, 2023

好问题

你可以调用ChatHaruhi.llm.print_prompt()方法把prompt给我看一下嘛。

挺有价值的讨论。

另外现在ChatHaruhi2.0默认temp=0.7照理说他自己应该能跳出去。

@LC1332 LC1332 changed the title 对话陷入死循环 多轮对话后对话陷入死循环 Sep 19, 2023
@pihang
Copy link
Author

pihang commented Sep 20, 2023

好问题

你可以调用ChatHaruhi.llm.print_prompt()方法把prompt给我看一下嘛。

挺有价值的讨论。

另外现在ChatHaruhi2.0默认temp=0.7照理说他自己应该能跳出去。

image
我用的本地模型，最后就是历史记录，有时候对话长了后就会出问题。现在就写了个简单的判断，如果重复了就删除相应历史对话。

@LC1332
Copy link
Owner

LC1332 commented Sep 22, 2023

我有空的时候看一下 对的 想办法后处理去除也可以。本地模型似乎就是很容易重复QAQ不知道是不是模型本身原因

@MoidzzZ
Copy link

MoidzzZ commented Oct 12, 2023 •
edited
Loading

我在用ChatHaruhi2.0，我在使用ChatGLM2的过程中好像遇到了相同的问题，在较长的时间后他输出了如下的回答
image

@MoidzzZ
Copy link

MoidzzZ commented Oct 12, 2023

@LC1332
以及在中间某次对话中出现了不妙的情况，这好像超出了对话场景
image
最后，我在循环后尝试继续对话，有如下报错
image

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Assignees
No one assigned
Labels
None yet
Projects
None yet
Milestone
No milestone
Development

No branches or pull requests
3 participants
@LC1332 @pihang @MoidzzZ