指令token超过了限制的问题

[noangel2014]

指令token超过了限制的问题

[noangel2014]

谢谢回复。
我知道token过长会导致报错，可以警告一下。强制限制并不是很妥当。 据我观察，专业一点的提示词大多都超过1000token.
觉得如果过长token输入会导致错误的话，只要有效提醒就可以了。限制固定长度没什么意义，因为谁都不知道到底多长合适。人们只会有一个印象就是，这个插件不支持长的提示词。

[givebest]

不限制的话，自定义prompt + 内容的总tokens可能就会超出导致出错。

可以告诉我们自定义prompt 占了多少tokens 吗？方便我们调整下prompt tokens 限制。

[anuxs]

建议prompt tokens 限制做成用户自定义参数，反正超过了提示用户自己修改。

[joostshao]

一看到居然限制context的大小，没有自定义长度的设置，我就放弃了

[givebest]

一看到居然限制context的大小，没有自定义长度的设置，我就放弃了

下周新版支持自定义模型和上下文。