响应不及时

[linweiyuan]

响应不及时

[linweiyuan]

我这边目前为止测试都正常，很及时

[linweiyuan]

这个问题是存在的，并且不好处理，会偶尔出现，因为代码里设置了 10 秒超时，用一种曲线救国的方式实现流式输出，这个问题还没有好的解决方案，可能学习多点相关知识才可以

社区的接口不知道他们怎么做，也不敢问

我这边，Java 版也会这样

[superen7527]

这个问题是存在的，并且不好处理，会偶尔出现，因为代码里设置了 10 秒超时，用一种曲线救国的方式实现流式输出，这个问题还没有好的解决方案，可能学习多点相关知识才可以

社区的接口不知道他们怎么做，也不敢问

我这边，Java 版也会这样

社区没开源 应该不会告诉你的。不过好像是用的plus账号过的验证，并不是模拟。

[linweiyuan]

我没有开 plus，如果你认识谁有 plus 账号，可以借来玩玩，造福广大群众

[superen7527]

我倒是想开 奈何没信用卡啊， 很多东西想申请却申请不了，了解过虚拟信用卡 不过也都是要人脸sfz，不太想弄，不然肯定拿出来弄api了。

另外这个docker能不能把两个项目合在一起？不用独立一个 chatgpt-proxy-server

[superen7527]

问个题外话，我没了解过api和token请求的区别，
是不是利用api请求一次性会返回完整的数据 而用token只能一个个出来？

我看了现在的token模式，是一个字一个字的json，最后一个json才是完整的。
之前用没有cf验证时的qq机器人 是一次性返回完整的回复，可能是等待回复完了才发送最后的json，那是不是也可以根据这种判断来终止而不是十秒？

[superen7527]

Chanzhaoyu/chatgpt-web#1010
接口返回的json里面有个finish_reason字段，"finish_reason":""的时候是还在生成，"finish_reason":"stop"是最后一个包。

能不能根据这个停止响应

[linweiyuan]

token 和 api 都可以设置一次返回所有还是一个个返回

如果 token 设置一次返回所有，那么就不会延迟，延迟你也不知道，但是没有打字效果

api 因为可以直连没有 cf 验证，所以就算一个个返回，也不会出现延迟，因为是直线救国

---

为什么不能整合，在那个 web 项目里回复了

其实你可以自己整一个，把 Go 程序复制到 proxy 里面去，调整下启动命令，理论上可以跑

[linweiyuan]

Chanzhaoyu/chatgpt-web#1010 接口返回的json里面有个finish_reason字段，"finish_reason":""的时候是还在生成，"finish_reason":"stop"是最后一个包。

能不能根据这个停止响应

这个测试过了，以我这种方式不行，因为数据通过 postMessage() 发送，然后在别的位置再执行 onMessage() 拿回来，有时会丢掉最后一个结束标识的包，10 秒延迟也是发生在这里

[superen7527]

好的 昨天邮件太多了 你是引用回复我看混了 以为那是旧的通知没注意到

token 和 api 都可以设置一次返回所有还是一个个返回

如果 token 设置一次返回所有，那么就不会延迟，延迟你也不知道，但是没有打字效果

api 因为可以直连没有 cf 验证，所以就算一个个返回，也不会出现延迟，因为是直线救国

为什么不能整合，在那个 web 项目里回复了

其实你可以自己整一个，把 Go 程序复制到 proxy 里面去，调整下启动命令，理论上可以跑

[linweiyuan]

响应不及时的问题修复了，但是没有适配其他项目，适配了我自己的那两个客户端

[superen7527]

响应不及时的问题修复了，但是没有适配其他项目，适配了我自己的那两个客户端

重新部署了go和主程序，发现还是有延迟呀，你指的是web那个项目还需要等待适配?

[linweiyuan]

没有看他是怎么判断的，我这边是模仿官网的结构，可能会有点出入

[superen7527]

奇怪咯，社区第二个也是官网结构，应该一样才对。

[linweiyuan]

晚点再看看，还不太懂 JS

[linweiyuan]

这回确实修复了，之前我自作多情加多了个判断，导致前面翻了车

刚试过正常

[superen7527]

不知道是不是有缓存还是怎么回事，删除重新搭建docker还是延迟好久.. 晚点我再看看 如果还是这样就不是缓存了。

[superen7527]

ok 有点事 没上网 后来确实正常了，不过可惜 我这边用不了你的容器了。换了几个vps，java go版本都试过 以及docker-compose方式和命令行方式 有没有网络链，单纯使用映射端口等等我都试过 ，docker内部提示success welcome 但是服务 504

[superen7527]

丢 原来是没有pull 我刚才用login一直显示缺少Accesstoken，想着可能没有更新，试了一下自己常用的stoprm再run，结果没有拉取，这时候才发现有点奇怪，然后才发现必须pull才能用 不然用的是有标签的镜像。。一直以为只有compose文件才需要pull。折腾好几天的问题原来是因为之前可能api格式不兼容还是旧版有问题，所以别人可以我一直50x报错 日志却正常，以及找个地方你说可以及时我还是不行 原来都是没成功更新。看来我以前写的一键脚本很多次重装几个容器也是如此没有更新了。。。

也不对 之前另一个vps运行肯定会拉最新的镜像，而且我这个美国也也用过下面的compose

version: '2.2'

services:
  go-chatgpt-api:
    container_name: go-chatgpt-api
    image: linweiyuan/go-chatgpt-api
    networks:
      - chatgpt
    ports:
      - 3001:8080 
    environment:
      - GIN_MODE=release
      
    depends_on:
      chatgpt-proxy-server:
        condition: service_healthy
        
    restart: always
 
  chatgpt-proxy-server:
    container_name: chatgpt-proxy-server
    image: linweiyuan/chatgpt-proxy-server
    networks:
      - chatgpt
      
    healthcheck:    
        test: ["CMD-SHELL", "sleep 30"]
        interval: 35s
        timeout: 35s
        retries: 3
    restart: always
 

networks:
    chatgpt:
        driver: bridge

所以美国这个应该是最新的 也不对可能compose用的也是本地镜像 应该是了，compose也需要更新，那就是香港那个第一次run也不行找一下原因就好了。当时报错一样。