小白求教，部署完成后下一步？

[DemonsAH]

小白求教，部署完成后下一步？

[Vinlic]

如果你已经部署在本地并且使用8000端口，可以用以下代码请求。
@DemonsAH

curl --location --request POST 'http://localhost:8000/v1/chat/completions' \
--header 'Authorization: Bearer eyJhbGciOiJIUzUxMiIsInR5cCI6IkpX...' \
--header 'Content-Type: application/json' \
--data '{
    "model": "kimi",
    "messages": [
        {
            "role": "user",
            "content": "你是谁？"
        }
    ]
}'

响应内容：

{
  "id": "co9bsopldu5r8bme6fp0",
  "model": "kimi",
  "object": "chat.completion",
  "choices": [
    {
      "index": 0,
      "message": {
        "role": "assistant",
        "content": "我是Kimi，由月之暗面科技有限公司开发的人工智能助手。我在这里为您提供帮助，回答问题，解决问题，并提供信息。无论是日常知识、数据分析还是其他任何问题，只要告诉我，我都会尽力为您提供准确和有用的回答。"
      },
      "finish_reason": "stop"
    }
  ],
  "usage": { "prompt_tokens": 1, "completion_tokens": 1, "total_tokens": 2 },
  "created": 1712504419
}

[adminlove520]

@adminlove520 vercel我测试部署正常，可能得提供更多信息确认。

我感觉应该问题在 我用的vps上 回头搞个国内的主机测试一下 谢谢解惑啦 @Vinlic

[DemonsAH]

@Vinlic 感谢大佬回答！可惜仍是不能顺利收到正确的响应内容
使用wsl ubuntu原生部署，运行上面的命令得到下面的报错：

$ curl --location --request POST 'http://localhost:8000/v1/chat/completions' --header 'Authorization: Bearer eyJhbG...' --header 'Content-Type: application/json' --data '{
    "model": "kimi",
    "messages": [
        {
            "role": "user",
            "content": "你是谁？"
        }
    ]
}'
{"code":-1,"message":"Internal error","data":null}

此时pm2 log 有反应同样报错
（如果用本机IP代替localhost报错变为Timeout，pm2 log能收到信息和token）

Docker部署
使用windows Docker Desktop部署完成后
使用anaconda直接跑python代码（跟着这个教程）
简述操作：python使用opanai的示例代码，修改token和base url
Docker显示如下：

（使用本机IP代替localhost无区别）

最后尝试Dify和NextChat（跟着这个教程）
操作与上面无异，即使用OpenAI端口，修改token和base
结果： Dify在设置供应商时Connection error
NextChat报错 failed to fetch
问题： 这些报错是否来自相同的原因？有没有本机为国外IP无法使用服务的可能？

[Vinlic]

@DemonsAH base url设置错误，/chat/completions不包含在base url中，另外curl调用有问题需要提供服务的日志截图。
不建议把服务部署在国外服务器，有可能连不上kimi。

[denghb001]

作为一个纯小白，遇到了这样的问题
使用windows Docker Desktop部署完成后，

运行时出错了

[Vinlic]

@denghb001 请查看容器日志并截图方便检查

[adminlove520]

@Vinlic 请问 docker部署好之后，curl成功，但是nextchat内配置之后一直返回

{
  "error": true,
  "message": "Failed to fetch"
}

和

{
  "error": true,
  "message": "empty response from server"
}

nextchat配置是这样的

[adminlove520]

请问这个如何解决呀 按理说 curl通的话 nextchat应该可以的呀 baseurl试了好几次。。 @Vinlic

[Vinlic]

@adminlove520 检查你在使用nextchat调用时的容器日志

[adminlove520]

@adminlove520 检查你在使用nextchat调用时的容器日志

甚至请求都没到容器日志 vercel部署的nextchat

[adminlove520]

但是吧 本地部署的nextchat就可以正常调用 vercel就不行 网络的问题嘛?

[Vinlic]

@adminlove520 vercel我测试部署正常，可能得提供更多信息确认。