运行generate.sh报错

[pengxiao-song]

运行generate.sh报错

[baiyutang]

命令 https://github.com/pengxiao-song/LaWGPT/blob/main/src/scripts/generate.sh
这里的内容要改下。 你说的文件在 src 下

#!/bin/bash
CUDA_VISIBLE_DEVICES=1 python src/generate.py \
    --load_8bit \
    --base_model 'minlik/chinese-llama-7b-merged' \
    --lora_weights 'entity303/lawgpt-lora-7b' \
    --prompt_template 'law_template' \
    --share_gradio

[pengxiao-song]

命令 https://github.com/pengxiao-song/LaWGPT/blob/main/src/scripts/generate.sh 这里的内容要改下。 你说的文件在 src 下

#!/bin/bash
CUDA_VISIBLE_DEVICES=1 python src/generate.py \
    --load_8bit \
    --base_model 'minlik/chinese-llama-7b-merged' \
    --lora_weights 'entity303/lawgpt-lora-7b' \
    --prompt_template 'law_template' \
    --share_gradio

不好意思，文件路径有偏差，请参考上述回答，根据本地文件路径修改。