“we fine-tuned an LLM to extract the keywords from user queries.”

[iGangao]

“we fine-tuned an LLM to extract the keywords from user queries.”

[JessyTsui]

前者，是微调了一个专门用来生成法律关键词的大模型

[iGangao]

前者，是微调了一个专门用来生成法律关键词的大模型
你好，用来微调的数据能否给个示例？

[Jeffwan]

@JessyTsu1

1. Laws LLM 是直接基于用户input 搜索出对应条文？还是keywords LLM的output? 所以幻觉减轻的方式是改变为关键字搜索vector DB?
2. Keyword LLM 应该就是个bert model 用作embedding model吧？
3. 这样的话整个request链路 感觉很慢. laws LLM 一次调用，bert这边跟正常embedding 类似，self-suggestion一次调用，chatlaw一次，这样就三次LLM的调用了..