Giter Site home page Giter Site logo

boosting-rag-in-education's Introduction

💡💡 Boosting-RAG-in-Education

🌐 集成RAG、微调与思维链的LLM应用系统实践

在这里,我们很高兴向您呈现一份从0到1构建集成RAG(Retrieval-Augmented Generation)、微调技术及思维链功能的LLM(Large Language Model)应用程序的实践研究。我们的目标是通过这份研究,为您提供有价值的参考与指导。


🚀 使用指南

🌟 1. 构建知识库

运行ingest.py脚本,用于搭建应用系统所需的知识库。您可在config文件中设定以下参数:

  • 知识文件路径:指定用于构建知识库的数据源位置。
  • embedding模型:选择适用的嵌入模型以辅助知识库构建。

🌟 2. 选择与调用模型API

进入API文件夹,挑选您偏好的系列模型,如qwenchatglm。这些模型的API调用代码可分别在其官方仓库中获取。若上述资源无法使用,可考虑采用ollama作为备选。

提示:如需启用query-expansion功能,建议启动两个不同规模的模型,例如一个7b参数量的模型与一个14b参数量的模型,以实现更好的效果。

🌟 3. 启动服务与初步测试

在成功配置并启动服务后,进行适当的测试以验证应用程序的运行状态与功能完整性。

🌟 4. 运行Web界面

如需部署Web界面供用户交互,直接执行Chat文件夹下的app.py脚本。在此之前,请确保已正确配置所有相关参数。

🌟 5. 数据评估

如需直接评估数据,运行RAG目录下的build_ragas_data_full.py脚本,该脚本将帮助您执行完整的评估流程。


** 📚 后续更新 📚 **:以上仅为现阶段的主要步骤与说明,未来如有更多实践经验或重要提示,我们将及时补充。


** 💻 硬件配置与依赖 💻 **:

  • 显卡型号:本项目采用NVIDIA A100进行开发与测试。
  • 库文件:所有必要的库及其版本要求已列出于requirements.txt文件中。请确保环境依照此文件进行配置以确保项目的顺利运行。

🌟 欢迎交流与探讨

如果您有任何创意想法或是遇到疑问,非常期待与您深入交流!随时欢迎通过以下方式联系我们:

  • QQ: 2746992517

让我们一起在知识的海洋中航行,共同探讨,共同进步!🤝


boosting-rag-in-education's People

Contributors

ganchun1130 avatar

Stargazers

 avatar  avatar

Watchers

Kostas Georgiou avatar  avatar

Recommend Projects

  • React photo React

    A declarative, efficient, and flexible JavaScript library for building user interfaces.

  • Vue.js photo Vue.js

    🖖 Vue.js is a progressive, incrementally-adoptable JavaScript framework for building UI on the web.

  • Typescript photo Typescript

    TypeScript is a superset of JavaScript that compiles to clean JavaScript output.

  • TensorFlow photo TensorFlow

    An Open Source Machine Learning Framework for Everyone

  • Django photo Django

    The Web framework for perfectionists with deadlines.

  • D3 photo D3

    Bring data to life with SVG, Canvas and HTML. 📊📈🎉

Recommend Topics

  • javascript

    JavaScript (JS) is a lightweight interpreted programming language with first-class functions.

  • web

    Some thing interesting about web. New door for the world.

  • server

    A server is a program made to process requests and deliver data to clients.

  • Machine learning

    Machine learning is a way of modeling and interpreting data that allows a piece of software to respond intelligently.

  • Game

    Some thing interesting about game, make everyone happy.

Recommend Org

  • Facebook photo Facebook

    We are working to build community through open source technology. NB: members must have two-factor auth.

  • Microsoft photo Microsoft

    Open source projects and samples from Microsoft.

  • Google photo Google

    Google ❤️ Open Source for everyone.

  • D3 photo D3

    Data-Driven Documents codes.