Comments (7)
建议对prompts进行调整,因为看上去像是一个编程题目,给的样例也不太完整,只有输入,没有输出。
from aquila2.
@zacliu2023 重点就是测试模型的推理能力是否有足够的能力理解问题。输出是随机的,有时候python代码,有时候输出json字符串。
from aquila2.
@zacliu2023
输出样例1:
以下是从输入中提取到的步骤:
首先,我们将输入分割成三个部分:图像、文本或音频,并将它们存储在一个列表中。
input = "http://xxx.jpg"
list_of_contents = input.split(" ")
keys = ["image", "text", "audio"]
for content in list_of_contents:
if content in keys:
key = content
else:
value = content
接下来,我们使用Python的内置函数和正则表达式来提取值。
import re
value = re.search(r'"([^"]*)"', value).group(1)
最后,我们可以用json.dumps()方法将这些键值对转换为JSON格式的字符串。
data = {key: value}
result = json.dumps(data)
以上就是在给定条件下,完成从输入中提取出的步骤以及最终形成的JSON格式的字符串。
输出样例2:
根据您的要求,我将把输入进行归类和提取,然后将其转换为json格式的字符串。由于您提供的输入包含两个部分,因此我会分开进行处理。首先,您输入的内容会被分类为“image”,“text”或“audio”,并将其用作键来构建json对象。其次,我将对“http://xxx.jpg”进行提取和编码,并将此编码作为值添加到相应的键下,从而构建完整的json对象。最终,我将把完整的json对象转换成一个字符串并返回它。
输出样例3:
{
"image": "http://xxx.jpg",
"text": "这是一张图像",
"audio": ""
}
from aquila2.
@zacliu2023 输出结果过于倾向输出python代码了。我并没有告诉模型这是一道编程题,最后面的“仅输出json格式字符串”并没有起效果。
from aquila2.
我这边主要返回的还是下面的结果,也重复了好几次
这是一个包含3个步骤的生成任务,需要输入:
这是一个包含步骤的生成任务,需要输入:"""xxx""",即原始输入包裹在"""xxx"""中,其中"""xxx"""可以是你实际需要的输入。
下面是处理步骤:
第1步:判断输入是否为"image","text"或"audio"之一,并输出相应键。如果输入不是这三个之一,则返回错误。
第2步:提取输入中的值(即http://xxx.jpg),并将结果存储在键对应的对象中。
第3步:将键和值组成一个json对象,并将该json对象转化为json字符串。
这是一个示例输出:
{
"image": {
"args": {
"value": "http://xxx.jpg"
}
}
}
这个输出表示输出是一个json对象,其中包含一个键"image"及其对应的值"http://xxx.jpg",这些值是通过对原始输入进行分类和提取得到的。
from aquila2.
@zacliu2023 那可能是量化的问题,我使用的是单卡4090 4bit量化推理的。
from aquila2.
先关闭有问题重新打开issue。
from aquila2.
Related Issues (20)
- 34B模型用qlora做sft,设置一个进程一个主机,5个24G卡,发现脚本加载完一个卡后就提示内存不够异常退出,其他卡空闲 HOT 2
- 7b模型qlora sft出错,transformers Version: 4.35.0 ,错误信息见内 HOT 9
- Aquila2/examples/Aquila_BGE_langchain/BGE# CUDA_VISIBLE_DEVICES=4,3,2,1,0 ./preprocess.sh 行 3: 2866484 段错误 HOT 2
- url 404 HOT 2
- How can I save the config.json when fine-tuning Aquila 2? HOT 3
- bash finetune/34B/finetune_qlora_single_node.sh异常 HOT 27
- How can I take the model trained using the script and apply it in Aquila_BGE_langchain? HOT 1
- 指定2个以上gpu时./preprocess.sh: line 3: 2269 Bus error (core dumped) ,1个就不会,log对比在内文
- CUDA_VISIBLE_DEVICES=4,3 python ./local_search.py时,tool中不能识别到GPU3 HOT 1
- 公开的评测榜单 HOT 2
- 量化GPTQ中Aquilachat34b-4bit 代码的predict文件在哪里,Modelscope上没有上传,谢谢 HOT 1
- from predict import predict
- [Question] V100 FInetuning
- RuntimeError: probability tensor contains either `inf`, `nan` or element < 0
- Aquila_BGE_langchain应用所需配置大概需要在什么区间? HOT 1
- Aquila2 7B and Aquila2-7B LoRA How to merge parameters?
- How to review Aquila2-7B model
- Number of training tokens HOT 2
- 官方可以做一版Aquila2Chat-7B到ModelScope上吗? HOT 1
- BAAI/AquilaChat2-7B 是否可以归纳总结文本内容?
Recommend Projects
-
React
A declarative, efficient, and flexible JavaScript library for building user interfaces.
-
Vue.js
🖖 Vue.js is a progressive, incrementally-adoptable JavaScript framework for building UI on the web.
-
Typescript
TypeScript is a superset of JavaScript that compiles to clean JavaScript output.
-
TensorFlow
An Open Source Machine Learning Framework for Everyone
-
Django
The Web framework for perfectionists with deadlines.
-
Laravel
A PHP framework for web artisans
-
D3
Bring data to life with SVG, Canvas and HTML. 📊📈🎉
-
Recommend Topics
-
javascript
JavaScript (JS) is a lightweight interpreted programming language with first-class functions.
-
web
Some thing interesting about web. New door for the world.
-
server
A server is a program made to process requests and deliver data to clients.
-
Machine learning
Machine learning is a way of modeling and interpreting data that allows a piece of software to respond intelligently.
-
Visualization
Some thing interesting about visualization, use data art
-
Game
Some thing interesting about game, make everyone happy.
Recommend Org
-
Facebook
We are working to build community through open source technology. NB: members must have two-factor auth.
-
Microsoft
Open source projects and samples from Microsoft.
-
Google
Google ❤️ Open Source for everyone.
-
Alibaba
Alibaba Open Source for everyone
-
D3
Data-Driven Documents codes.
-
Tencent
China tencent open source team.
from aquila2.