zhuiyitechnology/pretrained-models

Open Language Pre-trained Model Zoo

pretrained-models's Issues

求使用的各个库的版本信息

运行报错ImportError: cannot import name 'Simbert' from 'nlpcda'

from nlpcda import Simbert

ImportError: cannot import name 'Simbert' from 'nlpcda' (C:\Users\HP-OMEN\Desktop\project\code\nlpcda-master\nlpcda_init_.py)

Simbert-small 和Simbert-tiny

为什么这两模型是384和312的，和bert的标准结构不一样

simbert预训练输入数据格式

请问下，simber训练的时候，数据以什么格式放到bert4keras中啊
有训练的代码？

simbert small和tiny的训练过程

已知simbert是在bert-base的基础上用相似句语料训练得到的，那么small版和tiny版，是怎么训练得到的呢？比如
方法一：直接在bert-small/tiny上用相似句语料训练
方法二：用训练好的simbert作为teacher蒸馏得到simbert-small/tiny

simbert句子转向量输出的长度可以设置吗， 还是只能默认的768维

您好，如题，不知道能否配置输出的向量长度，另外如果可以缩小输出的向量长度，对于该向量所表示的句子意义，是否有较大的变动，做句子相似度的效果上是否会有降低，期待大佬的回复！

pytorch加载simbert问题

hello 苏神 请问pytorch加载simbert问题。

直接用transformers的包加载，维度会不一致

看起来tf的权重是embedding部分多了一个linear层，torch版本没有这一层[bert/encoder/embedding_hidden_mapping_in/]

为什么开源权重多了这部分，是不是，torch版本的model的embedding部分加上这个linear，然后加载即可。

Google-BERT 是否能加载这些 RoBERTa 模型？

一人血书求作者接入Huggingface

simbert中如何用transformers中的API修改bert4keras中的代码

key_size?

请问最下面的key_size是什么？

convert SimBERT Base to SavedModel for tensorflow/serving

I hope to load SimBERT Base using tensorflow/serving , anyone did this ? or can you give me some advices ?

关于文件名

为什么解压完是这个文件名呀bert_model.ckpt.data-00000-of-00001，作为checkpoint_path没有办法读取啊？

有和base模型的对比结果吗

simbert的所有链接都失效了

项目中所有的simbert链接都失效了，有谁有simber预训练模型的麻烦发我一下
[email protected]

报错求看是bert4keras版本问题吗？

修改Max_length失效

请问生成相似句子时,句子的长度可以控制嘛?我这边已经吧max-length修改成了200,可是生成的相似语句还是非常短,大概50字左右.
SENTENCE_MAX_LENTH = 200

config = {
    'model_path': '/data/public/wanghao/code/nlpcda/model/chinese_simbert_L-12_H-768_A-12',
    'device': 'cuda',
    'max_len': SENTENCE_MAX_LENTH,
    'seed': 1
    }

示例:
这个这个钱打扮可能会有这种疑问吧，呃，那如果说我们这边呢，就到时候人安详离去了，或者说因为一些意外啊，到时候人不在了，我们是延续了一个这个保险金的事，保险金到时候呢，但是返还所交保费去到时候交了多少， 1 1
这个钱打扮可能会有这种疑问吧，那如果说我们这边的人安详离去了，或者说因为一些意外离去了，保险金到时候 1 0.9049341678619385
我这里的钱可能会有这种疑问吧，如果我们这边的人安排我们去了，我们人安详的，我会怎么做，保险金交了多少，那么 1 0.8423924446105957
在这个保险公司上班，这个钱打扮可能会有这种疑问吧，如果说我们这边的人安详离去了，我会有这样的事吗 1 0.8116059899330139
我这边有点不在，这个钱打扮可能有这种疑问吧，如果我在这边的，那我会不会是我们这边的人安详离去了，我 1 0.7801448106765747

求百度知道2200W数据集

你好，请问可以提供2200W数据集，作为我科学研究之用吗