加入 Gitee
与超过 1200万 开发者一起发现、参与优秀开源项目,私有仓库也完全免费 :)
免费加入
文件
该仓库未声明开源许可证文件(LICENSE),使用请关注具体项目描述及其代码上游依赖。
克隆/下载
tokenizer_config.json 236 Bytes
一键复制 编辑 原始数据 按行查看 历史
Cyrile Delestre 提交于 2022-02-16 20:23 . Upload tokenizer_config.json
{"bos_token": "<s>", "eos_token": "</s>", "sep_token": "</s>", "cls_token": "<s>", "unk_token": "<unk>", "pad_token": "<pad>", "mask_token": "<mask>", "additional_special_tokens": ["<s>NOTUSED", "</s>NOTUSED"], "model_max_length": 512}
Loading...
马建仓 AI 助手
尝试更多
代码解读
代码找茬
代码优化