6 月 8 日消息，国产多模态大语言模型 %ignore_a_1% 近日正式发布，包含 70 亿参数和 1800 亿参数两个版本，目前已经在 GitHub 开源。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜
▲ 图源 TigerBot 的 GitHub 页面
据悉，TigerBot 带来的创新主要在于：
提出指令完成监督微调的创新算法提升模型可学习性。运用 ensemble 和 probabilistic modeling 的方法实现可控事实性和创造性。在并行训练上突破 deep-speed 等主流框架中的内存和通信问题。
此外，该模型还针对中文语言更不规则的分布，从 tokenizer 到训练算法上做了更适合的优化。
研究人员陈烨在虎博科技官网表示：“该模型在只使用少量参数的情况下，就能快速理解人类提出了哪类问题。根据 OpenAI InstructGPT 论文在公开 NLP 数据集上的自动评测，TigerBot-7B 已达到 OpenAI 同样大小模型的综合表现的 96%。”
▲ 图源 TigerBot 的 GitHub 页面
据称，其中 TigerBot-7B-base 的表现“优于 OpenAI 同等可比模型” ，开源代码包括基本训练和推理代码，双卡推理 180B 模型的量化和推理代码。数据包括 100G 预训练数据，监督微调 1G 或 100 万条数据。
IT之家小伙伴们可以在这里找到 GitHub 的开源项目。
以上就是效果可达 OpanAI 同等模型 96%，国产开源 AI 语言模型 TigerBot 发布的详细内容，更多请关注创想鸟其它相关文章！
版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容， 请发送邮件至 chuangxiangniao@163.com 举报，一经查实，本站将立刻删除。
发布者：程序猿，转转请注明出处：https://www.chuangxiangniao.com/p/975276.html
微信扫一扫 
支付宝扫一扫 
