OpenBuddy 是一个功能强大的开源跨语言对话模型,提供无缝的多语言支持,包括中文、英语和其他语言。
Website: https://openbuddy.ai
GitHub: https://github.com/OpenBuddy/OpenBuddy
Huggingface: https://huggingface.co/OpenBuddy
基于 Facebook 的 LLAMA 基础模型,OpenBuddy 已经对词表进行了扩展并提升了 Token Embedding。通过将这些改进与多轮对话数据集相结合,OpenBuddy 提供了一款能够用中文、英文和其它多种语言回答问题并完成翻译等跨语言任务的强大模型。
主要特点
- 专注于跨语言能力、创造力的对话型语言模型
- 基于 Facebook 的 LLAMA 模型构建
- 扩展词汇表,增加常用CJK字符支持
- 结合多轮对话数据集进行微调以提高性能
- 提供两个模型版本:7B 和 13B
- 可以量化为 4 位,使用 llama.cpp 在 CPU 上部署(输出质量略有降低)
- 持续演进,未来会提供更多功能和改进
模型版本
OpenBuddy 目前提供两个模型版本:7B 和 13B。
模型的更多信息和下载地址请参阅 models.md。
未来计划
- 进一步完善对更多语言的支持
- 优化量化后的内容质量
- 建立评估模型的内容质量、安全性、推理能力的机制
- 尝试人类反馈强化学习(RLHF)
- 尝试添加针对输入图片开展对话的多模态能力
内容中包含的图片若涉及版权问题,请及时与我们联系删除
评论
沙发等你来抢