OpenBuddy 是一款強大的開源多語言聊天機器人模型,面向全球用戶,重點強調對話AI 和無縫多語言支持,包括英語、中文和其他語言。
基於Tii 的Falcon 模型和Facebook 的LLaMA 模型構建,OpenBuddy 經過微調,包括擴展詞彙表、增加常見字符和增強token 嵌入。通過利用這些改進和多輪對話數據集,OpenBuddy 提供了一個強大的模型,能夠回答各種語言的問題並執行翻譯任務。
OpenBuddy 使命是提供一個免費、開源、能夠離線運行的AI 模型,這個模型在用戶的設備上運行,不論他們的語言或文化背景如何。致力於讓全球各地的人們能夠接觸並從AI 技術中受益。
主要特性
- 多語言會話AI,支持中文、英語、日語、韓語、法語、德語等多種語言!
- 擴展的詞彙表和對常見的CJK 字符的支持
- 通過多輪對話數據集進行微調以提高性能
- 提供兩個模型版本:7B 和13B
- 通過llama.cpp 提供對CPU 部署的5 位量化(輸出質量稍有降低)
- 積極的開發計劃,預期未來的特性和改進
模型版本
OpenBuddy 目前提供兩個模型系列:Falcon 和LLaMA。
關於下載模型的更多信息可以在 模型 頁面找到。
未來計劃
- 增強多語言性能
- 優化模型量化後的質量
- 開發一個評估內容質量、安全性和推理能力的機制
- 探索使用人類反饋的強化學習(RLHF)
- 探索添加多模態能力,用於有圖像上下文的對話
#OpenBuddy首頁文檔和下載 #多語言聊天機器人 #程式开发