| h2oGPT 是一個大型語言模型(LLM) 微調框架和具有文檔問答功能的聊天機器人UI。文檔通過為LLM 提供與指令相關的上下文來幫助他們防止產生“幻覺”。 h2oGPT 可以100% 私密和安全地使用LLM 和文檔嵌入來進行文檔問答。 h2oGPT 是一種真正開源的生成式AI，讓組織能夠創建自己的大型語言模型，同時保持數據完整性。支持的操作系統和硬件GPU模式需要通過torch和transformers來支持CUDA。一個8位的6.9B（或12GB）模型需要使用7… |
#真正開源的生成式AI #h2oGPT