真正開源的生成式AI h2oGPT

h2oGPT 是一個大型語言模型(LLM) 微調框架和具有文檔問答功能的聊天機器人UI。文檔通過為LLM 提供與指令相關的上下文來幫助他們防止產生“幻覺”。 h2oGPT 可以100% 私密和安全地使用LLM 和文檔嵌入來進行文檔問答。 h2oGPT 是一種真正開源的生成式AI,讓組織能夠創建自己的大型語言模型,同時保持數據完整性。支持的操作系統和硬件GPU模式需要通過torch和transformers來支持CUDA。一個8位的6.9B(或12GB)模型需要使用7…

#真正開源的生成式AI #h2oGPT

Leave a Reply

Your email address will not be published. Required fields are marked *