Floneum 是一款用於AI 工作流程的圖形編輯器,專注於社區製作的插件、本地AI 和安全性。
特性:
- 可視化界面:你無需任何編程知識即可使用Floneum。可視化圖形編輯器可以輕鬆地將社區製作的插件與本地人工智能模型相結合
- 即時運行本地大型語言模型:Floneum 不需要任何外部依賴項,甚至不需要GPU 即可運行。它使用llm在本地運行大型語言模型。因此,你可以使用你的數據運行Floneum,而無需擔心隱私問題
- 外掛:通過將大型語言模型與插件相結合,你可以提高其性能並使模型更好地適合您的特定用例。所有插件都在隔離的環境中運行,因此你無需信任你加載的任何插件。插件只能以安全的方式與其環境交互
- 多語言插件:插件可以使用任何支持Web彙編的語言。除了可以用任何語言訪問的API 之外,Floneum 還具有一個帶有人體工學宏的Rust 包裝器,可以輕鬆創建插件
- 受控文本生成:插件可以通過類似於jsonformer 或guidance 的過程來控制大型語言模型的輸出。這允許插件強制模型輸出有效的json 或它們定義的任何其他結構。這在語言模型和類型化API 之間進行通信時非常有用
#Floneum首頁文檔和下載 #用於AI #工作流程的圖形編輯器 #科技資訊