OpenLLM 是一個生產級的操作大語言模型(LLM) 的開放平台。支持便捷Fine-tune 微調、Serve 模型服務、部署和監控任何LLM。借助OpenLLM,可以使用任何開源大語言模型運行推理,部署到雲端或本地,並構建強大的AI 應用程序。 OpenLLM 特性包括: 先進的LLM:內置支持各種開源LLM 和模型運行時,包括StableLM、Falcon、Dolly、Flan-T5、ChatGLM、StarCoder 等。靈活的API:只需一個命即可通過RESTful API 或gRPC 為LL… |
#操作大語言模型的開放平台OpenLLM