
Solon AI
Solon AI ,是一套大语言模型的 Java 通用开发工具包(是 Solon 的二级项目)。特点:
- 一套接口支持不同提供者、不同大模型调用(通过方言适配)
- 支持 Function Call
- 支持 RAG
- 支持 AI-Flow(与 Solon Flow 配合)
- 支持同步接口与流式接口
- 支持会话记忆
- 支持聊天生成模型(ChatModel) 、图片生成模型(ImageModel) 、多态模型等
- 支持嵌入模型(EmbeddingModel) 、排序模型(RankingModel)
- 支持 Java 8 到 Java 24
- 支持 Spring、jFinal、Vert.x 等 Solon 以外的框架
- 等......更多内容,参考官网介绍
通过 Hello world 了解下:
添加应用配置
solon.ai.chat: demo: apiUrl: "http://127.0.0.1:11434/api/chat" # 使用完整地址(而不是 api_base) provider: "ollama" # 使用 ollama 服务时,需要配置 provider model: "llama3.2" # 或 deepseek-r1:7b
效果测试
@Configuration public class DemoConfig { @Bean public ChatModel build(@Inject("${solon.ai.chat.demo}") ChatConfig config) { return ChatModel.of(config).build(); } @Bean public void test(ChatModel chatModel) throws IOException { //一次性返回 ChatResponse resp = chatModel.prompt("hello").call(); //打印消息 System.out.println(resp.getMessage()); } }
最近更新了什么?
- 新增 solon-ai-repo-chroma 插件
- 优化 solon-ai-repo-tcvectordb 插件相似度处理
- 优化 solon-ai-repo-elasticsearch 插件相似度处理
项目仓库地址?
- gitee:https://gitee.com/opensolon/solon-ai
- gitcode: https://gitcode.com/opensolon/solon-ai
- github:https://github.com/opensolon/solon-ai
官网?
- https://solon.noear.org/article/learn-solon-ai
还没有评论,来说两句吧...