ThinkAi4j 是什么？

ThinkAi4j 是红信鸽科技出品的 Spring Boot 3 AI 大模型开发框架，通用兼容架构，支持 10 种模型、流式输出、Agent、RAG、多 Agent 协作。

ThinkAi4j 内置了哪些能力？

内置 5 大 Skill、工具调用、流式输出（Flux/SSE）、Agent、RAG、多 Agent 协作，兼容 OpenAI 接口协议。

ThinkAi4j 适合什么场景？

适合在 Java/Spring Boot 项目中快速集成大模型，构建 AI 应用、智能代理、知识库问答系统。

ThinkAi4j 开源免费吗？

完全开源，MIT 协议，永久免费商用。

ThinkAi4j - Spring Boot 3 AI 大模型开发框架

框架概述

ThinkAi4j 是一个简单、强大、开箱即用的 Spring Boot 3 AI 大模型开发框架。核心优势：开箱即用（Ollama 零配置）、多模型支持、自由切换、通用兼容架构。

📦

开箱即用

Ollama 本地模型零配置，云模型 1 行配置即可使用

🔄

多模型支持

10 种主流模型，所有 OpenAI 兼容模型

🔀

自由切换

配置或代码中随时切换模型，无需改业务代码

📡

流式输出

支持 Flux<String>、SSE 多种流式格式

🧠

对话记忆

内置内存记忆，支持 Redis 持久化

🔧

工具调用

@AiTool 注解即可让 AI 调用你的方法

架构优势

通用兼容 + 特殊适配

1 个通用模块 think-ai4j-provider-openai-compat 支持所有 OpenAI 兼容 API 的大模型。配置即接入 —— 新增模型只需修改配置文件，无需编写代码。

快速开始

环境要求

Java 17+
Maven 3.6.3+
Spring Boot 3.2+

引入依赖

      <dependency>
    <groupId>com.hongxinge</groupId>
    <artifactId>think-ai4j-spring-boot-starter</artifactId>
    <version>1.0.2</version>
</dependency>
    

配置模型

      think:
  ai:
    default-provider: doubao
    compat:
      providers:
        - name: doubao
          baseUrl: https://ark.cn-beijing.volces.com/api/v3
          apiKey: 你的API密钥
          model: 你的模型ID
        - name: moonshot
          baseUrl: https://api.moonshot.cn/v1
          apiKey: 你的API密钥
          model: moonshot-v1-8k

    memory:
      type: memory      # memory=内存 | redis=持久化
      max-messages: 20
    

🎉 Ollama 本地模型零配置

只要本地安装了 Ollama（默认端口 11434），无需任何配置即可使用。

支持的 AI 模型

模型	提供商名称	兼容 OpenAI
豆包 (Doubao)	doubao	✅
百度文心 (Qianfan)	qianfan	✅
腾讯混元 (Hunyuan)	hunyuan	✅
Kimi (Moonshot)	moonshot	✅
智谱 GLM	glm	✅
MiniMax	minimax	✅
DeepSeek	deepseek	✅
通义千问 (Qwen)	qwen	✅
Ollama 本地	ollama	✅
OpenAI GPT	openai	✅

对话功能

简单对话

      @Autowired
private AiChat chat;

String result = chat.ask("你好");
    

带系统提示词

      String result = chat.system("你是Java专家").ask("如何设计单例模式？");
    

流式输出（SSE）

      @GetMapping(value = "/stream", produces = MediaType.TEXT_EVENT_STREAM_VALUE)
public Flux<String> stream(@RequestParam String q) {
    return chat.stream(q);
}
    

切换模型

String result = chat.provider("glm").ask("你好");

对话记忆（Redis 持久化）

      @Autowired
private ChatMemory memory;

memory.addMessage("user-123", AiMessage.user("我叫小明"));
List<AiMessage> history = memory.getMessages("user-123");
    

工具调用

      @Component
public class WeatherTool {

    @AiTool("查询天气")
    public String getWeather(
        @ToolParam(description = "城市名称") String city
    ) {
        return "晴天，25度";
    }
}
    

RAG 文档问答

      @Autowired
private RagPipeline ragPipeline;

List<Document> docs = List.of(
    new Document("公司规定年假为15天"),
    new Document("加班费按每小时100元计算")
);
ragPipeline.ingest(docs);

String answer = ragPipeline.query("年假有多少天？");
    

Agent 智能代理

基本 Agent

      Agent agent = new Agent("助手", "你是一个专业的助手", chat)
    .addToolBean(new WeatherTool())
    .addToolBean(new SearchTool());

String result = agent.execute("北京天气如何？");
    

Agent 长期记忆

      ChatMemory memory = new InMemoryChatMemory();
AgentLongTermMemory longTermMemory = new AgentLongTermMemory("assistant-1", memory);

longTermMemory.rememberFact("用户姓名：张三");
longTermMemory.rememberFact("用户偏好：Java开发");

Agent agent = new Agent("助手", "你是专业助手", chat)
    .longTermMemory(longTermMemory);
    

多 Agent 协作

      AgentBus bus = new AgentBus();
bus.register("研究员", researcherAgent);
bus.register("写手", writerAgent);
bus.register("审核员", reviewerAgent);

// 链式执行：研究员 -> 写手 -> 审核员
String report = bus.chainExecute(
    List.of("研究员", "写手", "审核员"),
    "研究AI趋势并写报告"
);

// 并行执行
String results = bus.parallelExecute(Map.of(
    "研究员", "研究技术趋势",
    "写手", "写文章摘要"
));
    

内置 5 大 Skill

📁 FileSkill - 文件操作

读写文件、列出目录。支持 allowedDirs 限定访问范围。

FileSkill fileSkill = new FileSkill("/workspace");
fileSkill.writeFile("notes.txt", "重要笔记");
String content = fileSkill.readFile("notes.txt");

🌐 HttpSkill - HTTP 请求

GET / POST 请求，支持自定义 Header。

HttpSkill httpSkill = new HttpSkill()
    .setDefaultHeader("Authorization", "Bearer token");
String response = httpSkill.httpGet("https://api.example.com/data", null);

🗄️ DatabaseSkill - 数据库查询

SQL 查询、获取表列表、查看表结构。

DatabaseSkill dbSkill = new DatabaseSkill(
    "jdbc:h2:mem:testdb", "sa", "");
String results = dbSkill.executeQuery("SELECT * FROM users");

🕐 TimeSkill - 时间日期

获取当前时间、日期、时区转换、格式化时间戳。

TimeSkill timeSkill = new TimeSkill();
String now = timeSkill.getCurrentDateTime("Asia/Shanghai");

🧠 MemorySkill - 记忆管理

记住/查询/忘记信息、清空记忆。

MemorySkill memorySkill = new MemorySkill();
memorySkill.remember("用户名", "张三");
String name = memorySkill.recall("用户名");

项目结构

      think-ai4j/
├── think-ai4j-core/                    # 核心模块
├── think-ai4j-provider-openai-compat/  # 通用兼容模块
├── think-ai4j-memory/                  # 内存记忆
├── think-ai4j-memory-redis/            # Redis 持久化记忆
├── think-ai4j-tool/                    # 工具调用
├── think-ai4j-skill/                   # 内置 Skill
├── think-ai4j-rag/                     # RAG 检索增强
├── think-ai4j-agent/                   # Agent 框架
├── think-ai4j-observability/           # 可观测性
├── think-ai4j-store-pgvector/          # PgVector 向量存储
├── think-ai4j-spring-boot-starter/     # Spring Boot 自动配置
├── think-ai4j-example/                 # 示例项目
└── think-ai4j-test/                    # 测试模块（157 个测试用例）
    

更新日志

v1.0.2（2026-09-26）企业级健壮性专项

10 项缺陷修复 + 4 项新增功能，回归测试扩充至 157 个。

缺陷修复

[重要] 修复配置的模型名被覆盖的问题：此前 ask()/stream()/Agent 调用链会把 Provider 名称（如 doubao）误当作模型名发送给 API。现在 ChatRequest.provider 用于选择 Provider，model 专用于指定模型名，两者语义彻底分离（未指定 model 时自动使用配置的默认模型）
修复 system() 重复堆叠：链式多次调用 system() 现在是替换语义（仅保留最新一条系统提示词）
修复 PgVector 向量存储：接入 EmbeddingProvider 实现真实语义检索，并增加向量维度校验与表名安全校验
修复流式对话不落记忆：stream() 与 ask() 行为一致，对话自动写入记忆
修复 Redis 记忆并发丢失：改用 Redis List + Lua 脚本原子追加，高并发场景不再出现消息互相覆盖
修复 AgentBus.parallelExecute 假并行：改为真实并发执行，全部完成后汇总
修复工具调用复杂类型参数：@AiTool 方法支持 POJO / List / Map 参数自动转换
加固 HTTP Skill SSRF 防护：在 DNS 解析处校验实际连接 IP，消除 DNS 重绑定绕过窗口，并补全 IPv6 内网地址拦截

新增功能

@AiAgent 注解：Spring Boot 容器自动扫描并装配 Agent
可观测性自动装配：引入 actuator 即自动采集 AI 调用指标（请求/错误/耗时/Token）
ChatRequest.builder().provider(...)：Builder 支持指定 Provider
Document 支持携带 embedding 向量

API 文档

方法	说明	示例
`chat.ask(q)`	同步对话	`chat.ask("你好")`
`chat.system(s).ask(q)`	带系统提示词	`chat.system("你是专家").ask("问题")`
`chat.provider(p).ask(q)`	指定模型	`chat.provider("glm").ask("问题")`
`chat.stream(q)`	流式输出（Flux）	`chat.stream("问题")`
`chat.temperature(t).ask(q)`	控制创造性	`chat.temperature(0.7).ask("写诗")`

仓库地址

平台	地址
Gitee	https://gitee.com/hongxinge/think-ai4j
GitHub	https://github.com/hongxinge/ThinkAi4j

🧠 ThinkAi4j

框架概述

开箱即用

多模型支持

自由切换

流式输出

对话记忆

工具调用

架构优势

快速开始

环境要求

引入依赖

配置模型

支持的 AI 模型

对话功能

简单对话

带系统提示词

流式输出（SSE）

切换模型

对话记忆（Redis 持久化）

工具调用

RAG 文档问答

Agent 智能代理

基本 Agent

Agent 长期记忆

多 Agent 协作

内置 5 大 Skill

📁 FileSkill - 文件操作

🌐 HttpSkill - HTTP 请求

🗄️ DatabaseSkill - 数据库查询

🕐 TimeSkill - 时间日期

🧠 MemorySkill - 记忆管理

项目结构

更新日志

缺陷修复

新增功能

API 文档

仓库地址