151 lines
5.4 KiB
Markdown
151 lines
5.4 KiB
Markdown
# AI 对话系统 v2.0
|
||
|
||
支持网页端和Matrix端实时同步对话的AI聊天系统。
|
||
|
||
## v2.0.0 新功能
|
||
|
||
### 🎯 核心架构重构
|
||
|
||
- **大模型池管理**：支持配置多个LLM Provider，Agent可选择使用哪个
|
||
- **Agent管理**：每个Agent可独立配置系统设定、思考功能开关
|
||
- **渠道独立绑定**：网页端和Matrix可绑定不同的Agent，或同一个Agent
|
||
- **思考功能**：支持原生思考模型，兼容无思考功能的大模型
|
||
|
||
### 📊 系统架构
|
||
|
||
```
|
||
┌─────────────────────────────────────────────────────────────────────┐
|
||
│ 大模型池 (LLMProvider) │
|
||
│ 多个LLM API配置，支持思考功能检测 │
|
||
└─────────────────────────────────────────────────────────────────────┘
|
||
↓ 被选择
|
||
┌─────────────────────────────────────────────────────────────────────┐
|
||
│ Agent │
|
||
│ 系统设定、思考开关、思考提示词、大模型选择 │
|
||
└─────────────────────────────────────────────────────────────────────┘
|
||
↓ 映射绑定
|
||
┌─────────────────────────────────────────────────────────────────────┐
|
||
│ 渠道 (Channel) │
|
||
│ 网页端、Matrix端各自独立配置 │
|
||
└─────────────────────────────────────────────────────────────────────┘
|
||
```
|
||
|
||
## 端口分配
|
||
|
||
- 19020: 主服务（网页端 + API + Matrix Bot）
|
||
|
||
## 快速启动
|
||
|
||
```bash
|
||
# v2.0 启动
|
||
./start_v2.sh
|
||
|
||
# 检查状态
|
||
./status.sh
|
||
|
||
# 停止服务
|
||
./stop.sh
|
||
```
|
||
|
||
## 后台管理
|
||
|
||
访问 http://localhost:19020/admin
|
||
|
||
### 管理功能
|
||
|
||
1. **大模型池管理**
|
||
- 添加/编辑/删除LLM Provider
|
||
- 测试API连接
|
||
- 获取可用模型列表
|
||
- 配置思考功能支持
|
||
|
||
2. **Agent管理**
|
||
- 创建多个Agent
|
||
- 配置系统设定（System Prompt）
|
||
- 开关思考功能
|
||
- 选择大模型池
|
||
|
||
3. **渠道管理**
|
||
- 网页端/Matrix独立配置
|
||
- 绑定Agent（支持优先级/条件）
|
||
- Matrix Bot配置
|
||
|
||
## API接口
|
||
|
||
### v2 新增API
|
||
|
||
```
|
||
# 大模型池
|
||
GET /api/v2/providers # 获取所有Provider
|
||
POST /api/v2/providers # 创建Provider
|
||
PUT /api/v2/providers/{id} # 更新Provider
|
||
DELETE /api/v2/providers/{id} # 删除Provider
|
||
POST /api/v2/providers/models # 获取API模型列表
|
||
POST /api/v2/providers/test # 测试API连接
|
||
|
||
# Agent
|
||
GET /api/v2/agents # 获取所有Agent
|
||
POST /api/v2/agents # 创建Agent
|
||
PUT /api/v2/agents/{id} # 更新Agent
|
||
DELETE /api/v2/agents/{id} # 删除Agent
|
||
POST /api/v2/agents/{id}/default # 设为默认Agent
|
||
GET /api/v2/agents/{id}/config # 获取Agent完整配置
|
||
|
||
# 渠道
|
||
GET /api/v2/channels # 获取所有渠道
|
||
POST /api/v2/channels # 创建渠道
|
||
PUT /api/v2/channels/{id} # 更新渠道
|
||
PUT /api/v2/channels/{id}/config # 更新渠道配置
|
||
POST /api/v2/channels/bind # 绑定Agent
|
||
DELETE /api/v2/channels/unbind/{id} # 解绑Agent
|
||
```
|
||
|
||
### 原有API（兼容）
|
||
|
||
```
|
||
GET /api/conversations # 获取会话列表
|
||
GET /api/conversations/latest # 获取最新会话
|
||
POST /api/conversations # 创建新会话
|
||
GET /api/conversations/{id}/messages # 获取消息
|
||
DELETE /api/conversations/{id} # 删除会话
|
||
GET /api/admin/stats # 统计数据
|
||
```
|
||
|
||
## 思考功能
|
||
|
||
### 配置方式
|
||
|
||
1. **原生支持**：某些模型原生支持思考（如DeepSeek R1）
|
||
- Provider配置 `supports_thinking: true`
|
||
- 可配置专门的 `thinking_model`
|
||
|
||
2. **兼容模式**：不支持原生思考的模型
|
||
- Agent配置 `thinking_prompt` 思考提示词
|
||
- 配置 `thinking_prefix`/`thinking_suffix` 识别思考内容
|
||
- 系统会将思考提示添加到System Prompt
|
||
|
||
### Matrix命令
|
||
|
||
```
|
||
/new # 创建新会话
|
||
/agent <name> # 切换Agent
|
||
/thinking on # 开启思考功能
|
||
/thinking off # 关闭思考功能
|
||
```
|
||
|
||
## 技术栈
|
||
|
||
- **后端**: FastAPI + WebSocket
|
||
- **数据库**: SQLite (SQLAlchemy) + 新增v2模型
|
||
- **Matrix**: matrix-nio (支持加密)
|
||
- **前端**: Bootstrap 5 + 原生JavaScript
|
||
- **AI**: 可配置多个LLM API
|
||
|
||
## 仓库地址
|
||
|
||
http://192.168.2.8:12007/coder/ai-chat-system
|
||
|
||
## 版本历史
|
||
|
||
- v2.0.0 (2026-04-12): 架构重构，大模型池、Agent管理、渠道独立绑定、思考功能
|
||
- v1.0.0: 基础版本，网页端+Matrix同步对话 |