ai-chat-system/README.md

AI 对话系统 v2.0

支持网页端和Matrix端实时同步对话的AI聊天系统。

v2.0.0 新功能

🎯 核心架构重构

• 大模型池管理：支持配置多个LLM Provider，Agent可选择使用哪个
• Agent管理：每个Agent可独立配置系统设定、思考功能开关
• 渠道独立绑定：网页端和Matrix可绑定不同的Agent，或同一个Agent
• 思考功能：支持原生思考模型，兼容无思考功能的大模型

📊 系统架构

┌─────────────────────────────────────────────────────────────────────┐
│                        大模型池 (LLMProvider)                        │
│  多个LLM API配置，支持思考功能检测                                     │
└─────────────────────────────────────────────────────────────────────┘
                              ↓ 被选择
┌─────────────────────────────────────────────────────────────────────┐
│                           Agent                                      │
│  系统设定、思考开关、思考提示词、大模型选择                              │
└─────────────────────────────────────────────────────────────────────┘
                              ↓ 映射绑定
┌─────────────────────────────────────────────────────────────────────┐
│                      渠道 (Channel)                                  │
│  网页端、Matrix端各自独立配置                                          │
└─────────────────────────────────────────────────────────────────────┘

端口分配

• 19020: 主服务（网页端 + API + Matrix Bot）

快速启动

# v2.0 启动
./start_v2.sh

# 检查状态
./status.sh

# 停止服务
./stop.sh

后台管理

访问 http://localhost:19020/admin

管理功能

1. 大模型池管理

   • 添加/编辑/删除LLM Provider
   • 测试API连接
   • 获取可用模型列表
   • 配置思考功能支持

2. Agent管理

   • 创建多个Agent
   • 配置系统设定（System Prompt）
   • 开关思考功能
   • 选择大模型池

3. 渠道管理

   • 网页端/Matrix独立配置
   • 绑定Agent（支持优先级/条件）
   • Matrix Bot配置

API接口

v2 新增API

# 大模型池
GET    /api/v2/providers           # 获取所有Provider
POST   /api/v2/providers           # 创建Provider
PUT    /api/v2/providers/{id}      # 更新Provider
DELETE /api/v2/providers/{id}      # 删除Provider
POST   /api/v2/providers/models    # 获取API模型列表
POST   /api/v2/providers/test      # 测试API连接

# Agent
GET    /api/v2/agents              # 获取所有Agent
POST   /api/v2/agents              # 创建Agent
PUT    /api/v2/agents/{id}         # 更新Agent
DELETE /api/v2/agents/{id}         # 删除Agent
POST   /api/v2/agents/{id}/default # 设为默认Agent
GET    /api/v2/agents/{id}/config  # 获取Agent完整配置

# 渠道
GET    /api/v2/channels            # 获取所有渠道
POST   /api/v2/channels            # 创建渠道
PUT    /api/v2/channels/{id}       # 更新渠道
PUT    /api/v2/channels/{id}/config # 更新渠道配置
POST   /api/v2/channels/bind       # 绑定Agent
DELETE /api/v2/channels/unbind/{id} # 解绑Agent

原有API（兼容）

GET    /api/conversations          # 获取会话列表
GET    /api/conversations/latest   # 获取最新会话
POST   /api/conversations          # 创建新会话
GET    /api/conversations/{id}/messages # 获取消息
DELETE /api/conversations/{id}     # 删除会话
GET    /api/admin/stats            # 统计数据

思考功能

配置方式

1. 原生支持：某些模型原生支持思考（如DeepSeek R1）

   • Provider配置 supports_thinking: true
   • 可配置专门的 thinking_model

2. 兼容模式：不支持原生思考的模型

   • Agent配置 thinking_prompt 思考提示词
   • 配置 thinking_prefix/thinking_suffix 识别思考内容
   • 系统会将思考提示添加到System Prompt

Matrix命令

/new              # 创建新会话
/agent <name>     # 切换Agent
/thinking on      # 开启思考功能
/thinking off     # 关闭思考功能

技术栈

• 后端: FastAPI + WebSocket
• 数据库: SQLite (SQLAlchemy) + 新增v2模型
• Matrix: matrix-nio (支持加密)
• 前端: Bootstrap 5 + 原生JavaScript
• AI: 可配置多个LLM API

仓库地址

http://192.168.2.8:12007/coder/ai-chat-system

版本历史

• v2.0.0 (2026-04-12): 架构重构，大模型池、Agent管理、渠道独立绑定、思考功能
• v1.0.0: 基础版本，网页端+Matrix同步对话