feat: 添加 Web 前端及服务端 SSE 流式支持,扩展多模型兼容
后端:
- server: 实现完整的 HTTP 会话管理(CRUD)+ SSE 事件流推送,
支持双通道架构(POST 发消息 + GET SSE 接收流式响应)
- runtime: ContentBlock 新增 Thinking / RedactedThinking 变体,
支持思考过程和已编辑思考的序列化/反序列化
- api: 注册 GLM 系列模型(glm-4/5 等)到模型注册表,
扩展 XAI/OpenAI 兼容提供商的请求构建逻辑
前端:
- 基于 Ant Design X 构建完整聊天界面:Bubble.List 消息列表、
Sender 输入框、Conversations 会话管理、Think 思考过程折叠、
ThoughtChain 工具调用链展示
- XMarkdown 集成:代码高亮、Mermaid 图表、LaTeX 公式、
自定义脚注、流式渲染(incomplete 占位符)
- SSE Hook 对接服务端事件流,手动管理 AssistantBuffer 累积 delta
- 深色/浅色主题切换,会话侧边栏(新建/切换/删除)
This commit is contained in:
@@ -5,6 +5,10 @@ edition.workspace = true
|
||||
license.workspace = true
|
||||
publish.workspace = true
|
||||
|
||||
[[bin]]
|
||||
name = "claw-server"
|
||||
path = "src/main.rs"
|
||||
|
||||
[dependencies]
|
||||
async-stream = "0.3"
|
||||
axum = "0.8"
|
||||
@@ -12,6 +16,14 @@ runtime = { path = "../runtime" }
|
||||
serde = { version = "1", features = ["derive"] }
|
||||
serde_json.workspace = true
|
||||
tokio = { version = "1", features = ["macros", "rt-multi-thread", "sync", "net", "time"] }
|
||||
tower = "0.5"
|
||||
tower-http = { version = "0.6", features = ["cors"] }
|
||||
api = { path = "../api" }
|
||||
tools = { path = "../tools" }
|
||||
plugins = { path = "../plugins" }
|
||||
commands = { path = "../commands" }
|
||||
dotenvy = "0.15"
|
||||
chrono = "0.4"
|
||||
|
||||
[dev-dependencies]
|
||||
reqwest = { version = "0.12", default-features = false, features = ["json", "rustls-tls", "stream"] }
|
||||
|
||||
@@ -0,0 +1,57 @@
|
||||
# 服务模块 (server)
|
||||
|
||||
本模块提供了一个基于 HTTP 的 RESTful API 和 Server-Sent Events (SSE) 流接口,允许通过网络远程管理和与 Claw 会话进行交互。
|
||||
|
||||
## 概览
|
||||
|
||||
`server` 模块将 `runtime` 的核心功能封装为 Web 服务,其主要职责包括:
|
||||
- **会话管理**:提供创建、列出和获取会话详情的端点。
|
||||
- **消息分发**:接收用户消息并将其路由到相应的会话实例。
|
||||
- **实时流推送**:通过 SSE 接口实时推送会话事件(如 AI 响应消息、状态快照)。
|
||||
- **状态维护**:在内存中管理多个活跃会话的生命周期。
|
||||
|
||||
## 关键特性
|
||||
|
||||
- **RESTful API**:使用 `axum` 框架实现,遵循现代 Web 服务标准。
|
||||
- **事件流 (SSE)**:支持 `text/event-stream`,允许客户端实时订阅会话更新。
|
||||
- **并发处理**:利用 `tokio` 和 `broadcast` 频道,支持多个客户端同时监听同一会话的事件。
|
||||
- **快照机制**:在建立连接时发送当前会话的完整快照,确保客户端能够同步历史状态。
|
||||
|
||||
## 实现逻辑
|
||||
|
||||
### 核心接口 (API Routes)
|
||||
|
||||
- `POST /sessions`: 创建一个新的对话会话。
|
||||
- `GET /sessions`: 列出所有活跃会话的简要信息。
|
||||
- `GET /sessions/{id}`: 获取指定会话的完整详细信息。
|
||||
- `POST /sessions/{id}/message`: 向指定会话发送一条新消息。
|
||||
- `GET /sessions/{id}/events`: 建立 SSE 连接,订阅该会话的实时事件流。
|
||||
|
||||
### 核心结构
|
||||
|
||||
- **`AppState`**: 存储全局状态,包括 `SessionStore` (由 `RwLock` 保护的哈希表) 和会话 ID 分配器。
|
||||
- **`Session`**: 封装了 `runtime::Session` 实例,并包含一个用于广播事件的 `broadcast::Sender`。
|
||||
- **`SessionEvent`**: 定义了流中传输的事件类型,包括 `Snapshot` (快照) 和 `Message` (新消息)。
|
||||
|
||||
### 工作流程
|
||||
|
||||
1. 启动服务并初始化 `AppState`。
|
||||
2. 客户端通过 `POST /sessions` 开启一个新会话。
|
||||
3. 客户端连接 `GET /sessions/{id}/events` 以监听响应。
|
||||
4. 客户端通过 `POST /sessions/{id}/message` 发送 Prompt。
|
||||
5. 服务端将消息存入 `runtime::Session`,并触发广播。SSE 流将该消息及后续的 AI 响应实时推送回客户端。
|
||||
|
||||
## 使用示例 (内部)
|
||||
|
||||
```rust
|
||||
use server::{app, AppState};
|
||||
use axum::Router;
|
||||
|
||||
// 创建应用路由
|
||||
let state = AppState::new();
|
||||
let router = app(state);
|
||||
|
||||
// 启动服务(示例)
|
||||
let listener = tokio::net::TcpListener::bind("0.0.0.0:3000").await.unwrap();
|
||||
axum::serve(listener, router).await.unwrap();
|
||||
```
|
||||
+941
-112
File diff suppressed because it is too large
Load Diff
@@ -0,0 +1,74 @@
|
||||
use std::env;
|
||||
use std::net::SocketAddr;
|
||||
use server::{app, AppState};
|
||||
use tokio::net::TcpListener;
|
||||
|
||||
#[tokio::main]
|
||||
async fn main() -> Result<(), Box<dyn std::error::Error>> {
|
||||
// 尝试加载 .env
|
||||
let _ = dotenvy::dotenv();
|
||||
|
||||
let host = env::var("SERVER_HOST").unwrap_or_else(|_| "127.0.0.1".to_string());
|
||||
let port = env::var("SERVER_PORT")
|
||||
.unwrap_or_else(|_| "3000".to_string())
|
||||
.parse::<u16>()?;
|
||||
let addr = format!("{host}:{port}").parse::<SocketAddr>()?;
|
||||
|
||||
// 解析模型(支持别名,如 "opus" -> "claude-opus-4-6")
|
||||
let raw_model = env::var("CLAW_MODEL").unwrap_or_else(|_| "claude-opus-4-6".to_string());
|
||||
let model = api::resolve_model_alias(&raw_model).to_string();
|
||||
|
||||
// 动态日期
|
||||
let today = chrono::Local::now().format("%Y-%m-%d").to_string();
|
||||
|
||||
// 构建系统提示词(从项目目录加载或使用默认值)
|
||||
let cwd = env::current_dir()?;
|
||||
let system_prompt =
|
||||
runtime::load_system_prompt(&cwd, &today, env::consts::OS, "unknown")
|
||||
.unwrap_or_else(|_| {
|
||||
vec![
|
||||
"You are a helpful AI assistant running inside the Claw web interface."
|
||||
.to_string(),
|
||||
]
|
||||
});
|
||||
|
||||
// 解析权限模式(从环境变量或配置,默认 WorkspaceWrite)
|
||||
let permission_mode = match env::var("CLAW_PERMISSION_MODE")
|
||||
.unwrap_or_default()
|
||||
.as_str()
|
||||
{
|
||||
"danger" | "DangerFullAccess" => runtime::PermissionMode::DangerFullAccess,
|
||||
"readonly" | "ReadOnly" => runtime::PermissionMode::ReadOnly,
|
||||
_ => {
|
||||
// 尝试从 .claw.json 配置读取
|
||||
let loader = runtime::ConfigLoader::default_for(&cwd);
|
||||
loader
|
||||
.load()
|
||||
.ok()
|
||||
.and_then(|config| config.permission_mode())
|
||||
.map(|resolved| match resolved {
|
||||
runtime::ResolvedPermissionMode::ReadOnly => runtime::PermissionMode::ReadOnly,
|
||||
runtime::ResolvedPermissionMode::WorkspaceWrite => runtime::PermissionMode::WorkspaceWrite,
|
||||
runtime::ResolvedPermissionMode::DangerFullAccess => runtime::PermissionMode::DangerFullAccess,
|
||||
})
|
||||
.unwrap_or(runtime::PermissionMode::WorkspaceWrite)
|
||||
}
|
||||
};
|
||||
|
||||
// 初始化应用状态
|
||||
let state = AppState::new(model.clone(), system_prompt, permission_mode, cwd)?;
|
||||
|
||||
// 构建路由
|
||||
let router = app(state);
|
||||
|
||||
println!("Claw Server started");
|
||||
println!(" address: http://{addr}");
|
||||
println!(" pid: {}", std::process::id());
|
||||
println!(" model: {model}");
|
||||
println!(" tip: curl -X POST http://{addr}/sessions");
|
||||
|
||||
let listener = TcpListener::bind(addr).await?;
|
||||
axum::serve(listener, router).await?;
|
||||
|
||||
Ok(())
|
||||
}
|
||||
Reference in New Issue
Block a user