小丸子博客

本站只有一些笔记，请不要有任何恶意

【AI大模型接入SDK】ChatServer 路由规则绑定

· 小丸子 · 阅读 0 · 分类： 技术分享

整理一篇学习笔记，把看到的一些要点和自己的理解都记下来。

🎬 个人主页：艾莉丝努力练剑

❄专栏传送门：《C语言》《数据结构与算法》《C/C++干货分享&学习过程记录》
《Linux操作系统编程详解》《笔试/面试常见算法：从基础到进阶》《Python干货分享》

⭐️为天地立心，为生民立命，为往圣继绝学，为万世开太平

🎬 艾莉丝的简介：

文章目录

1.3 路由规则达成 setHttpRoutes 1.4 路由绑定函数调用时机 2 ~> httplib 静态资源挂载 3 ~> 开发规范与面试要点 4 ~> 易错点总结结尾

1 ~> ChatServer 路由规则绑定

1.1 业务背景

  • ChatServer 已经完成 7 个业务处理成员方式的编码实现。
  • 核心问题：HTTP 客户端发起网络请求，服务器如何将收到的请求分发到对应的业务处理函数。
  • 解决方案：配置 HTTP 路由绑定规则，建立「HTTP 请求 (请求方式 + URI 路径)」与「类成员处理函数」映射关系。
  • 开发最佳实践：实现一个业务处理方式，立刻绑定一条路由；全部写完再统一绑定极易出现请求与处理函数匹配错误。
  • 路由校验三要素（每条路由一定要核对）
HTTP 请求方法（GET/POST/DELETE 等）
  • 请求 URI 路径（支持路径占位符，如/api/session/${session_id}）
  • 绑定的业务处理回调函数

1.2 类定义扩展

1.2.1 结构体与类完整声明

namespace ai_chat_server
{
// 服务器配置结构体
struct ServerConfig
{
    std::string chatGPTAPIKey;      // chatGPT API Key
    // ollama大模型配置
    std::string ollamaModelName;    // ollama模型名称
    std::string ollamaModelDesc;    // ollama模型描述
    std::string ollamaEndpoint;     // ollama API地址

    std::string host;               // http服务监听地址
    uint16_t port;                  // http服务监听端口
};

class ChatServer
{
public:
    ChatServer(const ServerConfig& config);
    ~ChatServer();

    bool start();                    // 启动服务器
    void stop();                     // 停止服务器
    bool isRunning() const;          // 查询服务器运行状态

private:
    // 通用响应构造工具函数
    std::string buildResponse(const std::string& message, bool success = false);

    // 7个业务请求处理回调函数
    void handleCreateSessionRequest(const httplib::Request& request, httplib::Response& response);
    void handleGetSessionListsRequest(const httplib::Request& request, httplib::Response& response);
    void handleGetModelListsRequest(const httplib::Request& request, httplib::Response& response);
    void handleDeleteSessionRequest(const httplib::Request& request, httplib::Response& response);
    void handleGetHistoryMessagesRequest(const httplib::Request& request, httplib::Response& response);
    void handleSendMessageRequest(const httplib::Request& request, httplib::Response& response);
    void handleSendMessageStreamRequest(const httplib::Request& request, httplib::Response& response);

    // 新增：HTTP路由规则绑定函数
    void setHttpRoutes();

private:
    ServerConfig _config;                               // 服务器配置信息
    std::unique_ptr _chatServer;      // httplib HTTP服务实例
    std::shared_ptr _chatSdk;    // chat sdk实例
    std::atomic _isRunning{false};                // 服务运行状态原子变量
};
}

1.3 路由规则实现 setHttpRoutes

1.3.1 源文件实现代码

用 httplib 库，捕获this指针，lambda 内部调用类的私有成员处理函数；lambda 参数一定要为 const 引用，避免拷贝。

#include "ChatServer.h"
namespace ai_chat_server
{
    void ChatServer::setHttpRoutes()
    {
        // 1. 创建会话请求 POST /api/session
        _chatServer->Post("/api/session", [this](const httplib::Request& request, httplib::Response& response) {
            handleCreateSessionRequest(request, response);
        });

        // 2. 获取会话列表 GET /api/sessions
        _chatServer->Get("/api/sessions", [this](const httplib::Request& request, httplib::Response& response) {
            handleGetSessionListsRequest(request, response);
        });

        // 3. 获取模型列表 GET /api/models
        _chatServer->Get("/api/models", [this](const httplib::Request& request, httplib::Response& response) {
            handleGetModelListsRequest(request, response);
        });

        // 4. 删除会话 DELETE /api/session/{session_id}
        _chatServer->Delete("/api/session/{session_id}", [this](const httplib::Request& request, httplib::Response& response) {
            handleDeleteSessionRequest(request, response);
        });

        // 5. 获取会话历史消息 GET /api/session/{session_id}/history
        _chatServer->Get("/api/session/{session_id}/history", [this](const httplib::Request& request, httplib::Response& response) {
            handleGetHistoryMessagesRequest(request, response);
        });

        // 6. 发送消息【全量返回】 POST /api/message
        _chatServer->Post("/api/message", [this](const httplib::Request& request, httplib::Response& response) {
            handleSendMessageRequest(request, response);
        });

        // 7. 发送消息【流式增量返回】 POST /api/message/async
        _chatServer->Post("/api/message/async", [this](const httplib::Request& request, httplib::Response& response) {
            handleSendMessageStreamRequest(request, response);
        });
    }
}

1.4 路由绑定函数调用时机

1.4.1 核心约束

  • 一定要在listen()监听启动之前完成路由绑定；一旦服务开始监听接收客户端请求，后续新增路由不会生效。
  • 在ChatServer::start()启动函数内部调用setHttpRoutes()。
  • http 服务运行在独立子线程，防止阻塞主线程；用detach()分离线程。

1.4.2 start () 完整实现（含静态资源挂载）

namespace ai_chat_server
{
    bool ChatServer::start()
    {
        // 原子变量判断服务是否已经运行
        if (_isRunning.load())
        {
            ERR("ChatServer is running!!!");
            return false;
        }

        // 【第一步】绑定全部HTTP路由规则，listen之前执行
        setHttpRoutes();

        // 【第二步】设置静态资源挂载点
        // mount_point="/" 代表http根路径映射到磁盘 ./www目录
        // 浏览器访问 http://ip:port 会自动寻找 ./www/index.html
        _chatServer->set_mount_point("/", "./www");

        // 启动独立线程运行http服务，避免阻塞主线程
        std::thread serverThread([this](){
            INFO("ChatServer start on {}:{}", _config.host, _config.port);
            _chatServer->listen(_config.host, _config.port);
        });
        // 线程分离，后台运行
        serverThread.detach();

        // 修改运行状态标记
        _isRunning.store(true);
        INFO("ChatServer start success!!!");
        return true;
    }

	void ChatServer::stop()
	{
        if(!_isRunning.load())
        {
            ERR("ChatServer is not running!!!");
            return;
        }
        if (_chatServer)
        {
            _chatServer->stop();
        }
        _isRunning.store(false);
	}
}

2 ~> httplib 静态资源挂载

2.1 静态资源概念

  • 静态资源：网页 html、css、js、图片等不要后端动态计算，直接返回磁盘文件的资源。
  • set_mount_point(mount_point, dir)接口说明
mount_point：http 访问 url 前缀路径，"/"代表 http 根路径。
  • dir：磁盘本地目录路径，示例./www，代表可执行程序 exe 同级目录下的 www 文件夹。
默认首页行为：httplib 库，当浏览器仅访问http://ip:port不带资源路径时，库内部自动查找index.html作为默认返回页面。前端页面开发约定：前端入口页面固定命名为index.html，放置到./www目录。

3 ~> 开发规范与面试要点

3.1 路由开发规范

  • 开发顺序：写完 1 个业务处理函数，立刻绑定 1 条路由，不要全部写完再批量绑定。
  • 每条路由校验三项：HTTP 方法、URI 路径、回调处理函数。
  • 路径占位符语法：{param_name}，httplib 可以自动捕获 url 路径中的参数。
  • lambda 捕获：[this]捕获类实例指针，才可以调用私有成员方法；参数必须用引用&，避免请求对象拷贝。

3.2 调用时序重点（面试高频）

1. ChatServer 构造函数：创建httplib::Server实例。
2. 调用ChatServer::start()
判断服务运行状态。
3. 执行setHttpRoutes()绑定全部路由。
4. 执行set_mount_point()挂载静态资源目录。
5. 创建子线程，子线程内部执行_chatServer->listen()开启端口监听。

listen 之后，服务器接收客户端 http 请求，根据已经注册的路由分发到对应回调函数。

3.3 线程模型说明

  • httplib 的listen()是阻塞接口，如果直接在主线程调用会阻塞整个程序。
  • 将 listen 放置子线程，使用 detach 分离，实现后台 http 服务，主线程可以继续执行其他业务逻辑。
  • 使用std::atomic原子变量保存_isRunning状态，保证多线程环境下状态读取写入线程安全。

3.4 REST API 设计对应关系汇总表

请求方法URI 路径处理回调函数功能说明POST/api/sessionhandleCreateSessionRequest创建会话GET/api/sessionshandleGetSessionListsRequest获取会话列表GET/api/modelshandleGetModelListsRequest获取模型列表DELETE/api/session/{session_id}handleDeleteSessionRequest删除指定会话GET/api/session/{session_id}/historyhandleGetHistoryMessagesRequest获取会话历史消息POST/api/messagehandleSendMessageRequest发送消息，全量一次性返回POST/api/message/asynchandleSendMessageStreamRequest发送消息，流式增量返回

4 ~> 易错点总结

  • 在 listen () 监听之后才调用 setHttpRoutes ()，路由不会生效。
  • lambda 参数不写引用，造成 Request/Response 对象拷贝，响应失效。
  • 忘记捕获[this]，lambda 无法访问类成员函数。
  • 静态资源目录写错，浏览器访问无法加载 index.html 页面。
  • 不使用 atomic保存运行状态，多线程下发生数据竞争。

结尾

uu们，这里的内容到这里就全部结束了，艾莉丝在这里再次

艾莉丝努力练剑

C/C++ & Linux 底层探索者 | 一个正在努力练剑的技术博主

👀 【关注】 跟随我一起深耕技术领域，见证每一次成长。

❤️
【点赞】 让优质内容被更多人看见，让知识传递更有力量。

⭐
【收藏】 把核心知识点存好，在要时随时查、随时用。

💬
【评论】 分享你的经验或疑问，评论区一起交流避坑！

不要忘记给博主“一键四连”哦！

“今日练剑达成！”

“技术之路难免有困惑，但同行的人会让前进更有方向。”

结语：希望对学习Linux相关内容的uu有所帮助，不要忘记给博主“一键四连”哦！

往期回顾：

【AI大模型接入SDK】ChatServer接口实现

🗡博主在这里放了一只小狗，大家看完了摸摸小狗放松一下吧！🗡
>
૮₍ ˶ ˊ ᴥ ˋ˶₎ა
今天的内容大概就这些，实际开发中大家还会遇到更多细节，欢迎留言分享自己的经验。
标签： #人工智能 #ai #网络 #c++ #学习 #AtomGit「码动四季·开源同行」秋季征稿活动

评论 (0)

暂无评论