LLM Agent 研发工程师
港科大(广州) 人工智能硕士 · Agent 系统 · 性能优化
热衷于构建能推理、学习并自主行动的智能系统,追求端到端的性能与落地。
零 LangChain/LangGraph 依赖的 Agent 运行时引擎,纯 httpx + asyncio 实现完整 ReAct 循环,支持库引入、CLI 和 TUI 三种交互形态。
- 冷载较 LangGraph 快 5 倍(117ms vs 579ms)
- 流式 prefetch + 即时并发执行,工具与推理流水线并行,多 Agent 委派
- GAIA L1 评测:通过率 48.1% → 92.3%,步数 -38%,token -48%,耗时 -36%
- 事件溯源全链路可观测;bubblewrap 沙箱;MCP stdio/HTTP 双传输;Skills 热插拔;
@tool装饰器自动推导 JSON Schema
多 Provider LLM 代理网关,响应格式兼容 Chat Completions、Anthropic Messages、OpenAI Responses 三协议及图像生成代理。
- 集成 Gemini、OpenRouter、Ark 火山引擎,24 模型预设 + 链式别名,多级路由逐级降级
- 手写双协议实时流式转换(Anthropic ↔ OpenAI SSE 逐事件翻译)
- Mem0 用户记忆(Qdrant 向量存储 + LLM 驱动提炼),按用户隔离,运行时自动注入
- MySQL/MongoDB 三层日志审计,TTFT/TPS/Cost/缓存率全量指标
大型 AI 编程助手 KiloCode 中,修复 fork 操作在中等会话(385 条消息)上的耗时瓶颈。
- 重构 EventV2 事件发布:1815 次逐条发布 → 2 条批量写入
- 总耗时从 5.4s → 106ms(50 倍加速)
- 通过事件类型安全论证系统一致性,不影响现有事件订阅
面向 AI 开发者的对话客户端,基于 NextChat 二次开发,在重度日常使用中积累了大量实践优化。
- 四桶分离存储(元数据/消息体/提示词/草稿),160MB 数据按需懒加载
- AST 搜索引擎(AND/OR/标题限定/精确匹配组合语法)
- Monaco Editor 虚拟化渲染,超长上下文编辑不卡顿
- 会话分支、合并、多 Tab BroadcastChannel 实时同步