Skip to content

Latest commit

 

History

2 Commits

Folders and files

NameName
Last commit message
Last commit date
 
 
 
 

Repository files navigation

江英进 · Jiang Yingjin

LLM Agent 研发工程师
港科大(广州) 人工智能硕士 · Agent 系统 · 性能优化

Website LinkedIn Email

热衷于构建能推理、学习并自主行动的智能系统,追求端到端的性能与落地。


精选项目

🔧 Agent Harness Runtime (ahr)

零 LangChain/LangGraph 依赖的 Agent 运行时引擎,纯 httpx + asyncio 实现完整 ReAct 循环,支持库引入、CLI 和 TUI 三种交互形态。

  • 冷载较 LangGraph 快 5 倍(117ms vs 579ms)
  • 流式 prefetch + 即时并发执行,工具与推理流水线并行,多 Agent 委派
  • GAIA L1 评测:通过率 48.1% → 92.3%,步数 -38%,token -48%,耗时 -36%
  • 事件溯源全链路可观测;bubblewrap 沙箱;MCP stdio/HTTP 双传输;Skills 热插拔;@tool 装饰器自动推导 JSON Schema

🌐 LLM 统一网关

多 Provider LLM 代理网关,响应格式兼容 Chat Completions、Anthropic Messages、OpenAI Responses 三协议及图像生成代理。

  • 集成 Gemini、OpenRouter、Ark 火山引擎,24 模型预设 + 链式别名,多级路由逐级降级
  • 手写双协议实时流式转换(Anthropic ↔ OpenAI SSE 逐事件翻译)
  • Mem0 用户记忆(Qdrant 向量存储 + LLM 驱动提炼),按用户隔离,运行时自动注入
  • MySQL/MongoDB 三层日志审计,TTFT/TPS/Cost/缓存率全量指标

⚡ KiloCode — Fork 性能优化

大型 AI 编程助手 KiloCode 中,修复 fork 操作在中等会话(385 条消息)上的耗时瓶颈。

  • 重构 EventV2 事件发布:1815 次逐条发布 → 2 条批量写入
  • 总耗时从 5.4s → 106ms(50 倍加速)
  • 通过事件类型安全论证系统一致性,不影响现有事件订阅

💬 JChat

面向 AI 开发者的对话客户端,基于 NextChat 二次开发,在重度日常使用中积累了大量实践优化。

  • 四桶分离存储(元数据/消息体/提示词/草稿),160MB 数据按需懒加载
  • AST 搜索引擎(AND/OR/标题限定/精确匹配组合语法)
  • Monaco Editor 虚拟化渲染,超长上下文编辑不卡顿
  • 会话分支、合并、多 Tab BroadcastChannel 实时同步

技术栈


About

No description, website, or topics provided.

Resources

Stars

1 star

Watchers

1 watching

Forks

Releases

Packages

Contributors