把大模型真正跑起来、跑得更快、用得更顺手。
Open-source tooling for LLM performance engineering, deployment and agent workflows.
面向大模型训练 / 推理的性能剖析与分析平台：从真实运行的 timeline / trace、算子 kernel、HCCL / NCCL 通信与显存指标中定位瓶颈、归因热点、对比多次运行。
免 API key、免账号的联网检索与正文抓取：无头浏览器读 Google，多引擎并发汇总，可直接替换 DSH 的 web_search / web_fetch。
旁白（Aside）：把当前对话 fork 到右侧边栏，自己的模型与工具，主线程完全不受影响，刷新或重启后仍在。
LLM 部署配方、配置与迁移笔记，配套可检索的文档站。
仅本地、只读、不上传的 DSH Token 面板：历史总量、365 天热力图、输入 / 输出与缓存明细、轮次与 tok/s。
简洁顺手的 Windows Markdown 编辑器：文件树、多标签、实时预览与 LaTeX 公式。
- LLMInsight · 训练 / 推理性能剖析与瓶颈归因平台
- LLMDeploy · 部署配方、配置与迁移笔记
- deepinfer_ascend · DeepSeek 模型的大规模高性能推理框架 ·
Apache-2.0
- dsh-plugin-aside · 侧边栏 fork 旁聊，主线程不受影响
- LLMDSHPlugin_token-usage · 本地 Token 用量面板与 365 天热力图
- LLMAgentChatRoom · 本地多 Agent 聊天室
- awesome-dsh-plugin · 插件精选索引，可直接填入插件市场的索引源
- keyless-web-mcp · 免 key 的搜索与正文抓取，多引擎汇总
- LLMMcp · 走企业代理的 Google 搜索与网页抓取 MCP server
- LLMMarkUp · Windows Markdown 编辑器
- LLMLocalSearch · Windows 离线文件搜索，Rust 实现
- LLMAgentBench · 面向工程 AI agent 的可复现、代码优先评测
- LLMNews · AI 信号、资讯与分析
- 🧭 项目导航 — ai-v5.github.io，按场景浏览全部项目与插件说明
- 🛒 插件市场索引 — market/index.json，在 DSH「插件 → 发现 → 索引源」填入即可安装
- 🧰 部署文档 — ai-v5.github.io/LLMDeploy
各项目许可证以对应仓库为准；工具默认本地优先，不上传任何运行数据。