Agent
Agent的本质定义 Agent+大语言模型(LLM)+推理能力+工具能力 让llm具备自主感知 决策 执行 反思的闭环...
Agent的本质定义 Agent+大语言模型(LLM)+推理能力+工具能力 让llm具备自主感知 决策 执行 反思的闭环...
function calling 定义流程 用户:发起查询。 大型语言模型(LLM):直接解析查询,决定是否需要调用函数...
MCP整体架构 MCP 本身只是个协议 以协议的方式调用 function_call mcp client 调用 ser...
大模型学习方法 大模型前沿架构 多模态智能 检索增强技术 自主智能体
Augmented LLM (Chat + MCP + RAG) 不依赖框架 LangChain, LlamaIndex...
文本输入——》张量输入 BPE 初始化 每个词独立 token 统计词频 合并高频词对新token 更新词表 高频词变为...
了解了宏观架构后,让我们深入代码层面,看看项目的”筋骨”是如何搭建的。 📁 目录组织逻辑 vLL...
1. 项目架构概览 🌟 用一个通俗的类比来理解vLLM 想象一下高速公路上的智能调度系统: • 收费站(Entrypoi...