专题

大模型

追踪大语言模型技术前沿与工程实践,包括模型架构演进、训练推理优化、Prompt工程、RAG应用开发、Agent智能体、模型微调等,深入大模型应用落地的全流程技术栈。

70 篇文章 70 累计收录 专题归档

文章列表

极简视界智能体开发平台-详细设计

基于LangGraph工作流编排与RAG混合检索架构,覆盖多租户隔离、智能体引擎(ReAct/Plan-and-Execute/Multi-Agent)、对话引擎、知识库引擎、插件化模型管理、ASR/TTS多模态、数据库设计、API接口、K8s部署运维的完整技术设计。

智能体LangGraphRAG多租户
Cosolar 39

MHA、MQA 与 GQA 深度对比:大模型注意力机制演进全解析

深度解析大模型注意力机制的三种核心变体:MHA(多头注意力)、MQA(多查询注意力)和 GQA(分组查询注意力),从 Query/Key/Value 头数设计、KV Cache 显存占用、推理速度、模型精度等维度全面对比,助你理解 LLaMA、GPT 等模型的架构选择。

AILLM
Cosolar 55

LlamaIndex 核心概念:索引类型、检索策略与查询引擎全解析

深入解析 LlamaIndex 三大核心概念:索引(VectorStore/Summary/Tree/KeywordTable/KnowledgeGraph)是数据的结构化存储形态,检索策略(语义/关键词/混合/分层/路由)是从索引中查找内容的方法,查询引擎是封装检索与生成的完整问答接口,三者共同构成 RAG 流程的核心链条。

AIRAGLLM
Cosolar 41

LlamaIndex 大厂面试 25 道核心题型全解析

LlamaIndex 大厂面试 25 道灵魂痛点题全解析,涵盖核心架构与数据流、高级 RAG 优化(混合检索/重排序/查询改写)、Agent 编排与工具调用、生产环境避坑指南四大模块,助你高效突击大厂 AI 工程师面试。

AIRAGLLM
Cosolar 51

LlamaIndex 核心包 15 种分块策略完全指南

全面详解 LlamaIndex 核心包中 15 种分块策略,涵盖基础文本分块(Token/Sentence/Code)、语义分块(SemanticSplitter/SemanticDoubleMerging)、文件格式感知(HTML/Markdown/JSON)、关系层级分块(SentenceWindow/Hierarchical/MarkdownElement),附选择指南与代码示例。

AIRAGLLM
Cosolar 38