专题

大模型

追踪大语言模型技术前沿与工程实践,包括模型架构演进、训练推理优化、Prompt工程、RAG应用开发、Agent智能体、模型微调等,深入大模型应用落地的全流程技术栈。

68 篇文章 68 累计收录 专题归档

文章列表

AI Agent 架构设计全景指南

从核心组件到生产部署,全面解析AI Agent智能体系统架构设计,涵盖单Agent架构、多Agent协作、记忆系统、工具调用及LangGraph等主流框架对比,提供完整的技术栈选型建议。

智能体LangGraphAI平台
Cosolar 36

vLLM 从入门到生产部署学习教程

vLLM高性能大语言模型推理引擎完整教程,从PagedAttention核心原理到生产部署实践。覆盖环境安装、离线批量推理、API服务部署、性能优化(显存/吞吐量/延迟)、量化、LoRA、多模态、张量并行等核心功能,以及Docker Compose高可用部署、Prometheus监控告警等生产级方案。

vLLM大模型推理PagedAttentionLLM部署AI引擎
Cosolar 35

LlamaIndex 框架应用实战教程:从零构建 RAG 与 Agent

LlamaIndex v0.14.x 框架应用实战教程,从零开始系统掌握 LlamaIndex,涵盖环境搭建、数据加载、索引构建、检索策略、查询引擎、Agent 工具化、工作流编排等核心模块,所有代码示例完整可运行,助你独立构建生产级 RAG 应用。

AIRAGLLM
Cosolar 61