第二支羽毛

加速大模型推理：深入探究MQA、GQA、MLA（DeepSeek）、KV缓存技术

加速大模型推理：深入探究MQA、GQA、MLA（DeepSeek）、KV缓存技术回顾：多头注意力机制为什么LLM推理是串行的 KV缓存的挑战 2019年——多查询注意力机制（Multi Query Attention） 2023年5月——分组查询注意力机制（Grouped Query Atten

LLM架构

Qwen2.5-Max：对标DeepSeek V3 Qwen2.5-Max：阿里巴巴挑战DeepSeek V3的新AI巨头大语言模型（LLMs）彻底改变了AI领域，实现了从聊天机器人到复杂推理系统等众多应用。这些模型依赖大量数据和计算能力，随着规模的扩大，它们的能力也在不断提升。这一进步背后的关键

开源

DeepSeek-R1的顿悟时刻是如何出现的？背后的数学原理：强化学习如何教大型语言模型进行推理 DeepSeek-R1的卓越表现 DeepSeek-R1的开创性论文《DeepSeek-R1：通过强化学习激励大语言模型（LLMs）的推理能力》，对其性能进行了全面分析，结果令人惊叹。在标准语言模型基

强化学习

DeepSeek-R1：通过强化学习激励大语言模型的推理能力在开始之前，需要了解以下术语。什么是强化学习？强化学习（RL）是一种机器学习方式，人工智能通过采取行动，并根据这些行动获得奖励或惩罚来进行学习，其目标是在一段时间内最大化奖励。举个例子：想象教一个机器人玩游戏，机器人尝试不同的动作，

基础模型

OpenAI o3-mini与DeepSeek-R1在各类基准测试中的大比拼 OpenAI终于发布了o3-mini，还为ChatGPT的所有用户免费提供了一些使用额度。但大家心里始终有个大大的疑问：OpenAI的o3-mini会比DeepSeek-R1更胜一筹吗？虽说OpenAI官方团队并没有发布

LLM架构

用DeepSeek R1和Ollama构建本地RAG系统，向PDF提问不再是梦！有没有想过能直接向PDF文件或者技术手册提问？如何利用开源推理工具DeepSeek R1和运行本地AI模型的轻量级框架Ollama，搭建一个检索增强生成（RAG）系统。为什么选DeepSeek R1？ DeepSee

RAG

DeepSeek R1重磅开源！一文读懂训练方法与RAG应用搭建 DeepSeek R1学习方法概述 DeepSeek R1的特点在于使用强化学习（RL）进行后期训练。一般来说，大规模语言模型的开发要经过以下几个步骤：预训练：利用大规模语料库创建一个 “预测下一个单词” 的模型。监督微调（SFT

RAG

DeepSeek-R1：通过强化学习激发大语言模型的推理潜能在本文中，我们将深入探索DeepSeek-R1背后的前沿进展与创新方法。这一成果作为提升大语言模型（LLMs）推理能力的卓越方案，融合了强化学习（RL）等前沿技术，不仅革新了模型训练范式，还为行业发展开辟了新方向。接下来，让我们一同揭开D

强化学习

📖阅读时长：20分钟 🕙发布时间：2025-02-02 近日热文：全网最全的神经网络数学原理（代码和公式）直观解释欢迎关注知乎和公众号的专栏内容 LLM架构专栏知乎LLM专栏知乎

LLM架构

使用 DeepSeek-R1 等推理模型将 RAG 转换为 RAT，以实现更智能的 AI 传统的检索增强生成（RAG）系统在生成具备上下文感知的答案方面表现出色。然而，它们往往存在以下不足：精确性不足：单次推理可能会忽略复杂查询中的细微差别。理解不够深入：若没有迭代过程，输出结果可能无法全面解决

LLM架构 RAG