AI 技术
0 条新闻 · 9 条遗珠 · 49 篇文章 · 13 个模型追踪
收录栏目回答"我该用什么",本栏目回答"行业正在发生什么、这意味着什么"。
AI 新闻
每日追踪主流媒体与行业网站 AI 报道 — 摘要与事实核查情况见列表页
官方快讯 自动同步 · 未编辑
官方 RSS/Atom 原标题与直达链接,每小时自动更新。
正在读取官方源…
技术文章
深度解读 / 热点拆解 / 概念科普 — 均为本站原创,力争每条事实都可回溯核验
把注意力摊平成矩阵:SSM 与注意力的对偶,以及 Mamba-2 快在哪
选择性状态空间模型(SSM)常被当成「另一种 RNN」,其实它的递推、卷积、矩阵三种写法在数学上是同一件事:当衰减对状态维是标量时,整段前向就是一个下三角半可分矩阵乘输入。本文从连续时间方程推到离散递推,说明 Mamba 的「选择性」为什么让卷积失效、Mamba-2 又为什么能把计算还给矩阵乘:把状态矩阵约束成标量乘单位阵后,矩阵可以分块,块内是下三角遮罩的 Q×Q 矩阵乘,块间只传一次状态。文中 FLOP 与状态体积的数字按公式现算(注意力与 SSM 的交叉点在序列长度等于状态维数),三种算法的一致性用纯 numpy 实算验证,最大绝对误差 ≤6.7e-16;全部为解析/模拟结果,非真机实测。
把 prefill 搬走之后:2026 年 11 月这波 PD 拆分,账单到底落在谁身上
2026 年 11 月 11–18 日这八天,vLLM、AWS、Cerebras 先后发布四份材料,把 prefill、decode、编码拆到不同硬件上跑。本文把这件事还原成一张网络账单:KV 搬运时间与 prefill 计算时间之比 R(忽略注意力二次项时)与 prompt 长度无关,只取决于「每 token 的 KV 字节数 × 算力」与「激活参数 × 链路带宽」之比。按官方规格推算,200B 级 GQA 模型在 400 Gb/s 上 R≈7.6%,在 100 Gb/s 上约 30%;30B 级 MHA 在 100 Gb/s 上约 121%。R 只是网络预算指标,不是收益判据:公告里的 2.05×(每卡)与 5×(每兆瓦)分别买的是不同的东西。文内 R 表与时间表为规格推算,非真机实测;引用的厂商倍数为其真机实测值。
混合专家的容量因子到底在买什么:为什么 token 会被丢掉,辅助损失又在均衡什么
全部数字为模拟值,非真机实测。稀疏专家(MoE)的两个旋钮常被混为一谈:容量因子是每个专家能收多少分配对的硬上限,只防溢出;辅助损失才改变分配本身。在 8 专家、每 token 选 2 个、8192 token 的模拟里:偏斜偏好下容量因子从 1.0 提到 2.0,丢弃率只从 27.2% 降到 8.8%;专家从 8 增到 256、每专家平均负载不变时,同一容量因子 1.25 下丢弃率从 20.9% 升到 43.8%。还有一个口径陷阱:容量因子 1.0、均匀偏好时,单个指定专家超容的概率是 0.494,而被丢弃的分配对占比只有 0.0082,差约 60 倍。
测试时算力到底买到了什么:把重复采样、验证器和更长的思维链放进同一条收益曲线
同一笔推理预算有三种花法,收益形状完全不同:重复采样的覆盖率按 1-(1-p)^N 上升(p 是单次整题正确率,p=0.05 时 8 次 0.337、64 次 0.962),但它只在「能把正确样本挑出来」时才变成准确率。在「固定类别强度、分数带独立同分布 Gumbel 噪声」这一类验证器模型下,准确率有硬上限,本文推出的闭式解是 pq/(pq+(1-p)(1-q))(q 是成对判准率):q=0.9、p=0.05 时上限 0.321,准确率从 64 份的 0.302 走到 1024 份的 0.320,只多 0.018。把预算压在更长的思维链上时,若 q=1、独立采样、链长收益按本文幂律衰减(指数 α),连续未触顶内部最优点满足 p(t)=1-e^{-α}(α=0.5 时 0.393、约 2.45 倍长度);只有连续内部驻点不依赖预算,整数解与边界解需另算;q<1 时,假设 q 不随链长变化,枚举整数 N、令 t=B/N 优化本文 Gumbel A(N)。q=0.9 的本组算例向长链偏移——本文算例里 B=32 的最优从 13 次采样、2.46 倍链变成 3 次采样、10.7 倍链。表中 1.000 是显示舍入,选优比较 log 失败概率;生成预算不含验证成本。长度混合或集成后的平均 q 不自动继承上限。文中数字来自本目录 exp-fix.py 的 JSON 与公开论文,没有真机实测。
模型追踪
主流模型版本 / 价格 / 开源 / 基准结构化对比 — 数据核验日期逐行标注
| 模型 | 厂商 | 最新版本 | 上下文 | 数据核验日期 |
|---|---|---|---|---|
| DeepSeek V4 | DeepSeek(深度求索) | DeepSeek V4(V4-Pro-0813 / V4.1-Flash-1017(2026-10-17 快照更新:API 调用名 deepseek-flash 与定价不变,权重已开源);V4-Flash 已退役,旧名由 V4.1-Flash 顶替) | 100 万 token(最大输出 384K) | 2026-10-20 ⚠ |
| Kimi K3 | Moonshot AI(月之暗面) | Kimi K3.1 Pro(K3.1 系列首个模型,官方模型列表列为当前旗舰;另有 highspeed 档;K3 仍列于当前模型列表) | 1,048,576 token(最大输出默认 131,072,最大可设 1,048,576) | 2026-11-02 |
| MiniMax M3 | MiniMax(稀宇科技) | MiniMax-M3(仍售,官方文档「MiniMax-M3 also remains available」);MiniMax M3.1 Flash 已于 2026-10-19 正式推出(官方博客「officially roll out MiniMax M3.1 Flash」,名称去掉 Preview,官方称其为 the latest M-series language model;1M 上下文、可调思考深度 effort(low/medium/high/xhigh/max,默认 max,思考不可关闭)、前沿多模态编码),已进 models-intro 模型总表主表与双平台按量定价页,不再限于 M Plan / MiniMax Code | 1M(官方模型页:最高 1M、保障至少 512K) | 2026-10-20 ⚠ |
| Qwen(通义千问) | 阿里巴巴 | Qwen3.8-Max(API ID qwen3.8-max) | 1M(最大输入 991,808,思考模式 983,616;最大输出 131,072) | 2026-10-08 ⚠ |
| GLM | 智谱 AI | GLM-5.3 | 1M(GLM-5.2;最大输出 128K) | 2026-10-20 ⚠ |
| GPT 系列 | OpenAI | GPT-6.1 Sol(GPT-6 系列当前主力;旗舰为 GPT-6 Astra;2026-10-26 新增 GPT-6.1 Terra,面向视觉推理、精确计算机使用与自然写作;GPT-5.6 仍在售) | 1,050,000 token(最大输入 922,000;最大输出 128K)——GPT-6 Astra/Sol/Luna、GPT-6.1 Sol 与 GPT-5.6 一致 | 2026-11-20 |
价格 / 开源与权重 / 基准成绩 / 变更时间线见 模型追踪完整对比。
沧海遗珠
被忽视但高价值的信息 — 低关注度信源里挖出的新工具、新研究,宁缺毋滥