AMD 与 Embedded LLM 在 vLLM 官方博客详解 Kimi K3 在八卡 AMD Instinct MI355X 上的推理优化。在 50 tokens/s/用户 P90 交互性下,MI355X 每 GPU 总吞吐 7,567 tokens/s,较 NVIDIA HGX B300 的 6,083 tokens/s 高 24.4%;按 SemiAnalysis TCO 模型(每小时 1.50 美元对 2.26 美元),每美元 token 数多 87.4%。文章拆解六大类共 50 余个已合并 vLLM PR:缓存层用 DCP8 把 TP8 下每 GPU 的 MLA 历史从约 1.96 GB 压到 245 MB,并把 MLA 尾部与 KDA 检查点对齐以避免前缀重计算;MoE 层让每个 rank 只输出自身坐标的投影,节省 3.85 GiB;KDA 单 token 路径从三内核两拷贝融合为单 HIP 内核,AttnRes 与 RMSNorm 融合后输出吞吐提升 14.2%;MLA 长上下文解码改走 AITER 汇编路径后 32K 输入下每输出 token 时间从 43.8 ms
全部资讯
2026年10月13日,苹果在「欢迎回家」发布会上集中推出四款智能家居新品:首款7英寸带屏中枢HomeView(美区299美元,搭载A18芯片,支持Siri AI面部识别)、搭载S10芯片的HomePod mini 2(美版149美元、国行1099元)、搭载A19芯片的Apple TV 4K(299美元),以及联合LG与施耐德推出的Apple Home Collection配件系列(含门锁、门铃、摄像头、温控器)。全线产品深度整合升级版Siri AI,重点动作是定价大幅上调:Apple TV 4K由上代约130–199美元升至299美元,HomePod mini国行由749元涨至1099元,引发涨价质疑; 相关文章: 本周新款第四代 Apple TV 4K 与第二代 HomePod mini 的初步看法 - Andrej Karpathy Curated RSS 混乱不是深渊,混乱是台面 - Spyglass 苹果推出新款Apple TV 4K 搭载A19芯片并支持无需拿起遥控即可语音对话 - 蓝点网 还有更多相关文章...
嗯,我觉得我们有一个产品演示,成功超越了 iPhone 和 Engelbart 的 Xerox PARC 演示。 🔗 阅读原文 via AIHOT · https://aihot.news/items/fxqjqczrdi77496okq3mvyvb6
作者花两周、三百多美元测试 Google Muse、Grok Bot、OpenAI Dots、Manus Cue 四款 Personal Agent,12 个日常平台中仅 33% 能稳定委托给 AI 处理,结论是有云电脑也不能完全脱离本机,最终选择 Dots 因为它能控制本机 Computer Use。 🔗 阅读原文 via AIHOT · https://aihot.news/items/bsvu6nvhf7sgf9t4j2ssho9ud
苹果公司执行董事长蒂姆·库克在全球财富管理论坛 2026 上海苏河湾大会上指出,AI 应用正迎来爆发式增长,AI 辅助编程显著降低了编程门槛。他表示 AI 已在多个方面对供应链产生深远影响,例如 iPhone 颜色检测已借助机器学习实现高度自动化且更精准的质检。这是库克卸任 CEO 转任董事会执行主席后首次访华。 🔗 阅读原文 via AIHOT · https://aihot.news/items/brld6azbfklxhejdl8p72b3ed
ComfyUI 发起总奖金 $25,000 的开源竞赛,号召重建 Higgsfield 的 Genjutsu、Cinema Studio 等产品,由 NVIDIA AI、Runpod、LTX、Black Forest Labs、MiniMax 联合赞助。 🔗 阅读原文 via AIHOT · https://aihot.news/items/zmp0ndfp4foccl1s3izsxiaul
NVIDIA 联合 IIT Madras 的 AI4Bharat 发布 Nemotron-pretraining-Indic-v1,约 2.8 万亿 token,覆盖印度宪法列出的 22 种语言,含 2601.0 亿原生文字 token 和 224.6 亿罗马化 token(按 Gemma-4 tokenizer 计)。 🔗 阅读原文 via AIHOT · https://aihot.news/items/zfu5kxl6q6osheiczpm3zk3tq
小米发布开源空间音频理解大模型 MiDashengLM-Spatial,完整公开模型权重和推理代码,采用 Apache 2.0 许可证。模型以 MiDashengLM-7B 为基座,在保留基础音频理解能力的同时增加空间感知与推理能力,小米称其为业界首个开源的端到端空间音频理解大模型,将陆续应用于智能家居和汽车座舱场景。 🔗 阅读原文 via AIHOT · https://aihot.news/items/jzenwc5e8vgotldj7rdrj1u47
claude code 的提示词预测用了很久 现在 codex 的提示词预测功能姗姗来迟 还是仅限 pro 会员,还只是 beta 🔗 阅读原文 via AIHOT · https://aihot.news/items/ov9cd9d940jroqrf79am5s7q9
你能看到一切 天啊 🔗 阅读原文 via AIHOT · https://aihot.news/items/ba5ivszuqreh5gkvll0w7es02