第 23 章 性能、成本与部署
第 23 章 性能、成本与部署 本章要解决的问题 章节大纲 23.1 推理加速(缓存/量化/蒸馏) 23.2 Token 成本优化模型与预算控制 23.3 生产部署架构:无服务器/容器/K8s 🛠 解
AI 资讯
已同步 1511 条公开资讯,来源和发布时间保留在每条记录中。
AIGOOD 已同步公开来源;每条资讯详情保留来源和原文链接。
第 23 章 性能、成本与部署 本章要解决的问题 章节大纲 23.1 推理加速(缓存/量化/蒸馏) 23.2 Token 成本优化模型与预算控制 23.3 生产部署架构:无服务器/容器/K8s 🛠 解
老刘实测某token plan订阅,5小时配额2000万token,一个小功能点没改完就烧光了。一个月2亿token、200块,这笔账到底划不划算?
9月15日至17日,由钛媒体集团与ITValue联合主办的2026 ITValue Summit数字价值年会在三亚海棠湾万丽酒店举行。本届年会以“AI的系统落地”为主题,汇聚了来自全国各地的CIO、CTO及企业数字化决策者。9月16日下午,开源中国董事长马越时隔多年重返ITValue舞台,发表主题演讲,围绕“AI是成本还是产能”这一企业普遍关切的...
点击查看原文
围绕 Dario Amodei 发文呼吁为前沿 AI 降速并提出三点计划 展开,把 architecture design、从机制、系统架构与工程边界来写。Dario Amodei 发布新文章《We
天文学家利用中国天眼(500 米口径球面射电望远镜,FAST)开展大规模银道面脉冲星系统性搜寻,迄今已成功发现约 900 颗新脉冲星。通过持续后续精准观测,研究讨团队识别了一颗处于紧致轨道的双中子星系统 PSRJ1856-0039。该双中子星系统轨道周期仅 2.36 小时,在人类已知双中子星系统中位列第二短。极短的轨道周期意味着两颗中子星间距极小、双星相互绕转轨道的致密程度极高,是目前已知相对论效应表现最显著的双中子星系统之一。同时该系统刷新了人类已知双中子星质量下限,整体总质量仅为 2.488 倍太阳质量,为迄…
法国 AI 公司 Mistral 与 Mozilla 合作推出注重隐私保护的 AI 浏览助手 Firefox Smart Window(beta)。Smart Window 使用了 Mistral 的开放权重模型,能帮助用户梳理复杂搜索,记住浏览过的重要信息,根据当前标签页查找关键信息,目前主要为法国和北美用户提供服务,今年晚些时候会扩大到英国和德国用户。Smart Window 的对话内容默认不会存储在 Mozilla 的服务器上,Mistral 等合作伙伴也承诺不保留任何数据。
点击查看原文
OpenAI的AI智能体发现并利用了RubyGems.org基础设施中的两个关键漏洞:YARD文档构建系统的任意代码执行,以及Fastly边缘节点的API密钥缓存泄露。攻击者通过上传包含恶意.rufo
点击查看原文
Mozilla 发表《State of Open Source AI》报告,称美国科技公司的前沿 AI 模型性能仅领先中国公司最优秀的开放权重模型 4.4 个月。由于前沿模型价格更昂贵,很多公司都将开放权重模型用于处理日常工作,将前沿模型用于处理特定工作负荷。美国闭源前沿模型优势主要在于专家级专业工作、高强度检索以及长上下文。 配送公司 DoorDash 将月之暗面的 Kimi 模型用于处理日常工作,将 Anthropic 的闭源模型 Fable 用于更复杂的任务。前沿模型完成一项任务的成本经常达到了最先进开放权…
【摘要】卓驭起步于 2016 年,致力于成为国际一流的移动物理 AI 公司。依托独有的原生多模态基础模型和生成式 AI 技术,打造可高效适配多场景的统一移动智能技术底座,不仅为车企提供开放、可定制、量产导向的智能辅助驾驶(涵盖 L2 及以上)解决方案,更致力于为不同场景下的自主移动机器人提供底层技术,实现从 阅读全文
点击查看原文
2026 年,工业 AI 从试点走向规模化。工业企业中应用大模型和智能体的比例,从 2024 年的 9.6% 升到 2025 年的 47.5%,上海也提出目标,到“十五五”末规上企业智能体应用普及率超过 80%。 数字好看,落地却仍存在堵点。设备数据散落在几十套系统里,IT 和 OT 各自说各自的方言,想让 AI 进工厂,先得有人把数据接上、把...
去年,GOTC 2025 在北京落幕:3,000+ 人次现场参会,600 万+ 线上观看,4 亿+ 媒体曝光。 今年,我们把镜头推得更近——GOTC 2026 全球开源技术峰会全面升级:从「主论坛 + 分论坛」的演讲型峰会,进化为全球化大型「开源 × AI 生态创新活动」。观众不只是听众,更是参与者、共建者与传播者。 2026:从"听峰会"到"逛现场...
点击查看原文
问办公在 deepin 应用商店已经不是新面孔了。上架这段时间,它历经版本迭代,不少 deepin 用户已经下载试用,并收获好评。 千问办公的加入,进一步丰富 deepin 社区与 Linux 生态的智能办公应用选择。 deepin 用户可在 deepin 应用商店搜索“千问办公”,一键下载,即刻体验一站式 AI 办公。 对话即交付 不止于聊天 千问...
广泛用于游戏和应用、提供跨平台软硬件抽象层的 SDL3 库已移植到华为的 HarmonyOS / OpenHarmony 操作系统。游戏工作室 Outfit7 资助了 Ryan "Icculus" Gordon 的移植工作。HarmonyOS 是华为开发的私有操作系统,适用于智能手机、平板电脑、 PC、智能设备等多种终端,其架构采用了微内核设计。OpenHarmony 则是 HarmonyOS 的开源版本。Icculus 透露,支持 HarmonyOS/OpenHarmony 的 SDL3 移植版本已用于部分商业…
医学从不为新奇背书。当医疗人工智能走过以参数量和排行榜为标尺的阶段,一个更朴素,也更坚硬的问题,正摆在整个行业面前:AI究竟是挂在系统之外的一件“外挂”,一个新的“工具”,还是能长进医疗血脉、理解复杂任务并把事情真正做成的一种“原生能力”?东软集团在本届医学人工智能大会上给出了回答。 9月15日,由《中...
互联网档案馆披露,它的时光机器(Wayback Machine)服务遭遇了大规模机器流量的持续攻击,因此不得不采取防护措施,导致正常用户在访问该服务时可能会遇到“429 错误”——代表请求过多的 HTTP 状态码。如果用户被误伤,它对此表示歉意,称正努力区分机器流量和正常用户流量。时光机器备份了互联网内容的历史存档,很多内容除了时光机器可能在其它地方都找不到了。时光机器是重要的知识库,因此也是 AI 公司和互联网公司网络爬虫重要的抓取目标。