大模型推理入门:从原理到实践 - 小白跃升坊
【摘要】听说过 ChatGPT、DeepSeek、通义千问,想搞明白"大模型到底是怎么回答问题的"、想了解本地部署和推理框架区别的同学。不要求你有 AI 背景,我尽量用人话讲清楚。 阅读全文
AI 资讯
已同步 1543 条公开资讯,来源和发布时间保留在每条记录中。
AIGOOD 已同步公开来源;每条资讯详情保留来源和原文链接。
【摘要】听说过 ChatGPT、DeepSeek、通义千问,想搞明白"大模型到底是怎么回答问题的"、想了解本地部署和推理框架区别的同学。不要求你有 AI 背景,我尽量用人话讲清楚。 阅读全文
【摘要】本文讲述我——一名资深后台工程师,在 AI 时代如何入门大模型推理工程。全文围绕三条主线展开:从资深后台工程师到推理工程新人的抉择、推理工程的入门路径与自检方法、AI Infra 与通用 Infra 的同源与分野。 阅读全文
:book: 项目简介 SmartCall 是一套基于 AI 大模型 + Asterisk 通信引擎构建的新一代智能客服呼叫中心系统。系统深度融合了 AI 语音机器人、智能 IVR 流程编排、端到端双工对话模型、实时语音识别(ASR)、语音合成(TTS)、大模型意图识别 等核心能力,为企业提供从呼入智能应答到智能外呼的全链路 AI 客服解决方案。 无...
【摘要】本人是计算机科班出身,也算是写过几个小项目。自从 AI 席卷全球,我们好像进入了一个只用“拷打 AI”就能生成完整软件的时代。这种“随随便便就能开发出精美小程序”的错觉,让很多人远远低估了软件开发的难度。 程序中没有任何一个字节的流动是理所当然的,网页上没有任何一个像素是理所当然出现的。很多时候,一 阅读全文
【摘要】0 序 缘起 Chroma、Weixin 、Windows、Android 等都在使用 SQL Lite 两年前开始、至近期多次使用、研究 DB-GPT 这个 Data-Agent 开源项目。 DB-GPT 项目基于 Chroma 向量数据库做 Data-Agents Chroma 向量数据库自 0 阅读全文
【摘要】先说结论。简历上每一个名词,都是你亲手发给面试官的提问许可证。 名词越炫,他下钻的落点越深。而落差一旦暴露,被问倒这一条还算轻的。真正贵的是连你真做过的那部分,也一起被打折。 我最近帮人改简历改得比较多,尤其是 AI 项目那一段。这一段是眼下最容易翻车的地方,因为词儿都太新太好听了,写的人自己都容易 阅读全文
【摘要】本文介绍 LangChain 聊天模型的流式传输,涵盖 stream() 同步与 astream() 异步两种方式,并讲解协程、事件循环等异步概念,最后演示如何用生成器函数自定义流式输出解析器,实现按句输出。 阅读全文
【摘要】Nacos 3.x 最大的变化是什么?不只是配置和服务发现的协议升级,而是它正式把 AI 资产(MCP Server、A2A Agent、Prompt、Skill、AgentSpec)纳入了注册中心的一等公民体系。RedNb.Nacos 2.0.0 正式发布,这是一个面向 Nacos 3.2.4 的... 阅读全文
【摘要】背景 DeepSeek Harness(简称 DSH)是 DeepSeek 推出的 AI 编程助手工具,通过 dsh web 可以在浏览器中访问其 Web UI 界面。但源码编译版本没有现成的桌面客户端,每次都需要手动敲命令启动,终端关闭后服务也就断了。 本文将完整记录如何通过 WinSW 将源码编 阅读全文
暴雪宣布了 FPS 版《星际争霸》,游戏仍然处于早期开发阶段,目标发售时间是在 2030 年。暴雪称,新作是一款开放世界、剧情驱动的科幻射击游戏,故事背景设定在《星际争霸 II》事件发生后数十年,是《星际争霸》宇宙中的一款全新作品。RTS 版《星际争霸》于 1998 年发布,2015 年发布了《星际争霸II》三部曲中的第三部《虚空之遗》,时隔 11 年之后宣布的正统续作不再属于 RTS。FPS 版《星际争霸》游戏设定在 Koprulu 星区(Koprulu Sector),时间位于《虚空之遗》剧情结束后的 70…
出门后,电脑上的 Agent 还在跑;换一张网络,想看看输出、补一句指令,却接不回原来的工作台。Termexo v0.10.0 的远程中继访问,就是为这个场景准备的:桌面上开始的工作,可以在手机或另一台电脑的浏览器里继续。 同一个工作台,换个地方接着用 Termexo 是面向 Windows 10/11 x64 的开源 AI 编程终端工作台。通过远程中...
点击查看原文
点击查看原文
【摘要】目录 1. 先明确讨论范围 2. 从一个共享变量开始 3. 两种主要的协作模型 3.1 Shared Memory:通过同步保护共享状态 3.2 Message Passing:通过消息进行协作 4. 为什么这些代码能够正确工作? 5. 语言需要定义并发语义 6. 为什么还要继续下钻到硬件? 7. 阅读全文
墨西哥贩毒集团涉足了加密货币挖矿业务。墨西哥警方在 Puebla 州的 Sierra Norte 地区发现了一个用电量远超周边村庄的矿场,查获了 300 个 GPU、80 个中压终端设备以及 8 个卫星天线。虽然就国际商业规模而言,该矿场的规模相当有限,但这已是自去年年初以来该地区发现的第四个加密货币矿场。根据区块链分析公司 Chainalysis 对流向非法钱包地址的交易量进行的分析,全球范围内非法加密货币交易在 2025 年增长一倍以上,与犯罪活动相关的地址接收的资金总额达到 1540 亿美元,而前一年仅为…
Waymo 举报了两名携带幽灵枪的年轻乘客。事件发生在 9 月 3 日凌晨 4 点前,地点是旧金山的 Richmond 区。Waymo 发言人称,它在检测到乘客携带枪支之后,停下了无人出租车,通知了执法部门。旧金山警方拘留了两名未成年青少年,一名男孩和一名女孩,搜查汽车后发现了一支已上膛的 AR 风格突击步枪。两名乘客已被送往少年拘留中心。这不是 Waymo 第一次举报乘客,它在今年 7 月曾举报了玩玩具枪的两名青少年乘客。
OpenAI 本周早些时候宣布通过动用约 1 万个 AI 智能体进行长达 88 小时的攻坚,于 9 月 5 日发现了一个 Navier-Stokes 方程失效的特例。Navier-Stokes 问题是克雷数学研究所列出的七大千禧年数学问题之一,它为每道题的解决提供了一百万美元奖金。目前七大问题只有庞加莱猜想确认解决,但解决该问题的俄罗斯数学家格里戈里·佩雷尔曼拒绝接受该奖。克雷数学研究所就此公开声明,表示将根据其评奖流程确认成果。根据克雷数学研究所的规则,OpenAI 首先需要在同行评审的期刊上发表解题结果,需要…
点击查看原文
包括陶哲轩、新晋得主邓煜在内的 25 名菲尔茨奖得主发表公开信《A Severe Misalignment of AI in Mathematics》,批评 AI 公司最近的所作所为。公开信称,“过去几个月 LLM 的数学能力有飞跃式提升,甚至达到了能解决数学领域重大悬而未决问题的地步。但各大 AI 公司仅仅将解决数学问题作为基准测试(Benchmark)推动的技术竞赛,却对数学这门科学以及整个数学界构成了伤害。AI 公司的目标与数学界的本质目标之间存在着严重错位(Misalignment)。”这是 AI 影响科…
【摘要】RAG 不是一个新技术。 它的核心那块——把文字变成坐标,然后找坐标最近的邻居——1970 年代的搜索引擎就在用了。2013 年 Word2Vec 让"词变向量"成为主流,2019 年前后 Milvus、Pinecone 这类专业向量数据库陆续出现,2020 年 RAG 的论文发表,比 ChatGP 阅读全文