AI 资讯

跟进 AI 的项目、产品与讨论

已同步 36981 条公开资讯,来源和发布时间保留在每条记录中。

AIGOOD 已同步公开来源;每条资讯详情保留来源和原文链接。

社区讨论V2EX 程序员

开发类似 wallpaper engine 的 2d 壁纸编辑器,现在还有市场吗?

第一次在 V2EX 上发帖,没想到是上来分享+求助的。 今年发生了很多事情,小孩出生,公司倒闭,目前团队被一家小公司收购,继续苟着,做自己的 2d 壁纸编辑器。 陆陆续续准备跳槽+面试,主力开发是 cursor agent,到现在 3-5 个月实现了初步的成果。 目前跑通了: - AI 图生视频:能大量快速制造中等质量的内容,目前想的是每周至少上架 10 张 - 2d sence 编辑器:实现了 Image、Text、Sound、Waveform、Particle(粒子)等图层,水波+滚动+图层蒙版等基础特效 -…

社区讨论V2EX 技术

strata 极致优化指南(参数篇)64GB RAM + RTX pro 5000 48GB, IQ3 XXS 量化, prefill 4500t/s, decode 180t/s 同时缓存 5 个 262k 会话不重新 prefill

前言:strata 最近已经火出圈了,火到 RAM 又翻了个倍。目前京东自营,海力士颗粒的 64GB 的 DDR5 6000 内存已经几近破万。 十一长假回来,笔者也是暂时小试牛刀了一把,发现有一些关键参数,会直接影响整个 LLM 引擎的本质体验,但是默认值并不是特别合理。所以发个 tips 小文供大家交流。欢迎批评指正。 本文全程手打,无任何 AI 含量,请放心阅读。 1 、Harness 会频繁唤起子代理( sub agent ),导致切换会话 prefill 浪费太多时间,怎么办? 答:开启--conver…

社区讨论V2EX 技术

strata 极致优化指南(参数篇)64GB RAM + RTX pro 5000 48GB, IQ3 XXS 量化, prefill 4500t/s, decode 180t/s 同时缓存 5 个 262k 会话不重新 prefill

前言:strata 最近已经火出圈了,火到 RAM 又翻了个倍。目前京东自营,海力士颗粒的 64GB 的 DDR5 6000 内存已经几近破万。 十一长假回来,笔者也是暂时小试牛刀了一把,发现有一些关键参数,会直接影响整个 LLM 引擎的本质体验,但是默认值并不是特别合理。所以发个 tips 小文供大家交流。欢迎批评指正。 本文全程手打,无任何 AI 含量,请放心阅读。 1 、Harness 会频繁唤起子代理( sub agent ),导致切换会话 prefill 浪费太多时间,怎么办? 答:开启--conver…

社区讨论V2EX 技术

strata 极致优化指南(参数篇)64GB RAM + RTX pro 5000 48GB, IQ3 XXS 量化, prefill 4500t/s, decode 180t/s 同时缓存 5 个 262k 会话不重新 prefill

前言:strata 最近已经火出圈了,火到 RAM 又翻了个倍。目前京东自营,海力士颗粒的 64GB 的 DDR5 6000 内存已经几近破万。 十一长假回来,笔者也是暂时小试牛刀了一把,发现有一些关键参数,会直接影响整个 LLM 引擎的本质体验,但是默认值并不是特别合理。所以发个 tips 小文供大家交流。欢迎批评指正。 本文全程手打,无任何 AI 含量,请放心阅读。 1 、Harness 会频繁唤起子代理( sub agent ),导致切换会话 prefill 浪费太多时间,怎么办? 答:开启--conver…

社区讨论V2EX 技术

strata 极致优化指南(参数篇)64GB RAM + RTX pro 5000 48GB, IQ3 XXS 量化, prefill 4500t/s, decode 180t/s 同时缓存 5 个 262k 会话不重新 prefill

前言:strata 最近已经火出圈了,火到 RAM 又翻了个倍。目前京东自营,海力士颗粒的 64GB 的 DDR5 6000 内存已经几近破万。 十一长假回来,笔者也是暂时小试牛刀了一把,发现有一些关键参数,会直接影响整个 LLM 引擎的本质体验,但是默认值并不是特别合理。所以发个 tips 小文供大家交流。欢迎批评指正。 本文全程手打,无任何 AI 含量,请放心阅读。 1 、Harness 会频繁唤起子代理( sub agent ),导致切换会话 prefill 浪费太多时间,怎么办? 答:开启--conver…

社区讨论V2EX 技术

strata 极致优化指南(参数篇)64GB RAM + RTX pro 5000 48GB, IQ3 XXS 量化, prefill 4500t/s, decode 180t/s 同时缓存 5 个 262k 会话不重新 prefill

前言:strata 最近已经火出圈了,火到 RAM 又翻了个倍。目前京东自营,海力士颗粒的 64GB 的 DDR5 6000 内存已经几近破万。 十一长假回来,笔者也是暂时小试牛刀了一把,发现有一些关键参数,会直接影响整个 LLM 引擎的本质体验,但是默认值并不是特别合理。所以发个 tips 小文供大家交流。欢迎批评指正。 本文全程手打,无任何 AI 含量,请放心阅读。 1 、Harness 会频繁唤起子代理( sub agent ),导致切换会话 prefill 浪费太多时间,怎么办? 答:开启--conver…