返回 AI 资讯
社区讨论LinuxDo 最新

各位佬友,问下NVIDIA Jetson Orin NX 16GB部署什么量化模型比较合适

公司收拾出一台,有没有佬友有经验,想部署一个本地模型聊聊天,整理点材料这种。

内容摘要

作者:#Sallos 板块:#搞七捻三 公司收拾出一台,有没有佬友有经验,想部署一个本地模型聊聊天,整理点材料这种。

资讯来源

LinuxDo

原文链接

打开原文