社区讨论LinuxDo
关于蒸馏,刷到X上一个英语区用户的观点,可是说到我心坎上了
关于蒸馏,刷到X上一个英语区用户的观点,可是说到我心坎上了 稍微精翻了一下,如下 OpenAI 和 Anthropic 居然他妈还有脸抱怨别人搞“模型蒸馏”。 人类花了几十年写代码、解释科学知识、回答问题,把自己知道的东西分享出来。AI 公司拿这些人类成果去训练模型,然后建立起一门生意,再把训练出来的东西卖回给我们。 他们他妈把我们所有人都“蒸馏”了一遍。 现在呢?有人花钱调用他们的 API,再拿模型给出的回答去训练一个竞争模型。突然之间,这就成了要封号、要发报告警告大家的所谓“蒸馏攻击”。 OpenAI 自己甚…
内容摘要
关于蒸馏,刷到X上一个英语区用户的观点,可是说到我心坎上了
稍微精翻了一下,如下
OpenAI 和 Anthropic 居然他妈还有脸抱怨别人搞“模型蒸馏”。
人类花了几十年写代码、解释科学知识、回答问题,把自己知道的东西分享出来。AI 公司拿这些人类成果去训练模型,然后建立起一门生意,再把训练出来的东西卖回给我们。
他们他妈把我们所有人都“蒸馏”了一遍。
现在呢?有人花钱调用他们的 API,再拿模型给出的回答去训练一个竞争模型。突然之间,这就成了要封号、要发报告警告大家的所谓“蒸馏攻击”。
OpenAI 自己甚至就提供模型蒸馏的工作流。他们会帮你在自己的平台上,用大模型生成的回答去训练一个更小的模型。
但如果你拿这些回答去做一个跟他们竞争的模型,那你就“违反规定”了。
他们的条款甚至还写着:模型输出归我所有。
我付了钱,按他们自己的说法,这些输出也是我的——但最后他们还是要决定,我能拿这些属于我的输出去训练什么模型、不能训练什么模型。
你们花了这么多年为“机器有权学习别人的作品”这件事辩护。
那现在轮到机器学习 你们自己的作品 了,就继续坚持你们那套说法啊。
这就是为什么我支持中国的 AI 实验室发布可以直接下载的模型权重——我可以自己下载、自己运行、自己在它上面继续开发。
至于你们?
滚你妈的。
🤣
23 个帖子 - 20 位参与者
阅读完整话题
via LINUX DO - 热门话题 (author: runner dhero)
相关链接:
https://linux.do/t/topic/2982491