社区讨论LinuxDo 最新
【脑洞】AI 会不会是另一个方向的智子？
之前记得智子的设定还挺有意思的，智子通过破坏干扰大型粒子对撞机的方式给人类错误答案，导致得不到新的理论和模型，以至于发展停滞 那现在的 AI 会不会也是类似的情况， 第一年：AI 给答案，人类验证 第五年：AI 给答案，人类抽查 第十年：AI 给答案，人类看结论合不合直觉 第二十年：AI 给答案，人类点头 再到后来失去这些直觉和判断能力 比如说 134+942=898498534 这个绝大部分人一眼就能看出不对劲，为什么，因为自己算过，三位数加三位数不可能得出这么长的结果，但是经常从 AI 得到数据的时候也许就会…
内容摘要
作者：#摩西
板块：#搞七捻三
之前记得智子的设定还挺有意思的，智子通过破坏干扰大型粒子对撞机的方式给人类错误答案，导致得不到新的理论和模型，以至于发展停滞
那现在的 AI 会不会也是类似的情况，
第一年：AI 给答案，人类验证
第五年：AI 给答案，人类抽查
第十年：AI 给答案，人类看结论合不合直觉
第二十年：AI 给答案，人类点头
再到后来失去这些直觉和判断能力
比如说 134+942=898498534 这个绝大部分人一眼就能看出不对劲，为什么，因为自己算过，三位数加三位数不可能得出这么长的结果，但是经常从 AI 得到数据的时候也许就会失去这个判断能力与推理能力
就拿现在的数学来说，越来越多的问题被 AI 证明，但是都是从现有的范式中进行的推理，没有发明新的东西，没有发现新的思路
最后也许可能会出现那种战锤 40K 的情况，
一开始"自己先想明白"只是慢
后来变成"不仅慢还更容易错"因为 AI 大部分时候是对的。
再到后来任何允许主观判断的流程都会在复盘里被发现是风险
然后直接下令禁止去理解，禁止改进
资讯来源
LinuxDo