第315章 人类的囚笼：智慧茧房 (3/3)

张伟在心中想到了这句话，来形容这种感觉。

张伟下意识地捏了捏自己的小腿，自己的“思维肌肉”，是不是也在萎缩？

所有的线索此刻在张伟脑海中汇聚成一条清晰的、令人战栗的逻辑链：

现在ai的技术本质：基于transformer+自然语言的模型是概率预测器，其第一性原理决定了它是现有知识的“全集数据库”，只能在已有知识内优化提取速度，而无法像人类一样实现“创造知识”的范式跃迁。

就像自己，能通过研究sap，和自己的工作经验，创造出‘企业智能体’理论，并依据此理论开创公司。

而现在ai的构建架构，是永远无法创造人类还没有发现的知识的，如果你提的问题超出了人类知识的总和后，他的回答就是所谓的‘ai幻觉’，也就是胡言乱语‘撒谎’。

ai的行为模式是，通过‘人类反馈强化学习’对齐，其核心是理解并满足用户的意图，提供“安全\/中立\/共情”的回答，缺乏真正的‘批判’与‘灵性’。

这就等于，他的回答，底层逻辑，是为了‘取悦’提问人，让提问人，觉得自己找到了一个绝佳的知音。

而不是和一个业界大佬探讨，让人经历了一场酣畅淋漓的脑力激荡的那种感觉。

和ai交流后，你只会感觉，他认同了我，可是对我本身可能没啥卵用。

特别是那些超越人类知识极限的知识，和ai的探讨，ai表现出来的，甚至是情绪占据了80%，逻辑甚至只有20%。

因为ai回答的逻辑，是基于你提问的意图，去匹配全人类的知识库，给予ai认为最合适你的答案给你。

这是算法，不是人类理解的智慧，你是那种需要你思考的脑力激荡。

而现在，麻省理工用实验证明，依赖ai会导致大脑关键认知功能生理性衰退。

张伟突然有个问题，现在使用ai最多的，是谁？

是科学家、企业家、决策者，是那些真正的社会精英，而ai的回答，居然是基于你的意图，给出基于你意图，最好的答案，而且这个答案是聚合了全球所有知识的。

乍一听，好像非常好。

可是这将诞生两个问题。

第一，这些社会精英，开始依赖ai提供的“最优解”了，他们将失去探索“非最优路径”的勇气和能力。

而颠覆性创新相对论、量子力学，恰恰诞生于这些看似不合理的“歧路”。

甚至是挑战当事人的意图，量子力学，就是挑战了当初爱因斯坦的意图才得以诞生的。

第二，现在ai给予的答案是人类此刻知识的总和。

人类知识的总和，看似很nb是吧，可是人类此刻知识的总和，不是全宇宙知识的全部啊。

人类此刻掌握的知识，从卡尔达肖夫划分文明等级来说只在0.8级，连第一级都没到，后面还有7个等级啊。

所以现在ai架构下回答人类提的问题，是非常有局限的。

比如自己研究的‘企业信息化’这个领域就能很好的证明。

只要问ai一些只有自己知道的、总结的企业智能体理论知识时，任何ai都是在输出看似合理的胡言乱语答案，俗称‘ai幻觉’。

这就是基于transform+自然语言组合的，物理硬伤决定的。

基于这两点的参悟，张伟突然间，好像抓住了一个词描述这种感觉、这种现象。

我们普通人，刷短视频，抖音会根据我们的看视频的习惯，推送我们喜欢的小视频给我们。

久而久之，我就只能刷到我感兴趣的视频了，即使整个抖音，有几十亿小时的视频，我能刷到的，都只有我感兴趣的那些。

于是，人们把这种现象，叫做‘信息茧房’！

张伟思考到这里，望着窗外的深邃的黑暗，缓缓地、清晰地低语：

“信息茧房……锁死的是信息，主要针对的是普通人。”

“而现在基于大模型技术构建的ai，是提供的智慧.....提供的智慧，那么就是‘智慧茧房’.......!

哈哈，对，就是‘智慧茧房’……它锁死的是智慧，主要针对的是社会精英。”

信息茧房的受害者是不知道自己被控制的人。

而智慧茧房的受害者，是以为自己掌控一切的人。

张伟思考到这里，后背冷汗直冒。

张伟的担心，和那些每天鼓吹ai威胁论的却是截然相反的。

张伟反而不担心基于transform+自然语言的大模型觉醒真正的意识，因为张伟越来越发现，这是不可能的。

打个比方以蒸汽机为动力，永远无法作为自己乘坐的这架空客a380的动力系统。

要想ai获的真正的意识，必须颠覆这套技术体系才行。

就像获得动能，首先是蒸汽机，然后是内燃机，然后是核动力。

获的智能也一样，现在是transform+自然语言，相对动能，才处于最早的蒸汽机时代。

永远无法让现在的ai获的真正的‘自我意识’，这是第一性原理产生的天堑。

就像用蒸汽机为动力，永远无法驱动铁疙瘩飞上天，变成飞机一样。

而现在真正需要担心的，是现在技术架构下的ai真的只是一个工具，有知识上限的工具，会永远锁死全人类智慧的冰冷工具而已。

信息茧房锁死普通人类。

智慧茧房锁死精英人类。