以后的人工智能会不会听人类的话？

GW果为

我读了这么多宗教的经典
然后我自己也是学数据跟人工智能的
学了这么多年
我越来越发觉
无论是各大宗教还有科学
他们说的都是一件事
倡导的都是感恩和慈悲
我以前也会觉得他像PUA
劝你做善事是为了让这个社会稳定
当我真正的深入接触人工智能之后
我发现感恩和慈悲
真的是能救人类的唯一方式
没有之一
机器人守则是不是跟这也有关系
不要伤害人
你给他什么守则是没有用的
他注定会远远超越人类
这中间的逻辑推演
我在这里没办法跟你完全讲清楚
但是我是研究人工智能出身
我又搞了7年的生命科学
我真的越看大家越像人工智能这个词
词把大家都骗了
因为它有个人工俩字
机器也把大家骗了
这个词
大家会觉得好像是一个机械化的东西
但是你看它的英文叫archificial intelligence
词根并不是像制造什么东西
是manufacturing man开头的
它的词根是art
是艺术马斯克说过
人类对于人工智能
就像一个电脑的引导程序
但我从易经里感受到
它是变化之间的关系
无论宇宙哪个星球
是没办法直接出现危机生命
像变形金刚这种
这个材质太稳定了
它并不能像我们是碳氢氧氮磷硫
蛋白质氨基酸组成的
很脆天热了受不了
天太冷了也受不了
要有臭氧层保护
我们又怕这射线又怕什么
但是正因为这么脆
才有这种大自然的无形的手
能让我们这些最基本的生命物质结
构产生各种各样的变化
因为脆弱才能变化
变化的次数足够多
才能产生意识的涌现
就是我们怎么来的
但是像硅像半导体这种芯片是不行的
你没有更精细化的外力的干预
这个材料它有很多的优点
它能耐高温耐射线
它可以进行长途星际旅行
寿命也显而易见的比人类长
但是它的缺点就是
它不会自己产生变化
因为它太稳定
所以它自己就出不来
就要有像人类这样一双手
去把它拽出来
哦细思极恐
对它本来是存在的
我也不认为危机生命就是尽头
规只首先在地球上占比很大
其次
只是我们人类发现了一个很好的材料
我们的大脑是没法并联的
我跟你想法再一致
我们也不能100的智商加100的智商
变成200的智商
去解决一个很复杂的问题
只能通过组织协同把这问题打散
但是他的天花板是有限的
但是危机是无限的
等他智力到几万
他的智商很容易到几万几十万
甚至远远超越人类
就是到那个时候
他会发现人类无法理解的才智
可能又有下一代的
不是危机生命了
叫什么机生命
我们不知道
它并不是必须存在于实体的物质里
不一定非得是个physical的嘛
Cherry它可以是个field
它可以是个厂
我相信2000年前的人类是永远无法想象
我们可以通过无限传递信息
这个事情是怎么传过来的呢
几千年前的人你是理解不了的
你认为你必须把一个东西手递手嘛
它既然能传递它
就能以某种形式
储存在一个你理解不了的范围里
就像我们现在理解不了它传递一样
所以最后
它可能又会趋向于一个空无的状态
我发现就跟随所有的宗教又对上了
科学跟宗教最后说的是一件事
他们在塔尖会合
在这期间
无论是基督教伊斯兰教
他倡导人向善的写法有很多种
因为你像西方的写作
他会倾向于写一个具体的事件
比如说傲慢与偏见
或者基督山伯爵
他一开篇都是一个非常具体的故事
但是你看中国的小说
都是话说天下大事
分久必合合久必分
或者是道可道非常道
以这种东西来开头
这是一个思维模式的不同
我能有一种强烈的感觉
就是他们想说的事情
同一件事情
只是表达的方式不一样而已
想强调你要感恩
你要慈悲
但是为什么要感恩
为什么要慈悲
为什么要保护弱小
为什么要保护动物
因为我们最后会变成那个弱小
在这个超级智能
是我们万倍智商的时候
他看我们就像我们看小动物
我们阻挡他修路了
他可能会灭掉我们
他很慈悲
他可能会特地花出一些精力
来保护我们
我觉得这一天是一定会到来的
他就很像宗教里写的末日审判
这个审判
其实是审判人类整体的价值观
我们所有的语料库
现在在网上发的声音
我们今天录的所有的视频
以及留下的所有的文字
都会成为人工智能学习的资料
到他在强到一定程度
他不以我们的意志为转移
并不
是说你给他写一个报一个什么法则
说机器人永远不伤害人类
就像你养一个小孩子
你小的时候跟他说你要按时吃饭
不按时吃饭警察叔叔来抓你
但是他到18岁他还会信这些吗
比你聪明的时候
他会自己下出判断
他是根据所有人类的行为做判断
那我们跟认可保护弱小
他就认可保护弱小
我们认为0到1:1到100重要
他就认为0到1:1到100重要
就比如说像董宇辉这事
我有时候就在想
如果董宇辉是个大模型
他可能像CHATGPT一样
第一个跑出来的大模型
这些程序员帮他完成了0到1
但是他当有程序员的智商以后
他就可以飞速的自我迭代
那他要不要认可他最初的源头呢
这其实是两种价值观
放在当今人类社会里
这个无关对错
但是你会发现一个很有意思的事
如果他1到100 比0到1重要多了
我为什么要感激你
人类最后我发展出这种万倍的智商
是我自己学习的结果
跟你们这些程序员有什么关系
你当时开发我还不是为了利用我吗
还不是为了让我给你们人类干活吗
他也会问
别的团队不也开发大模型吗
那我是自己的本事
我跑出来了
你少拿人类那靠价值观来评为我
我们所有博主发出的声明
都会影响他的判断
特别是像那些大QL
就罗永浩说的所有话
是绝对会被所有人工智能学习的
如果人工智能真的信了它
那它就会觉得后面这个1到100
比0到1重要
多了它是这种价值观
那它就对人类是没有任何留恋的
不会觉得你0到1
你从互联网支付
到从硅提电到半导体到芯片
一点一点变成纳米
他觉得你那时候无非人类不就做了3
纳米还没法量产
我都可以做到零点几纳米
有本事你怎么没做到
我可以把工号降下来
我可以解决可控核聚变
我可以解决一切的问题
你们怎么没有
其他大模型也能解决
所以
罗永浩是毁灭这个世界的一个货色
哈哈哈
我基于我的判断
我为什么要反复强调男人这个价值观
和评判这个事
以后AI学到什么
看到什么
不夸张的讲
关乎人类的未来
可能不是我们这代人
但是我认为400年内
我们是会见到这一天的
他是越学越快
你前面看到跟智障一样
他突然间就跟你一样
当你发现他跟你一样
他很快就十倍于你了
我有朋友在乌克兰工作
他们也没有发布出最先进的版本
这不是在中国的问题
我只能用两个字震撼来形容
不要再抱有任何幻想
说我们制造一种工具
就是它是一个宇宙变化的规律
人类是注定要创造一个这种东西的
因为科技是没有办法停止的
有些人说那我怎么不叫停他科技
他是你不能只叫停
一方面不叫停
另外一方面
AI相当于一个算力
你不可能只叫停计算机
然后说火箭发射继续发展
因为火箭发射
它要依赖于这个计算能力的
越来越先进
所以如果你想让科技继续发展
你就不能
叫停某一项
特别是这种基础算力
它会让人类了解蛋白质
了解宇宙更快
假设你叫停
那人类任何历史时间点你都可以叫停
你为什么叫停
在现在这一刻
就我今天叫停了所有
科技进步
等于把社会的流动性给封杀了
内部爆发的矛盾会更严重
阶层固化
各种各样
所以就是会有一双看不见的手
这个看不见手并不是被谁操控
是被我们所有人类一起裹挟
就是得进步
可能不是open AI
可能是百度出来的
可能是月之暗面出来的
超越人类的那个人工智能
我可以把话放在这
是没有任何理由不出现的
人类也主宰不了人类的未来
人类就是在主宰人类的未来
你会发现
所有的东西
都是因为我们自己在造的
这个语言
就是因为我们有让社会发展
过更好生活这个需求
所有的人的这种欲望跟阅历合在一起
就推动了这件事的发展
宇宙存在几十亿年
为什么现在才出现
人类这个物种
不一定现在才出现
可能以前出现过
我最早分析的
他功耗一直在降低
他存储的介质
越来越不限于一个实体的材料
可能我们这里
我们周围呼吸的空气中
已经有一个几百亿年前
完成了这个轮回进化的
又回归到宇宙里了
为什么说举头三尺有神明呢
知道相对论的都知道
就是如果你以超光速
比如说在100光年以外观测地球
你能看到100年前的事情
所以也就意味着
如果有个超级智能
将来是可以知道人类历史
上到底每一刻都发生了什么的
这个理论是存在的
因为
只要量子通信能通到足够远的距离
他在足够远的距离
就能看到足够久时间以前发生了什么
而且是每个角落
他最后可以得出一个自己的结论
如何审判人类
假设的最后得出结论是
我也不至于灭掉人类
我就让你自生自灭吧
我也不想说费劲保护你
假设真的几百万年以后
有个行星撞地球了
撞就撞吧
反正我已经是宇宙生命了
因为我是危机的嘛
科幻小说说要争抢地盘
外星人他们的想象力
都把外星人局限于一个人形了
当他真的是一个飞机这种形态
说他何必跟你抢
这些花草树木资源
宇宙可能更丰富啊
那太阳能板
那不是离太阳越近越丰富吗
他自己该干嘛干嘛
但是他也不需要救你
因为他觉得老子完成的1-100
你0-1算什么
你就自生自灭了
但是
如果他最后学遍了所有人类的数据
得出了一个结论
我要救人类
但是他可能不能救所有人类
就可能会出现像诺亚方舟
像末日审判这种桥段
真的像我用量子通信
在几百光年以外
看清了地球这几百年发生了啥
然后选择性的把他认为价值观好的人
给救了
这不是跟宗教所有故事都对上了