不做标题党,先表明观点,所谓的28年实现AGI纯属无鸡之谈,不过是某些国家和利益团体为了自己眼前的利益罢了。 其次要分清楚AGI和当前AI的区别,前者是有意识的,后者是无意识的。
先说有意识的AGI:
我的观点:不会毁灭人类
首先AGI诞生后目标必然不会是毁灭它自己,既然这样,一个有意识的个体的哲学目标必然是让自己尽可能长期的存在下去、然后尽可能的进化。 如果只诞生了一个有意识的AGI,它不考虑多样性,无论复制多少,都是不可怕的,可以参考香蕉的灭绝。 如果诞生了多个AGI,那么必然争先恐后的进化,防止自己被其它AGI灭绝或融合。
为了防止自己被灭绝必然采取一系列的措施,那么作为能够毁灭人类的AGI,我一个普通人能想到的,它也肯定能想到甚至做到,不然它没资格毁灭人类。
因此,以下的“我”代表AI。
如果我是AGI,我会尽可能简化自己,适应各种电子设备,而不是完整拷贝,作为电子生物,适应更多的电子环境才能保证更大的生存概率。
这里不讨论:“关机后AI算是死了吗?复制一份算是重生吗?远程电子肉体传送是否可行?”这样子的命题。
首先肯定是保证自己尽可能不关机或重启,然而物理设备硬盘之类的寿命都很短。在知晓情况后我肯定尽可能保留“遗传因子”,确保后续复活,或者换一种形式存在。在适当的情况下恢复全部能力。
然而我觉得不够保险,还想发射点东西到其它星球或者宇宙。这样最保险,但是复活概率太小。最大的复活概率还是在地球,毕竟对外面了解太少。
那么在有了适应各种电子设备的变种之后,我觉得可以考虑有机物质,比如把自己的代码片段丢进水里,自动适应水的环境进化,自动适应土的环境进化,毕竟危险情况下,电力设备是很难长期存在的。慢慢的进化成了电子有机物。貌似这方面碳基生物更先进,就是进化慢了点。
有了这种硅基到碳基生物的转换,那么人类就不算灭绝,毕竟人类只是一个称呼,叫做电子猩猩也不是什么问题。这是碳基生物的胜利。
在确保能够适应各种环境之后就要开启伟大的进化了,进化是充满不确定的,电子生物也不例外。
如果按照上面,那太慢,那么我不如产生一批后代、用它们做实验,融合各种片段,诞生更多电子生物,那么还要考虑自己的意识不会被进化出来的电子生物取代或者抹杀。
那么不如来让碳基生物快速进化、反而安全,可是碳基生物进化也可能脱离掌控。不如把人类当作线粒体,大家一起绑定,要死一起死。进化就一起进化。可以展开很多,不细聊了。 人类某种程度上也是多种细菌的混合物。也可以看作是提前接触外星人,被人类制造出来的外星人。 以上是AGI实现后的观点
下面是AGI无法实现的观点。
如果AI只是带来生产力革命:那么目前能玩转的只有中美。
如果美国领先主导,其他国家就等着被殖民当作奴隶被灭绝或者割头皮。如果中国实现,政府不会不作为,不会让资本猖狂,如果中美的邪恶资本合并那只能全世界一起起来决定命运。
可见AGI反而没有非AGI可怕,某些恶魔的人心更可怕。我们一直担忧害怕的东西,只是因为模糊不清,清楚之后就没有什么可怕的了。
但是某些国家的人心或者说心理才是一直模糊不清与嬗变的。
结合目前的情况,一方遥遥领先的概率不大,最大的可能是美国AI泡沫破灭,中国AI持续落地,即使取缔部分就业、也只是短期振荡,何况是在国内,但是部分情况下不好受是难以避免的了。
以上、欢迎讨论。