阅读《千脑智能笔记》 10 人类智能的风险

小夏 科技 更新 2024-02-11

2月** 动态激励计划

1.1.“世界末日时钟”。

1.1.1.核战争引起的火灾被列为地球毁灭的主要原因。

1.1.2.气候变化被列为人类自我毁灭的第二大潜在原因。

1.2.除非我们故意添加自私的驱动力、动机或情感,否则智能机器不会威胁到人类的生存。

1.2.1.人类将在不久的将来制造更多的威胁。

1.3.人类的智慧不是良性的。

1.3.1.人们早就认识到,人类的行为可能导致自己的灭绝。

1.4.与人脑密切相关的两个基本系统性风险。

1.4.1.第一个风险与我们大脑中的老大脑密切相关。

1.4.1.1.人类大脑中30%的部分进化得更早,并创造了我们原始的欲望和行为。

1.4.1.2.大脑中的新皮层已经发明了足以改变整个地球的技术,但控制这些技术的人类行为往往被自私和短视的老大脑所支配。

1.4.1.3.人类的血统可以追溯到数十亿年前。

1.4.1.3.1.衡量一个物种在如此长的一段时间内成功的最终或唯一标准是传递其基因。

1.4.1.4.只有当大脑能够提高生存概率和拥有大脑的动物的繁殖能力时,大脑才是有益的。

1.4.1.5.大脑中的第一神经系统很简单,它只控制反射反应和身体机能,它的设计和功能完全由基因决定。

1.4.1.6.即使我们有智力,旧的大脑仍然在运作。

1.4.1.6.1.它仍然按照数亿年来形成的地球上的生存法则起作用。

1.4.1.6.2.由旧大脑引导的行为是对环境的成功适应。

1.4.1.7.今天,旧的大脑代表着生存威胁,因为大脑中的新皮层创造了可以改变甚至摧毁整个地球的技术。

1.4.1.7.1.旧大脑的短视行为,与新大脑改变地球的技术相结合,已成为对人类的生存威胁。

1.4.2.第二个风险与新皮层、智力更直接相关。

1.4.2.1.新皮层可以被欺骗,形成对世界基本原理的错误信念。

1.4.2.2.基于这些错误的信念,我们将采取违背我们自身长远利益的行为。

2.1.生命源于一个非常简单的想法:基因尽可能多地自我复制。

2.2.对基因有益的东西并不总是对个体有益。

2.2.1.拥有允许一个人生育尽可能多的孩子的基因将有更大的成功概率,即使这样做会导致死亡和痛苦。

2.3.从遗传学的角度来看,动物最好总是尝试生活在新的地方,即使这些尝试经常失败。

2.4.对基因一无所知。

2.4.1.作为一个基因不会让他们快乐,当他们无法复制时也不会受到伤害。

2.4.2.它们只是可以复制的复杂分子。

2.5.大脑的新皮层获得了更完整的画面。

2.5.1.直到那时,人类才预见到,如果地球上的人口继续不受控制地增长,人类将不可避免地遭受苦难和苦难。

2.5.2.大脑的新皮层可能知道吃蛋糕对我们有害,它会导致肥胖、疾病,甚至早逝。

2.5.3.老大脑在控制之中,老大脑是从难以获得卡路里的时代进化而来的。

2.5.4.在旧大脑和新皮层之间的战斗中,旧大脑通常会获胜。

2.5.4.1.我们来吃蛋糕。

2.6.有一个简单的共识是,如果地球上的人口总数较小,地球不太可能经历某种人为造成的退化和系统崩溃。

2.7.种群不可能永远增长,许多生态学家认为现有的种群已经不可持续。

2.7.1.一个是生活在地球上的总人数,另一个是每个人造成的污染程度。

2.8.即使 20 亿人对地球来说是不可持续的,人类也有足够的时间来调整其行为并找到一种可持续的方法。

2.9.人类至少在50年前就认识到了人口增长的威胁,在那段时间里,人口数量几乎增加了两倍。

2.9.1.这种增长的根源是旧的大脑结构和它们所服务的基因。

2.10.人类的聪明才智创造了奇迹:在50年前人口几乎增加了两倍的时代,我们减少了饥饿和饥荒。

2.10.1.这也是不可持续的。

2.10.2.要么人口增长停止,要么在未来的某个时候,地球上将发生一场巨大的人类灾难。

3.1.在旧大脑和新皮层的战斗中,旧大脑总是赢家。

3.1.1.节育技术的发明展示了新皮层如何利用其智力来发挥其优势。

3.1.2.新皮层不是与旧大脑作斗争,而是让旧大脑得到它想要的东西,并防止不良结果的发生。

3.2.对性的欲望是一种为了满足遗传兴趣而进化的行为。

3.2.1.即使我们不想要更多的孩子,也很难停止做爱。

3.2.2.让老大脑满足对性的渴望,而不创造更多的孩子。

3.2.3.老大脑没有智慧,它不明白自己在做什么或为什么。

3.2.4.新皮层有自己的世界模型,可以看到生太多孩子的坏处,以及推迟组建家庭的好处。

3.3.简单而巧妙的解决方案是确保每个女性都有能力掌控自己的生育能力,并且她有能力选择是否生孩子。

3.3.1.从几乎所有的客观标准来看,赋予妇女权力会带来一个更可持续的世界和更少的人类苦难。

3.3.2.从外部角度来看,阻止妇女获得平等权利似乎适得其反。

3.3.2.1.我们可以将这种困境归咎于旧大脑顽固的、病毒式的错误信念。

3.4.新皮层让我们成为“技术物种”。

4.1.新皮层尽管具有惊人的能力,但也可能被愚弄。

4.2.三个基本要素。

4.2.1.无法直接体验它。

4.2.1.1.错误的信念几乎总是与我们无法直接体验的事情有关。

4.2.1.2.如果我们不能直接观察某些东西,比如听不见、摸不着、看不见,那么我们就必须依赖别人告诉我们的东西。

4.2.1.3.谁告诉我们这决定了我们的信仰。

4.2.2.无视相反的证据。

4.2.2.1.为了保持错误的信念,你必须丢弃与之相矛盾的证据。

4.2.2.2.大多数错误的信念规定了无视相反证据的行动和理由。

4.2.3.病毒。

4.2.3.1.病毒式的错误信念规定了鼓励将这种信念传播给他人的行为。

4.3.错误信念示例:有来世。

4.3.1.无法直接体验它。

4.3.1.1.没有人可以直接观察来世。

4.3.1.2.它本质上是不可观察的。

4.3.2.无视相反的证据。

4.3.2.1.与其他错误的信仰不同,没有科学研究表明来世不是真的。

4.3.2.2.反对来世存在的论点主要是基于缺乏证据,这使得信徒更容易忽视来世不存在的说法。

4.3.3.病毒。

4.3.3.1.对来世的信仰是病毒式的。

4.3.4.对来世的信仰本身并不一定是一件坏事。

4.3.5.如果你相信来世比来世更重要,那么这种信念就是威胁性的。

5.1.首先,舊大腦仍在控制人類的行為,阻止它做出有利於長期生存的選擇,例如減少人口或消除核武器。

5.2.其次,我们创造的全球技术很容易被抱有错误信念的人破坏或滥用,例如激活核武器。

5.3.人类的聪明才智为我们的物种带来了成功,并可能埋下了人类灭绝的种子。

5.4.我们的大脑是由旧大脑和新皮层组成的,这种结构是问题的根源。

5.5.在进化路径的某个地方,新皮层使人类能够获得语言、智力和灵巧的双手。

5.6.语言使知识的共享成为可能。

5.6.1.它还播下了错误信念的种子。

6.1.死亡是奇怪的,我们的旧大脑被编程为害怕死亡,而我们的身体被编程为最终死亡。

6.2.生物进化与物种的生存无关,而是与遗传个体的生存有关。

6.2.1.从遗传学的角度来看,我们需要足够长的寿命才能有后代才能复制基因。

6.3.基因只关心它们是否可以复制。

6.3.1.基因并不关心个体的生存。

6.3.2.基因并不关心人类社会的生存。

6.3.3.大多数基因甚至不在乎人类是否灭绝。

6.3.4.基因通常存在于多个物种中。

6.4.为什么我们注定要死?

6.4.1.为其他组合腾出空间,但要等到我们有了孩子后再死。

6.5.人类新生的智慧带来了一个不太符合基因最佳利益的结果。

6.5.1.在地球生命史上,人类第一次理解了世界上万物的运作规律。

6.6.作为有智慧的个体,我们想要实现永生,而人类社会一直存在。

6.6.1.我们希望摆脱人类进化力量的束缚。

7.1.将人脑上传到计算机。

7.2.人脑与计算机的融合。

8.1.有必要记录大脑的所有细节,然后借助这些细节在计算机上模拟大脑。

8.2.将灵性智慧的“你”与你的肉体分开。

8.3.你可以获得永生,包括在远离地球客观环境的电脑中。

8.3.1.即使地球变得不适合居住,你也会永远活着。

8.4.是一种逃避的方法。

8.4.1.这使我们能够避免生物的混乱状态,并以计算机模拟自我的形式永远生活。

8.4.2.上传你的大脑可以让你永远活着。

8.5.这种方法的基本实现是,我们制作每个神经元和突触的图谱,然后在软件中重建所有结构。

8.5.1.“你”将活着,但“你”将在计算机大脑中,而不是在你前生物的大脑中。

8.6.我们不可能在不严重损害某些东西的情况下消除大脑或身体的某些部分。

8.7.如果我们上传新皮层,那么它将代表您身体的每个部位。

8.7.1.仅表征大脑所需的数据量远远超出了现有计算机系统的能力。

8.8.您的生物大脑被设计为使用肺部和喉咙的特定肌肉组织来产生声音,并学会使用眼睛上特定感光器的排列来看待事物。

8.8.1.上传的大脑不需要身体或眼睛,模拟就足够了。

8.9.作为一个生物,你每天都可能因为意外死亡而失去永生的机会。

8.10.生物学界的你和计算机界的你可能有不同的道德和政治立场。

8.10.1.生物的你可能会后悔创造计算机你,而后者可能不喜欢一些老生物人声称自己是自己的想法。

8.11.上传你的大脑“是误导性的,你实际上是在把自己分成两个人。

8.11.1.他们一开始可能拥有相同的大脑和记忆,但从此他们立即变成了不同的人,过着不同的生活。

8.12.这些场景就像分娩一样。

8.12.1.当然,最大的区别是,当你的孩子出生时,你不会把你的大脑上传到他们的大脑。

8.12.2.通过将你的大脑上传到计算机来获得你的复制品,不会比生孩子更能实现永恒。

8.13.复制自己只是岔路口,而不是路的延伸。

8.13.1.岔路口后会有两个意识,而不是一个。

8.13.2.一旦你意识到这一点,上传你的大脑的吸引力就会消退。

9.1.大脑中的神经元需要通过计算机中的硅基芯片相互连接。

9.2.将你的大脑与机器融合在一起,你就可以拥有超人的力量。

9.3.电极被放置在您的大脑中,然后连接到计算机。

9.3.1.现在你的大脑可以直接从计算机接收信息,而计算机也可以直接从你的大脑接收信息。

9.4.必须克服巨大的技术挑战。

9.4.1.现在,我们有一种方法可以精确控制数百万个神经元,而无需手术或植入。

9.5.“脑机融合”方案或许能达到有限的目标,但并不能实现脑机的完全融合。

9.5.1.脑机融合仍然保留了生物的大脑和身体,而它们却在衰弱和死亡。

相似文章

    阅读 Thousand Brain Intelligence Note 07 The Future of Artificial Intelligence (Medium)。

    月 动态激励计划机器智能的未来。..没有任何技术原因阻止我们创造智能机器。...障碍在于我们缺乏对智能和产生智能所需的机制的理解。..历史表明,我们无法承受推动机器智能向前发展的技术进步。...在年,没有人能 加速计算机发展的创新和进步。....集成电路。....固态存储器。....蜂窝无线网络通信...

    哪种型号的 PIYO PEN 点读笔值得购买? 让我们从成本效益和实用性开始

    市场上有这么多品牌和型号的老读笔,我们在选择时犹豫不决。作为其中最好的产品之一,PIYO PEN 以其卓越的性能和广泛的用户评论引起了人们的关注。但是有这么多 PIYO PEN 笔,哪一款最适合您?本文将从性价比和实用性的角度,为大家深入分析推荐PIYO PEN最值得的机型,帮助大家解决这一困境。选...

    PIYO PEN点读笔哪种型号更好? 盘点最具成本效益的清单

    如今,市场上的老力笔品牌很多,在功能和功能上存在巨大差异,这使得消费者在选择时经常面临问题。作为一款深受老用户喜爱的老用户产品,PIYO PEN的良好口碑和高品质的性能无疑吸引了越来越多新用户的关注。哪种型号的 Piyo Pen 更好?哪个更好或更坏?下面我们通过这篇文章来详细解读和梳理一下。用户的...

    机器读脑的时代正在向人类迈进

    科技 向研究对象展示的豹子图像 左 和使用生成式人工智能使用大脑活动重建的图像 右 日本量子科学技术研究所。想象一下,如果人工智能 AI 可以读取人类大脑中发生的事情,你会相信吗?本月发表在国际科学杂志 神经网络 上的一项研究表明,日本科学家已经利用人工智能技术成功创建了世界上第一个基于人脑活动的物...

    用点读笔学英语哪个牌子好?

    在选择阅读和学习英语时,您需要考虑品牌 质量 功能和 等许多方面。以下是一些关于点读笔的知名品牌,供学习英语参考 .Alpha Egg AI 词典笔 Alpha Egg AI字典笔是一款集人工智能技术与教育资源于一体的高效学习工具。它采用先进的OCR识别技术和深度学习算法,可以快速准确地识别英文文本...