2月**动态激励计划1机器智能的未来。
1.1.没有任何技术原因阻止我们创造智能机器。
1.1.1.障碍在于我们缺乏对智能和产生智能所需的机制的理解。
1.2.历史表明，我们无法承受推动机器智能向前发展的技术进步。
1.2.1.在1950年，没有人能**加速计算机发展的创新和进步。
1.2.1.1.集成电路。
1.2.1.2.固态存储器。
1.2.1.3.蜂窝无线网络通信。
1.2.1.4.公钥加密。
1.2.1.5.互联网。
1.2.2.没有人能预料到计算机将如何改变**、通信和商业。
1.2.3.今天，智能机器会是什么样子以及 70 年后我们将如何使用它同样未知。
1.2.3.1.机器智能对21世纪的影响将超过计算机对20世纪的影响。
1.3.通过了解大脑产生智力的机制，我们可以知道什么是可能的，什么是不可能的，以及在某种程度上什么样的进步是可能的。
2.1.人类大脑的早期部分控制着生命的基本功能。
2.1.1.它们创造了人类的情感、生存和繁殖的欲望以及人类与生俱来的行为。
2.2.在创造智能机器时，我们不必复制人脑的所有功能。
2.2.1.新大脑，或大脑的新皮层，是体现人类智能的器官，智能机器需要有与之相媲美的东西。
2.2.2.大脑的其他部分，我们可以挑选出一些我们想要的部分。
2.3.地图本身没有规定这些用途，也没有对它的使用方式给予任何价值。
2.3.1.这是一张既不**也不爱好和平的地图。
2.3.2.有些地图可能更适合战争，而另一些则更适合。
2.3.3.发动战争或参与**的欲望来自使用地图的人。
2.4.智力是系统地学习世界模型的能力。
2.4.1.目标和值由使用该模型的系统提供。
2.5.大脑的新皮层学习一个本身没有目的或价值的世界模型。
2.5.1.大脑的新皮层不会产生目标。
2.5.1.1.大脑的新皮层虽然比旧大脑大得多，但由皮层的许多相对较小的元素柱组成。
2.5.2.指导我们行动的情绪是由旧大脑决定的。
2.5.3.如果一个人的旧大脑具有攻击性，那么它将使用大脑新皮层中的模型来更好地实施攻击性行为。
2.5.4.如果另一个人的老大脑是仁慈的，那么它就会利用大脑新皮层中的模型来更好地实现其仁慈的目标。
2.6.智能机器需要一个世界模型，以及随之而来的行为灵活性。
2.6.1.没有必要有类似人类的生存和繁殖本能。
2.6.2.设计一台具有人类情感的机器比设计一台具有智能的机器更难。
2.6.2.1.为了用人类的情感来建造一台机器，我们必须重建旧大脑的各个部分。
2.7.设计智能机器可以从三个部分开始。
2.7.1.实施方案
2.7.1.1.要学习一种新工具，我们必须把它拿在手里，不断转动它，用眼睛观察和注意它的不同部分。
2.7.1.2.智能机器还需要传感器以及移动这些传感器的能力。
2.7.1.2.1.它被称为“具身”。2.7.1.3.具体化甚至可以是虚拟的，就像机器人探索互联网一样。
2.7.1.3.1.动作和位置不一定存在于物理空间中。
2.7.1.3.2.智能机器可以做同样的事情，而无需使用软件进行移动。2.7.1.4.当今的大多数深度学习网络都没有具体实施例。
2.7.1.4.1.它们没有可移动的传感器，也没有确定传感器方向的参考系。
2.7.1.4.2.没有具体化，可以学到的东西是有限的。2.7.1.5.可用于智能机器的传感器类型几乎没有限制。
2.7.1.5.1.人类的主要感官是视觉、触觉和听觉。
2.7.1.5.1.1.人类的视觉、触觉和听觉都是由一系列传感器实现的。
2.7.1.5.1.2.嗅觉和味觉在本质上与视觉和触觉不同。
2.7.1.5.1.3.在感知口中的东西时，味觉也受到限制。
2.7.1.5.1.4.嗅觉和味觉可以帮助我们判断食物是否安全，嗅觉可以帮助我们识别一个大致的区域，但我们并不过分依赖它们来了解世界的详细结构。
2.7.1.5.1.5.听力介于两者之间。2.7.1.5.1.5.1.通过使用双耳和声音从外耳反射的方式，我们的大脑可以更好地定位声音而不是气味或味道，但这种定位仍然不如视觉和触觉。
> 2.7.1.5.2.蝙蝠有声纳“ 27.1.5.3.有些鱼有发射电场的感官“ 27.1.5.4.能够在倒塌的建筑物中营救人类的机器人可能具有雷达传感器，因此它可以在黑暗中看到事物2.7.1.6.对于智能机器来说，要学习世界的模型，它需要可以移动的感官输入。
2.7.1.6.1.智能蛋白质机（智能蛋白质机器）可能存在于典型的计算机中，但这种智能机器的运动范围和传感器范围非常小，在细胞内部。
> 2.7.1.6.2.存在于单个细胞内并理解蛋白质的智能机器 > 27.1.6.2.1.蛋白质是长分子，可以自然折叠成复杂的形状>27.1.6.2.2.我们的大脑不太擅长理解蛋白质> 27.1.6.2.3.蛋白质的工作速度也比大脑处理的速度快得多2.7.1.7.分布式大脑是另一个不寻常的体现。
2.7.1.7.1.人脑的新皮层有大约150,000个皮层柱，每个皮层柱都模拟了它可以感知的世界的一部分。
2.7.1.7.2.一台智能机器可能有数百万个皮质柱和数千个传感器阵列。2.7.1.8.应内置与机器实施例密切相关的行为。
2.7.2.老脑部。
2.7.2.1.要创造一个智能机器，需要大脑的旧大脑部分。
2.7.2.1.1.智能机器还需要一些旧的大脑功能。2.7.2.2.基本锻炼是这些需求之一。
2.7.2.2.1.大脑的新皮层不直接控制任何肌肉。
2.7.2.2.1.1.它向旧大脑发送信号，后者更直接地控制运动。
2.7.2.2.2.动物需要走路和奔跑，然后才能进化出大脑的新皮层。2.7.2.3.旧大脑的行为原语并非都是固定的，它们也会随着学习而改变。
2.7.2.4.智能机器还需要内置的安全性。
2.7.2.4.1.与任何产品设计一样，需要考虑许多安全措施。
2.7.2.4.2.如果汽车检测到驾驶员即将撞到障碍物，它会忽略驾驶员的指示并踩下刹车。2.7.2.5.智能机器必须有目标和动机。
2.7.2.5.1.人类的目标和动机是复杂的，有些是由我们的基因驱动的。2.7.2.6.老大脑还可能释放一种叫做神经调节剂的化学物质，这种化学物质直接进入大脑新皮层的大面积区域，大致告诉大脑新皮层，“无论你在想什么，都不要那样做。 ”
2.7.2.7.赋予机器目标和动机需要我们为目标和动机设计特定的机制，然后将它们嵌入到机器的体现中。
2.7.2.8.目标和动机不是智力的结果，也不会自行出现。
2.7.3.大脑的新皮层。
2.7.3.1.大脑的新皮层实现了一种近乎通用的算法，但这种灵活性是有代价的。
2.7.3.2.它不是创造全新的行为，而是学习如何以新的和有用的方式将现有行为组合在一起。
2.7.3.3.行为的原始体可以像弯曲手指一样简单，也可以像走路一样复杂，但大脑的新皮层要求这些行为以自己的方式存在。
2.7.3.4.大脑本身的新皮层不会产生目标、动机或情绪。
2.7.3.5.大脑新皮层与动机和目标影响行为的方式密切相关，但大脑新皮层不指导行为。
2.7.3.6.速度。
2.7.3.6.1.神经元至少需要 5 毫秒才能做出有用的行为。
2.7.3.6.2.硅晶体的运行速度比神经元快100万倍。
2.7.3.6.3.大脑的新皮层由硅制成，可能比人类思考和学习的速度快100万倍。
2.7.3.6.4.智能机器的一部分比生物大脑快100万倍，并不意味着整个智能机器的速度可以达到这个水平，也不意味着它会这么快获得知识。
2.7.3.6.5.随着智能机器的使用，人类在火星上创造宜居环境的整个过程可能会快几倍，但不是一百万倍。
2.7.3.6.6.计算机可以以比人类快 100 万倍的速度完成以前手工完成的任务。
2.7.3.6.6.1.智能机器将对人类社会和人类进行科学发现的速度产生类似的影响。
2.7.3.6.7.用智能机器代替人类来研究神经科学可以加快科学发现的速度，但速度不会快100万倍。
2.7.3.6.8.花时间阅读**，讨论所有可能的理论，编写软件。
2.7.3.6.8.1.原则上，智能机器可以更快地完成其中一些工作。
2.7.3.6.8.2.但是我们的软件模拟仍然需要几天时间才能运行。
2.7.3.6.8.3.我们的理论不是在真空中发展起来的，而是依靠实验。2.7.3.6.8.3.1.神经科学并不是一个特例，几乎所有的科学探索都依赖于实验数据。
2.7.3.6.8.3.2.我们无法大幅加快望远镜和粒子探测器的发展速度，也无法减少它们收集数据所需的时间。
> 2.7.3.6.9.智能机器还可以大大加快某些领域的研究工作>27.3.6.9.1.数学家的主要工作是思考、写作和分享想法> 27.3.6.9.2.从理论上讲，智能机器处理某些数学问题的速度比人类数学家快 100 万倍> 27.3.6.9.3.智能网络爬虫的学习速度受其通过跟踪器链接“移动”并打开文件的速度的限制。 这个过程可以非常快2.7.3.7.能力。
2.7.3.7.1.我们大脑的新皮层变得更大了，我们变得更聪明了。
2.7.3.7.1.1.机器智能也可以遵循相同的机制。
2.7.3.7.2.可以创建的人造大脑的大小没有明显的限制。
2.7.3.7.2.1.扩大大脑新皮层的某些区域可能会产生一些影响，但它不会给你带来某种超能力。
2.7.3.7.2.2.大多数人会认为人类比猴子更聪明，我们的大脑建立了一个更深入、更全面的世界模型。
2.7.3.7.2.3.智能机器可以在理解的深度上超越人类。2.7.3.7.2.3.1.这并不一定意味着人类无法理解智能机器学习。
2.7.3.7.2.3.2.就好像即使我不能像爱因斯坦那样做出这样的发现，我也能理解他的发现。
> 2.7.3.7.3.当我们出生时，大脑的新皮层中有太多的大脑回路。 在接下来的几年里，大脑回路的数量将大幅下降“ 27.3.7.4.智能机器没有与大脑回路相关的限制2.7.4.可重复的机器智能。
2.7.4.1.我们可以随时复制一台智能机器，克隆它。
2.7.4.2.只要机器人的功能达到令人满意的水平，我们就可以将它学习到的连接迁移到其他十几个相同的机器人以创建副本。
3.1.每当一项新技术被创造出来时，我们都会想象用它来取代或改进我们熟悉的东西。
3.2.没有人能预料到的新用途出现了，正是这些意想不到的用途往往成为最重要的用途，并将改变整个社会。
3.3.当互联网协议首次出现时，很少有人能预见到这些社会变化。
3.4.人工智能的目标是模仿人类，这一概念体现在著名的“图灵测试”中。
3.5.危险工作和对健康有害的工作，例如深海维修或清理有毒泄漏物，对人类来说可能风险太大。
3.6.使用智能机器完成人手不足的任务，例如照顾老人。
3.7.学习科学是一项令人兴奋的应用。
3.7.1.人类想要学习，所以他们被吸引去探索，寻求知识，去了解未知。
3.7.2.当智能机器可以比我们更快、更深入地思考，可以感知我们无法感知的东西，并且可以去我们无法到达的地方时，谁知道我们会学到什么。