控制超级智能的人工智能是不可能的。免费技术图书馆新闻

控制超级人工智能是不可能的

29.09.2022

用人工智能推翻人类的想法已经讨论了几十年，2021 年科学家们就是否可以控制高级计算机超级智能做出了判断。

问题在于，为了控制一种远超人类理解的超级智能，有必要模拟这种可以分析和控制的超级智能。但如果人们无法理解这一点，那么就不可能创建这样的模拟。

如果人们不了解 AI 必须提供哪些场景，就无法制定诸如“不要伤害他人”之类的规则。一旦计算机系统的运行水平超出了我们程序员的能力，就不能再设置限制了。

与通常在“机器人伦理”口号下研究的问题相比，超级智能提出了一个根本不同的问题。这是因为超级智能是多方面的，因此可能能够调动各种资源来实现可能难以理解的目标对人类来说，更不用说可以控制它们了。

该团队的部分推理来自 Alan Turing 在 1936 年提出的停机问题。问题是要知道计算机程序是否会给出一个输出和一个答案（所以它会停止）或者只是循环试图找到它。

学者们指出，正如图灵用聪明的数学证明的那样，虽然我们可能知道某些特定程序的这一点，但从逻辑上讲，要找到一种方法可以让我们知道可能编写的每个潜在程序的这一点。这让我们回到了人工智能，它在超级智能状态下可以同时在其内存中保存所有可能的计算机程序。

根据科学家的说法，例如，任何为防止 AI 伤害人类和破坏世界而编写的程序都可以决定（并停止）在数学上是否不可能绝对确定，这意味着它不能被遏制. 科学家们表示，除了教人工智能一些道德规范并告诉它不要毁灭世界——任何算法都无法绝对确定——的替代方法是限制超级智能的能力。

“这项研究也拒绝了这个想法，暗示它会限制人工智能的可能性。争论是，如果我们不打算用它来解决人类能力之外的问题，那为什么还要创造它呢？如果我们要搬家的话与人工智能一起前进“我们甚至可能不知道何时会出现超出我们控制的超级智能，这是它的不可理解性。这意味着我们需要开始就我们正在朝着哪个方向提出严肃的问题，”科学家们指出。

<< 返回： 姜黄素防止视力丧失 29.09.2022

>> 转发： 用人类基因移植的酵母 28.09.2022

科技、新电子最新动态：

控制和操纵光信号的新方法 05.05.2024

现代科学技术发展迅速，每天都有新的方法和技术出现，为我们在各个领域开辟了新的前景。其中一项创新是德国科学家开发了一种控制光信号的新方法，这可能会导致光子学领域取得重大进展。最近的研究使德国科学家能够在熔融石英波导内创建可调谐波片。这种方法基于液晶层的使用，可以有效地改变通过波导的光的偏振。这一技术突破为开发能够处理大量数据的紧凑高效光子器件开辟了新的前景。新方法提供的偏振电光控制可以为新型集成光子器件提供基础。这为以下人员提供了绝佳的机会： ... >>

Primium Seneca 键盘 05.05.2024

键盘是我们日常计算机工作中不可或缺的一部分。然而，用户面临的主要问题之一是噪音，尤其是对于高端型号。但随着 Norbauer & Co 推出的新型 Seneca 键盘，这种情况可能会改变。 Seneca 不仅仅是一个键盘，它是五年开发工作的成果，创造了理想的设备。这款键盘的每个方面，从声学特性到机械特性，都经过仔细考虑和平衡。 Seneca 的主要特点之一是其静音稳定器，它解决了许多键盘常见的噪音问题。此外，键盘支持各种键宽，方便任何用户使用。尽管 Seneca 尚未上市，但预计将于夏末发布。 Norbauer & Co 的 Seneca 代表了键盘设计的新标准。她 ... >>

世界最高天文台落成 04.05.2024

探索太空及其奥秘是一项吸引世界各地天文学家关注的任务。在高山的新鲜空气中，远离城市的光污染，恒星和行星更加清晰地揭示它们的秘密。随着世界最高天文台——东京大学阿塔卡马天文台的落成，天文学史上翻开了新的一页。阿塔卡马天文台位于海拔5640米，为天文学家研究太空开辟了新的机遇。该地点已成为地面望远镜的最高位置，为研究人员提供了研究宇宙中红外波的独特工具。虽然海拔高，天空更晴朗，大气干扰也更少，但在高山上建设天文台却面临着巨大的困难和挑战。然而，尽管困难重重，新天文台为天文学家开辟了广阔的研究前景。 ... >>

利用气流控制物体 04.05.2024

机器人技术的发展不断为我们在各种物体的自动化和控制领域开辟新的前景。最近，芬兰科学家提出了一种利用气流控制人形机器人的创新方法。这种方法有望彻底改变物体的操纵方式，并为机器人领域开辟新的视野。利用气流控制物体的想法并不新鲜，但直到最近，实施这些概念仍然是一个挑战。芬兰研究人员开发了一种创新方法，允许机器人使用特殊的空气喷射作为“空气手指”来操纵物体。气流控制算法由专家团队开发，基于对气流中物体运动的深入研究。使用特殊电机执行的空气喷射控制系统使您无需借助物理手段即可引导物体 ... >>

纯种狗生病的频率并不比纯种狗高 03.05.2024

照顾宠物的健康是每个狗主人生活的重要方面。然而，人们普遍认为纯种狗比混种狗更容易感染疾病。德克萨斯兽医和生物医学科学学院的研究人员领导的新研究为这个问题带来了新的视角。狗老化项目 (DAP) 对 27 多只伴侣犬进行的一项研究发现，纯种狗和混血狗患各种疾病的可能性通常相同。尽管某些品种可能更容易感染某些疾病，但两组之间的总体诊断率实际上相同。狗衰老项目的首席兽医基思·克里维博士指出，有几种众所周知的疾病在某些狗品种中更为常见，这支持了纯种狗更容易患病的观点。 ... >>

来自档案馆的随机新闻

机械防护装置可防止野生动物的攻击 04.10.2023

日本采取了不同寻常的措施，以确保老年人的安全免受熊的袭击——被称为“怪物狼”的机械狼已经开始行动。

这些可怕的机器狼最初是为了吓唬农田里的野生动物而设计的，现在被用来防止熊攻击人类。

据制造商 Monster Wolf 称，这些机械狼的首次使用是在 2020 年秋天在日本发生的，当时日本发生了多起熊袭击老年居民的事件。在最新阶段，由于熊袭击的威胁日益严重，全国各地的地方当局正在积极采购这些机器人。

这一不寻常的举措是由于大量年轻人从农村地区外流，导致老年人得不到足够的保护，并导致城市遭到破坏。

东京农工大学教授小池伸介指出，以前作为熊和人类之间缓冲带的区域正在消失，这使得熊能够靠近人口稠密的地区，并让它们在人类面前不再那么胆怯。

在棕熊生活的北海道地区，过去150年来记录了60多起棕熊袭击事件。仅 2021 年一年就发生了四起致命袭击事件，造成 10 多人受伤，使其成为该地区死亡人数最多的年份之一。

尽管使用机器牛很奇怪，但事实证明它们非常有效。

查看全文 科技新闻档案馆，新电子

本页所有语言

主页 | 图书馆 | 用品 | 网站地图 | 网站评论