机器人三定律破绽
发布网友
发布时间：2022-05-13 12:55
共4个回答
热心网友
时间：2023-10-10 01:30
破绽是机器人受到来自两个法则的冲突，一是第一法则，二是第三法则，这两个电路一旦发生冲突，无论第三法则有多么强大，依旧还是无法必过第一法则。
机器人心理学家说：“假设修订型机器人从某人上方抛下一个重物，只要他在这样做的时候，明白自己具有足够的力量与反应速度，能在重物砸到那人之前将它抓走，他就不会违反第一法则。然而重物一旦离手，他就不再是主动的媒介，起作用的只剩下盲目的重力，然后那机器人就能改变心意，他只要不作为，就能让重物砸下去，修订后的第一法则允许这个行动。”
扩展资料
在《我，机器人》的《消失无踪》中的开头提到，即使机器人明白某个人类在某个看似极度危险但不会受到任何伤害的地方进行工作，那么机器人依旧会阻止他，，如若机器人无所作为，第一法则依旧会强迫执行，这给人类的工作带来很大的困扰。倘若不因如此，就不会有后面的修订型机器人与这个擦边球了。
苏珊设计了个场景，使某人坐在椅子上，头顶有重物，当其自由落下即将砸到此人，会有力场推开重物（机器人不知道），而机器人坐在另外一边的椅子上，身前有电缆放在通向那人的必经之路，触碰即死，但是当重物坠落时就会被切断电流（机器人也不知道）。
热心网友
时间：2023-10-10 01:31
先说所谓的“机器人三定律”：
一.机器人不得伤害人，也不得见人受到伤害而袖手旁观
二.机器人应服从人的一切命令，但不得违反第一定律
三.机器人应保护自身的安全，但不得违反第一、第二定律
后来又补充了机器人零定律：
为什么后来要定出这条“零定律”呢？打个比方，为了维持国家或者说世界的整体秩序，我们制定法律，必须要执行一些人的死刑。这种情况下，机器人该不该阻止死刑的执行呢？显然是不允许的，因为这样就破坏了我们维持的秩序，也就是伤害了人类的整体利益。
所以新的阿西莫夫的机器人定律为：
第零定律：机器人必须保护人类的整体利益不受伤害。
第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管，除非这违反了机器人学第零定律。
第二定律：机器人必须服从人给予它的命令，当该命令与第零定律或者第一定律冲突时例外。
第三定律：机器人在不违反第零、第一、第二定律的情况下要尽可能保护自己的生存。
但是问题又出来了：
三定律加上零定律，看来堪称完美，但是，“人类的整体利益”这种混沌的概念，连人类自己都搞不明白，更不要说那些用0和1来想问题的机器人了。威尔•史密斯曾说：“《我，机器人》的中心概念是机器人没有问题，科技本身也不是问题，人类逻辑的极限才是真正的问题。”
若是楼主只单纯的想知道机器人三定律的破绽，那么就是：
【单纯的保护一个人类，而忽视大部分人类的生存问题】
你要的是这个？
热心网友
时间：2023-10-10 01:31
先不考虑机器人是否拥有判断人类是否会因此受伤的能力，（有些人类本身很少有人知道）
这些定律规定了机器人的行为，但是思想呢，一旦有了伤害人的思想（或*），或者并不知道这样会伤害人。那么总会有漏洞存在。
假设我是机器人，我要对人类进行伤害，在我伤害人类之前（人类并不知道我要伤害他也就不会提前下指令），对自己的拾音器（代指接收指令的部件）进行关闭（不接收新的指令，没有伤害自身）。将人类囚禁于一个并没有危险的地方（没有伤害并相当于保护且接收不到将其释放的能力），并且将自己关起来（并没有伤害）。等待人类饿死渴死。在人类渴死饿死时去救人类，但受限于环境无法及时救助人类（被关起来缺乏救助能力）。
这是我一个浅显的想法（当我在杠）
三大定律只能在机器人没有伤害人动机的前提下避免大部分的无意伤害。
而且机器人不是神，无法预料到很多后果，人类尚且不能准确预知后果，或受限于能力知识，或缺乏环境情况（例，刹车失灵）
另外安保机器人或军用机器人本身就需要具有伤害人的能力，如何保证这些机器人不反叛呢，只遵循命令的话有人下达命令使其暴兵大肆*。
国家之间的机器人战争也相当于另一种形式的机器人叛乱，只不过这种叛乱遵循一部分人的控制。
热心网友
时间：2023-10-10 01:32
第二定律：在不违反第一定律的前提下，机器人必须服从人类的指令。
第三定律：在不违反第一、二定律的前提下，机器人要尽可能保护自己的安全。
这三大定律在老爷子的短篇《转圈圈》里面首次提出，后在机器人系列中被反复提及、论证和加强，你能想到的bug基本上都被老爷子一一修复了。它可以说已经发展成了一套完善的、逻辑自洽的理论体系，我们很难再从中找到什么逻辑漏洞......但这不意味着不可能，毕竟连经典力学这样被前人视为完美无缺的理论不照样被打破了吗？更何况三大定律只是老爷子的颅内设想，并没有什么理论支撑。比如在《曙光中的机器人》里，我就不是很明白奉阿玛迪洛之命前来逮捕丹尼尔的机器人，为什么会置贝莱糟糕的身体状况于不顾而匆忙离开？说好的不能因无作为而是人类受到伤害呢？难道加强后的第二法则可以凌驾于第一法则之上？我反正解释不清，这可能就是个小小的漏洞吧。
