甚至说,这个文明唯一的亮点,也只有人工智能而已。
而且余宙总觉得这个文明的人有点憨。
或许是站在旁观者的角度站着说话不腰疼吧。
他们在制造智能管家的时候,居然不把一些制约智能管家的方法给加进去。
比如机器人三大法则:
1、机器人不得伤害人类个体,也不允许它见人类个体将受到伤害而袖手旁观;
2、机器人必须服从人给予它的命令,除非该命令与第一条相违背;
3、机器人必须保护自身不受伤害,除非这与上述两条相违背。
这是他以前在地球上很喜欢的科幻小说《我,机器人》中提出的。
虽然这三大法则也存在着一定的弊端:比如当两个人互相伤害时,机器人不能看到人受到伤害而无动于衷,但如果它行动了,又可能对另一个人受到伤害,这时,机器人就有可能自毁。
在阿西莫夫的某些小说中,出现过这样的场景。
还有,在《机器人与帝国》中,一些机器人的系统中“人类”的定义并不包括其他星球的人,这时,它们就会攻击其他星球的人。
但瑕不掩瑜。
机器人三大法则,也有的人称其为机器人三大定律,具有极高的现实意义,在地球上,就有一门学科,名为机械论理学,就是在这三定律的基础上建立的。
在地球上,很多人都认为,三定律将成为未来机器人公认的安全准则。
对此,还有人在这个基础上提出了一个“船新版本”:
4、人工智能系统必须遵守适用于其操作人员的所有法律条文;
5、人工智能系统必须明确表示它不是人类;
6、未经信息来源明确许可,人工智能系统不能保留或者披露机密信息等。
这显然就是针对某些特殊领域、特殊作用的机器人而提出的。
除了以上这些外,还添加过一条“第零定律”——机器人必须保护人类的整体利益不受伤害。
之所以提出这一条,是因为牵涉到一些其他层面的问题。
比如,为了维持国家和社会的整体秩序,人类制定了法律,有人触犯了法律,必须要对他进行逮捕,甚至处以死刑。
这时候,机器人该不该阻止呢?
如果不阻止,显然违背了第一定律。
而如果阻止,那就是触犯了法律条文,影响了人类的整体利益。
而这,就是提出第零定律的原因——第零定律的重要性凌驾于三定律之上!
如果双星文明的科学家将这些东西写进赛克罗斯等智能管家的底层逻辑中,当一些事情发生时,及时进行阻止,那双星文明或许也不至于走到这个地步。
如果能制约好这些智能管家,那这个文明说不定还是能有一些出入的。
看在这是自己发现的第二个文明的份上,余宙还是决定帮帮他们。
而且,独眼星人虽然数量不算很多,只有二三十亿,但还算是比较可观,或许也能为他提供不少的情绪值,进一步加速他与物质世界的联系度。
想着,余宙从时间线中挑选出一个节点。
本章已完 m.3qdu.com