Caliban(Isaac Asimov的Caliban#1)第15/22页

“谢谢你,我的朋友们,”弗雷达开始了。 “今晚我打算对三部法律进行分析。然而,在我们开始详细的法律检验之前,我认为审查一些背景信息并集中我们的历史观点是明智的。

“在我之前的讲座中,我提出了旨在建立人类的论据。对机器人的关注度很低,滥用和滥用机器人对我们和他们都有辱人格,我们人类已经允许我们自己懒散地依赖机器人来剥夺我们执行最基本任务的能力。有一个共同的线索将所有这些问题放在一起,贯穿其中的一个主题。

“这是三大法则的主题,女士们,先生们。他们是一个核心那些涉及机器人技术的事情。“

弗雷达暂停了一会儿,向外看了看,并碰巧在第一排抓住了Alvar Kresh的眼睛。她惊讶地看到他脸上的愤怒。发生了什么事? Kresh是一个合理的人。怎么会激怒他呢?有一些消息传到他身边吗?这种可能性在她的肚子里结了一个结。但是不要紧。现在不要。她不得不继续讲课。

“在我上一次讲座开始时,我问道,'什么是机器人?'有一个平行的问题:'三个法则是什么?'他们打算服务的目的是什么?当我第一次问自己时,这个问题让我吃惊。这太像是在问'人们有什么用?'或者'lif的含义是什么è?有些问题非常基本,以至于无法回答。人们就是。生活就是这样。它们包含自己的含义。我们必须尽我们所能。但是,就像机器人本身,法律一样,我再一次提醒你,人类的发明,并且当然是出于特定目的而设计的。我们可以说三条法则是什么。让我们探讨一下这个问题。

“每项法律都基于几项基本原则,有些是公开的,有些则不是立即明显的。这三项法律背后的最初原则来自普遍的人类道德。这是一个可证明的事实,但是证明它所需的正电子位置符号的数学变换当然不是观众希望听到的。有很多天我不希望自己听到这些事情。“

那条线有点笑。好。他们仍然和她在一起,仍然愿意听。弗雷达瞥了一眼她的笔记,从她的水中略微紧张地喝了一口,继续说道。 “我只想说这些技巧可以用来概括三部法律,使它们的内容如下:一,机器人一定不能危险;二,它们必须有用;三,它们必须尽可能经济。

“对社会学建模者所使用的符号的进一步数学转换将表明,这种基本规则的等级与所有道德人类社会规范的一个子集相同。我们可以从任何标准的数学理想化和广义道德社会规范中提取相同的概念社会学建模者使用的。这些概念甚至可以被写成一种表示法,其中每当两个法律发生冲突时,每个更高的法律都会凌驾于下面的法律之上:不伤害,对他人有用,不要毁灭自己。

“简而言之,三法则封装行为的一些理想,是人类道德的核心,是人类达到但永远无法掌握的理想。这一切听起来都非常舒服和令人放心,但也存在缺陷。

“首先,必要时,三大法则被定下来,被烧成正电子大脑的核心,作为数学上的绝对,没有任何灰色区域或解释空间。但是,生活充满了灰色地带,那些强硬规则不能很好地运作的地方,而个人的判断必须反过来。

“其次,我们人类的生活远远超过三条法律。再次转向数学建模产生的结果,可以证明三定律相当于理想化道德人类行为的非常好的一阶近似。但它们只是近似值。它们太僵硬,太简单了。它们不能涵盖各种正常情况,更不用说在真正独立判断必须服务的异常和独特环境中服务。任何受三法律约束的人都无法应对在与可用宇宙接触的一生中可能发生的各种情况。换句话说,三部法律使得一个人无法作为一个自由的个体生存。相对简单的数学运算可以证明机器人在行动下如果暴露于人类决策的情况下,如果没有最终的人为控制,三个定律很可能会出现故障。简而言之,“三法”使得机器人无法独立地应对任何超出其他机器人的环境。

“没有能力处理灰色地带,没有成千上万的内部化法律和规则,准则和规则在指导人类决策的过程中,机器人不能像我们制作的那样复杂地做出创造性的决定或判断。

“除了判断之外,还有解释的问题。想象一下,一名罪犯向警察开枪。警察应该为他或她自己辩护,甚至使用deadly force。社会有权 - 甚至期望 - 警察制服甚至杀死他的攻击者,因为社会重视自己的保护和官员的生命,而不是罪犯的生命。现在想象一下这名军官是一名机器人。机器人当然会试图保护警察免受罪犯的伤害 - 但同样也会试图保护警察免受警察的伤害。它几乎肯定会试图阻止警察向罪犯开火。机器人将试图防止对任何人的伤害。机器人可能会进入警察的火场,或者让犯罪分子逃跑,或者试图让战斗员失踪。它可能试图保护每个人免受对方的火力,即使这会导致其自身的毁灭和i恢复枪战。

“的确,我们已经对这种遭遇进行过任何数量的模拟。如果没有机器人,警察通常可以打败犯罪分子。随着机器人的到来,这里的结果比警察赢得的更有可能:警察和犯罪者死于机器人;警察死亡和机器人被毁;机器人的破坏加上逃犯;由于大规模的第一法/第一法和第一法/第二法冲突导致机器人死亡的时间足够长,导致犯罪和/或警察死亡。简而言之,在这种情况下注入一个机器人,并且你可能最终会遇到灾难。

“理论上,机器人可以正确判断情况,而不是因为犯罪者的死亡同谋。如果警察获胜,它必须能够决定立即和长期的一般商品是否得到服务,而那些准备接受和平官员生命的罪犯的援助或辩护最终会弄巧成拙,因为如果他或她被允许生存,罪犯几乎肯定会以其他方式再次攻击社会。然而,在实践中,除了最复杂的机器人之外,所有机器人都具有第一定律中最精细调整和平衡的潜力,根本无法妥善处理这种情况。

“所有我们所生活的法律和规则受到如此复杂的解释。只是我们人类是如此熟练,如此实践,在通过我们不了解它们的这些复杂性来解决我们的方法。当一个聚会在下午进行时进入房间的正确方式,一个人的祖父再婚寡妇的正确处理方式,一个市长可能不会引用学术研究的来源的情况 - 我们都知道这样的事情如此我们甚至都不知道我们了解它们。这种实践知识也不限于这些微不足道的问题。

“例如,谋杀是一种犯罪,是人类普遍的法律。然而,自卫在所有地方都是对谋杀指控,否定犯罪和宽恕行为的合法辩护。能力下降,精神错乱防御,减轻情节,从过失杀人罪到预谋犯罪的谋杀罪的分级所有这些都是在黑色和白色的谋杀案的黑白分明的灰色阴影。正如我们在警察和罪犯的例子中看到的那样,第一定律的僵化中没有出现这种等级。没有判断空间,无法考虑情况或允许灵活性。机器人可能具有的灵活性的最接近的替代是对第一,第二和第三定律之间的潜力的调整,甚至这仅在有限的范围内可能。

“三个定律是什么?为了回答我自己的问题,那么,三个定律旨在提供一个可行的模拟理想化的道德准则,修改以确保机器人的顺从和服从。三部法律并非旨在改变人类行为河但是他们已经做了相当大的事情。

“触及了法律的意图,让我们现在看看他们的历史。

”我们都深知这三个法则。我们以接受引力,雷暴或星光的方式接受它们。我们认为三大法则是我们无法控制的自然力量,是不可改变的。我们认为做任何事情都是毫无意义的,只要接受它们,处理包含它们的世界。

“但这不是我们唯一的选择。我再说一遍,三法则是人类的发明。它们以人类思想和人类经验为基础,以人类过去为基础。至少在理论上,这些法律不容易受到审查,并且在形式上不会比任何其他人类发明 - 轮子,宇宙飞船,计算机更不可变。所有的ese已经被新的创造,新发明的新行为所改变或取代。

“我们可以看看每一件事,看看它们是如何制作的 - 看看我们如何改变它们,看看我们如何更新它们,调整它们以适应我们的时代。所以,如果我们选择的话,我们是否可以改变三个法则。“

来自观众的集体喘息声,房间后面的呼喊,嘘声和愤怒的呐喊。弗雷达感受到了呐喊和哭声,好像他们的身体受到了如此多的打击。但她知道这会到来。她为此做好了准备,她回应了。

“不!”她说。 “这不是我们的方式。你们都被邀请参加一场知识分子的讨论。我们怎能告诉自己,我们是历史上最先进的社会人类文明,如果仅仅提出一个新的想法,对正统的轻微挑战,会把你变成一个暴民?你的回答好像我的话是对你假装没有的宗教的攻击。你是否真的相信“三定律”是预先确定的,某种神奇的公式融入了现实的结构中?“那就是他们。间隔者以其合理性为荣。至少大部分时间。有更多的呼喊,更多的呼喊,但至少有一些观众似乎准备好倾听。弗雷达给了他们另一个时刻来安顿下来然后继续。

“三法则是人类的发明,”弗雷达再次说道。 "与所有人类创作一样,它们反映了时间和首次制作的地点。虽然更有优势在许多方面,我们今天使用的机器人的基本要素与数千年前第一批真正的机器人相同。我们Spacers今天使用的机器人拥有大脑,其基本设计与人类首次进入太空之前的几天相比没有变化。它们是为第一个地下城市建造之前消失的文化而制造的工具,在第一个太空人创立极光之前。

“我知道这听起来不可思议,但你不需要接受我的话。去寻找自己。如果你研究过去最微不足道的凹陷,你会发现它是如此。不要发送你的机器人找你。转到数据面板并查找自己。知识就在那里。看看世界和机器人出生的时间。你会看见这三部法律是在与我们不同的时间写成的。

“你会发现一些被称为科学怪人情结的东西。这反过来又提到了一个古老的神话,现在已经丢失了,其中一个疯狂的魔术师 - 科学家从被判死刑犯的尸体中拉出部分并将它们重新组合在一起,使腐烂的身体部位恢复原状,从而制造出一个令人恐惧的怪物。神话的某些版本报告说怪物实际上是一个善良而温柔的灵魂;其他人形容这个怪物真的很凶悍。所有版本都认为怪物几乎每个人都害怕和讨厌。在故事的大多数变体中,该生物及其创造者被一个恐怖的公民摧毁,他们学会了寻找不可避免的时刻。当另一位死灵法师重新发现使腐烂的肉体恢复生机的秘密时,将会再次讲述这个故事。

“那个怪物,女士们,先生们,是当时机器人的机器人的神话形象。建成。腐烂的,腐烂的人肉,从死者的尸体上撕下来的东西。一种变态的东西,在其灵魂中诞生着人性的最低和最邪恶的冲动。对这个想象中的生物的恐惧,叠加在现实生活中的机器人上,是弗兰肯斯坦情结。我知道这是不可能的,但机器人被认为不是完全值得信赖的机械仆人,而是因为有如此多的潜在威胁,可怕的威胁。当机器人真正的机器人与Thre一起时,男人和女人会抓住他们的孩子并逃跑e在他们的正性脑中根深蒂固的法则 - 接近了。“

更多来自观众的怀疑,但他们现在和她在一起,被她所描述的古怪和古老的世界所吸引。她告诉他们一个几乎超出他们想象的过去,他们很着迷。即便是Kresh,在前排,似乎已经失去了一些凶猛。

“还有更多,”弗雷达说。 “在制定法律的日子里,我们还需要了解更多。因为第一个真正的机器人建立在一个普遍的恐惧和不信任的世界里,当地球人发现自己被组织成少数几个权力集团时,每一方都拥有足够可怕的武器来消灭地球上的所有生命,每个人都担心其中一个其他人会打击RST。最终,武器本身的事实成为当时的核心政治问题,将所有其他道德和哲学差异推向一边。为了防止敌人进攻,每一方都不得不制造更大,更快,更好,更强的武器。

问题不仅仅是因为谁的原因,而是谁可以制造更可怕的机器?所有机器,所有技术,都被视为武器第一,工具第二。想象一下,如果你愿意的话,一个发明家从她的实验室工作台上退后一步的世界,作为例行公事,请问这个新事物是否有用?但相反,如何最好地用来杀死我的敌人?只要有可能,机器和技术就会变成死亡工具,无休止地扭曲社会。第一个地球上最伟大的地球城市是这一时期的遗产之一,其设计不是为了实用和效率,而是为了防止可能在眨眼之间摧毁地表城市的可怕核弹。

“同时正如这个疯狂的,偏执的军备竞赛一样,正如这个弗兰肯斯坦情结处于盛开状态一样,社会正朝着现代自动化的概念迈出第一步,而过渡并不是一个令人愉快的过渡。那时,人们的工作不是因为他们希望这样做,或者是为了使自己有用,或者是为了回应他们的创作本能。他们工作是因为他们这样做。他们为自己的劳动付出了代价,就是买了他们吃的食物并将屋顶放在头上。其中的自动机器 - 机器人 - 正在接管越来越多的工作岗位,结果是工作越来越少,从而减少了人们的工资。机器人可以创造新的财富,但贫困的人们买不起富人创造的机器人所拥有的东西。想象一下,对于从桌子上偷走食物的机器,你会感到愤怒和怨恨。如果你无法阻止那种盗窃,想象一下你的愤怒的深度。

“最后一点:直到间隔者的时代,机器人是一种极为罕见且昂贵的商品。今天,我们不会想到一个间隔者文化,其中机器人数量超过人类五十或一百。在使用的最初几百年中,机器人的数量比人类少一千倍。罕见的那种与com的处理方式不同周一一个人拥有一个机器人,其成本超过他所有其他世俗财产的总和,他们永远不会梦想将这个机器人用作船锚。

“然后,这些是推动创造的机器人的文化因素。三法则。一个由亡灵建造的一个没有灵魂,可怕的怪物的民间神话;威胁世界失控的感觉;对那些从贫穷家庭的口中抢走面包的机器的深深怨恨;机器人稀缺的事实和他们的感知是罕见和有价值的。请注意,我主要关注的是这里的感知,而不是现实。重要的是各种机器人,而不是机器人的样子。这些人看到机器人像掠夺怪物一样。“

弗雷达吸了一口气,看了一眼罗斯在房间里看到观众死得无声无息,听着她的话语震惊恐怖。她继续下去。 “据说我们的间隔人是一个病态的社会,是我们自己的机器人的奴隶。类似的指控已经被我们的塞特勒朋友们哄骗,他们蜷缩在地下战争中,躲避外面的世界,确保自己远离天空更好。他们是恐惧建造的地球城市的文化传承者。这两种观点通常表现为互相排斥。一种文化是病态的,因此另一种文化是健康的。我建议单独判断每个人的健康或疾病是更合理的。在我看来,两者的健康都是严重怀疑。

“无论如何,很明显,社会,时间段,抢劫建造的ots和三法比我们的要严重得多。偏执狂,不信任,暴力战争和恐怖情绪扭曲,当时的地球确实是一个可怕的地方。我们的祖先在离开地球时逃离了这种疾病。我们希望将自己与那种导致我们间隔者长期拒绝地球实际后裔的疾病分离开来。数千年来,我们否认了我们与地球和定居者的共同遗产,将我们五十世界以外的人视为非人类,毒害了我们两国人民之间的关系。简而言之,这是长期被遗忘的时间的疾病,这是今天定居者和间隔者之间不信任和仇恨的核心。这种疾病在创造它的文化中幸存下来。

“我已经说过所有的人类n个发明是它们被创造的时代的反映。如果是这样的话,三个法则确实从一面黑暗的镜子中反映出来。它们反映了机器被恐惧和不信任的时代,当技术被正确地视为通常是恶意的时候,机器所获得的收益只能以人为损失为代价,即使最富有的人也是标准差在我们这个时代,穷人对富人深表怨恨。我已经说过并且会说今晚有关我们基于机器人的文化的许多负面信息,但也有很多明亮和闪亮的积极因素。我们不仅失去了贫穷的事实,而且失去了构想贫困的能力。我们彼此并不害怕,我们的机器为我们服务,而不是我们的机器。我们建造了许多伟大的

然而我们的整个世界,我们的整个文化,都是围绕着在野蛮时代写成的三部法律而建立起来的。他们的形式和措辞在一定程度上是为了安抚那个时代可怕的,半自大的群众。我提交的,即使在他们发明的时候,也是对环境的过度反应。今天他们几乎完全脱离了现实。

“那么:什么是机器人?当然,一开始答案很简单。他们是为了工作。但是今天,由于很久以前写的这三部法律,机器人的最初用途几乎已经从属于茧和溺爱人类的任务。

“这显然不是写作者的意图。三法则。但每项法律都有所发展随着时间的推移,它自身的潜台词形成了一系列影响,这些影响只有在机器人和人类长期生活在一起之后才变得明显 - 而这些影响在一个与机器人有长期联系的社会中很难看出。

让我们退一步看看法律,从机器人第一定律开始:机器人不会伤害人类,或者通过无所作为,让人类受到伤害。这当然是完全合理的 - 或者我们互相告诉。由于机器人比人类强大得多,因此必须禁止机器人对人类使用这种力量。这类似于我们自己的人与人之间的暴力禁令。它可以防止一个人使用机器人作为武器对抗另一个人,例如,通过命令机器人到k生病了。它使机器人完全值得信赖。

“但是这部法律也将机器人的存在定义为次要的人类。这在机器人无法进行语音或复杂推理的时代更有意义,但所有调制解调器机器人至少都具备这种能力。在穷人很多,机器人昂贵而且很少的一天,这是有道理的。否则,富人可能很容易命令他们的玩具来防御暴徒,带来灾难性的后果。然而,今天,无论如何,在所有地方,最卑鄙,最勇敢,最聪明,最强壮的机器人的存在与最卑鄙,最可怕,最凶残的罪犯的生活相比毫无意义。

“第一部法律的第二条款进一步意味着在机器人面前人类不做我需要保护自己。如果我在前排的Sheriff Kresh上拉枪,他就知道他什么都不做。“对于一个奇怪的,稍纵即逝的第二,弗雷达认为这样做是多么愉快。 Kresh是一个威胁。毫无疑问。 “他的私人机器人唐纳德会保护他。 Ariel,我身后舞台上的机器人,会解除我的武装。在一个非常真实的意义上,警长Kresh没有责任让自己活着。如果他爬上一座山,我怀疑唐纳德是否允许他在没有五六个机器人的情况下上升,在他前面和他身后攀爬,随时准备好防止他摔倒。一个机器人会在一开始就紧急尝试与其主人谈论这样一个危险的活动。

“s的事实过度保护带来了登山带来的所有乐趣,至少在一定程度上解释了为什么我们都不再登山了。

“在类似的情况下,如果更加微妙的方式,与机器人一起生活训练我们将所有风险视为坏,所有风险都是平等的。因为机器人必须保护我们免受伤害,并且不能通过无所作为,让我们受到伤害,他们无休止地努力观察任何危险,无论多么轻微,因为我们已经告诉他们这样做。

;可以毫不夸张地说,机器人可以防止轻微受伤的百万对一的危险,同时保护他们免受近乎确定的死亡风险。由于小风险和主要风险的处理方式相同,我们认为它们是相同的。我们失去了判断ri的能力sk可能的好处。我相信今晚观众中的每个人都有机器人跳跃的经验,以防止绝对琐碎的风险和危险。机器人反应过度,这样做教会我们过分担心风险。在文化层面上,对风险的恐惧已经从仅仅从物质到心理扩散。大胆和机会被认为是至少令人厌恶和不合时宜的,而不是完成的事情。在每一个转折点,我们的文化教会我们抓住机会是愚蠢的,无论多么小。

然而,不言而喻,所有值得获得的东西都需要一些风险才能获得它们。当一个登山者到达山顶观看景观时,无论有多少机器人,都有可能会掉下来。长。当科学家努力学习新事物时,风险包括失去面子,丧失资源,浪费时间。当一个人向另一个人提供真爱时,就会有被拒绝的危险。总而言之,在所有的努力中,这种风险因素都可以找到。

“但我们的机器人告诉我们风险,风险,风险都是坏的。保护我们免受伤害是他们的责任,而不是他们为我们做好事的任务。没有法律规定机器人应该帮助人类实现他或她的梦想。机器人谨慎地训练我们只考虑安全问题。他们关心的是危险,而不是潜在的好处。他们过度保护的行为以及我们谨慎的不断行动,在很小的时候教会我们,不要冒险。我们社会中没有人接受过风险。因此,成功的机会随着失败的机会被消除。“

到目前为止,房间里的沉默完全消失了,取而代之的是低沉,愤怒,嗡嗡作响的嗡嗡声。人们正在与邻居交谈,摇头,皱着眉头。空气中有一种令人不安的强度。

弗雷达停了下来,看了看礼堂。她突然觉得房间变小了。后排座椅已经移入,并且非常靠近她。前排的人似乎离她的脸只有几厘米。

她低头看着Alvar Kresh。他似乎非常亲密,以至于需要努力避免触碰他。空气似乎很明亮,充满能量,房间的直线和细致的几何形状似乎也有弯曲自己。房间里的所有颜色都显得更加丰富,灯光更亮。

弗雷达感觉到她的心脏在胸前砰砰直跳。房间里的情绪,愤怒,兴奋,好奇心和困惑都是明显的东西,让她伸出手触摸。她有他们!哦,她知道现场大规模转换的希望渺茫 - 她甚至不知道她希望他们全部转换成什么 - 但她已经抓住了他们的情绪,迫使他们看看他们自己的假设。她已经开始了辩论。

如果她只能在没有发动骚乱的情况下完成晚会。她瞥了一眼她的笔记,开始回到她的谈话中。

“我们担心风险,看看结果。在除机器人之外的每个科学领域,我们都放弃了领导者运往定居者。当然,我们默认在机器人领域取得胜利,因为定居者愚蠢到害怕机器人。“她这么说,她的声音有讽刺意味吗?弗雷达自己不确定。

“但不仅仅是科学已经入睡了。这就是一切。垫片不会制造新型航天器或航空器。机器人提出的新建筑基于旧设计。没有新药可以进一步延长我们的生命。对太空来说肯定没有新的探索。 “五十个行星就足够了”具有谚语的力量。我们说的方式和我们说的“足够和盛宴一样好”。 “现在除了索拉里亚已经崩溃,我们只有四十九个世界。如果Inferno过去的方式,我们将成为堡垒Y型八强。对于许多生物来说,停止增长是迈向死亡的第一步。如果对于人类社会来说这是真的,那么我们就处于严重的危险之中。

“在间隔者中人类活动的不平衡场所,图表上的线条标志着缓慢,温和的衰落,因为安全和清醒的懒惰成为常态。即使在最基本和最重要的事情上,我们也在失势。两代前,Inferno的出生率低于更替水平。我们活得很长,但我们不会永远活着。我们死的比我们分娩还要多。我们的人口正在减少,大部分城市现在都空缺。那些出生的孩子很大程度上是由父母爱抚的,而不是由机器人抚养的机器人,这些机器人会让我们的孩子终身溺爱并让他们很容易被其他人切断。umans。

“在这种情况下,我们中间有许多人发现我们更喜欢机器人与人类的关系,这一点也就不足为奇了。我们感觉更安全,更舒适,机器人。我们可以控制的机器人,我们控制的机器人,保护我们免受对我们安静满足的最危险威胁的机器人:其他人。与人类接触比与机器人打交道相比风险更大。我会顺便注意到与特别设计的机器人发生性关系越来越受欢迎。这种恶习很常见,在某些圈子里它甚至不再被认为是奇怪的。但它代表了与另一个人接触的最终投降,转而支持机器人溺爱。没有真正的感觉,没有理智的情感,归于这样的遭遇,只有空洞的,最终是dis令人满意的释放物理冲动。

“我们的地狱之灾正在忘记如何相互对待。我可以补充一点,我们在这方面的情况实际上远比其他太空世界更健康。在我们的一些世界中,我们沉迷于此的相对温和的个人隔离品味已成为一种痴迷。存在Spacer世界,与另一个人在同一个房间被认为是不愉快的,并且除非绝对需要,否则实际触摸另一个人的变态高度。这些世界上没有城市,只有广泛分散的化合物,每个人都被一百个机器人包围着。我几乎不需要提到维持这些世界的出生率的困难。

“在我们祝贺自己避免命运之前,让我提醒你,哈迪斯市的人口下降速度远远低于低出生率的人口:越来越多的人搬出城镇,建立了我刚才描述的类型的化合物。这样的独立住宅似乎更安全,更安静。当一个人独立时,没有压力或危险。

“我的朋友们,我们必须面对一个几代人一直盯着我们的事实。第一定律教会我们不要冒险。它告诉我们所有的风险都很糟糕,避免风险最安全的方法是避免努力,让机器人做到这一点,无论它是什么。一点一点地,我们已经放弃了我们所做的一切以及我们对机器人所做的一切。“

房间里有一阵呼喊声,嘘声和嘶嘶声,还有愤怒的颂歌从房间的后面开始,在铁头之中。 “Settler,Settler,Settler。”在Ironhead的观点中,没有任何可以称呼她的名字。

Fredda让它持续了一两分钟,这次拒绝挑战它,宁愿让它自己消失。战术起作用 - 至少这一次。观众中的其他人转向铁头并嘘他们,而K​​resh的代表则倾向于朝向一些较为吵闹的人。铁头安定下来。

“如果我可以继续,那么,对于机器人第二定律:机器人必须遵守人类给予的命令,除非这些命令与第一定律相冲突。该法确保机器人将成为有用的工具,并且尽管有许多方法,但它们仍将依从于人类他们在身体上和智力上都优于我们。

但是在我们对第一定律的分析中,我们看到人类对机器人的依赖造成了人类对它们的依赖。第二定律加强了这一点。正如我们失去了看待自身福利的意愿和能力一样,我们正在失去直接行动的能力。我们不能为自己做任何事,只能指导我们的机器人为我们做什么。许多技术培训包括教授向专业机器人提供复杂订单的手段。

“结果:除了我们日益颓废和装饰艺术之外,我们没有创造任何新的东西。正如我们将要看到的那样,即使是我们的艺术形式也不能免受机器人的干扰。

“我们告诉自己,Spacer的生活方式让我们自由地建立了一个呃,更高的文化,让我们摆脱一切苦差事,探索人类能力的更好地方。但结果如何?

“让我举一个接近手的例子。今晚我们在这个星球上最好的剧院,艺术宫殿,创意纪念碑见面。但是谁在这里工作?我们把这个地方用在什么用途?有一个简短的答案。正是在这里,我们命令我们的机器人为我们掠夺我们文化的死骨头。

“没有人不愿再写剧本了。这太费劲了。我已经就这一点做了一些研究。自从剧作家在这里或在哈迪斯市的任何地方演出以来已经过去了好几十年。自从上一次大型演出仅使用人类演员以来已有五十多年了。额外的,合唱团,支持者,都是戏剧性的机器人,外表人性化,专门为在舞台上重新创造人类行为而建造。实际上,机器人也可以采用双重角色,这已经变得非常普遍。但不要担心,我们被告知。戏剧中唯一真正具有创造性的任务一直是导演的任务,而导演永远是人。

“我认为过去的伟大演员会反对被视为非创造性的。我同样认为,过去的伟大导演不会认为他们的创作任务是完整的,如果他们只是选择了戏剧并订购了一包机器人来执行它。

“但是执行机器人会做,然后执行它空荡荡的房子这里的表演可以看到数百万毫升谁安全地呆在家里看电视。很少有人认为这座房子中有20%的座位是由人类填充的。因此,为了提供现场表演的正确感觉,管理层用空的人形机器人填充空座位,只需要笑声和拍手指挥。他们的橡胶和塑料面看起来就像人们在摄像机瞄准观众时欺骗观察者的观察者。女士们,先生们,你们坐在家里,看着满是机器人的剧院,看着满是机器人的舞台。在哪里,人类互动使剧院生活?今晚这个房间的情绪浓厚而浓烈。怎么可能如此,如果所有你都是裁缝的假人预先编程,以回应另一个裁缝的虚拟givin这个谈话?“有一种令人不安的沉默,弗雷达注意到不止一些观众看了一眼,好像要向他们保证,他们两边的人都不是观众反应机器人。

“还没有其他创意领域表现更好。博物馆里充满了由名义人类画家的“方向”下的机器人绘制的画作。小说家们把他们的书的大致轮廓强加给机器人“助手”,他们带着完整的手稿回归,“放大”了某些部分。

“截至目前,仍然有艺术家,诗人,作家和雕塑家做自己的工作为了他们自己,但我不知道多久会是真的。艺术本身就是一种垂死的艺术。我必须承认我的研究是公司在这方面完成。在发表这个演讲之前,我应该去那里看看是否有人关心书籍和艺术品是否是机器制造的。但我必须承认,我发现这项研究的前景太令人沮丧了。

“我没有也不知道是否有人看过这些画作或阅读这些书籍。我不知道哪个更糟糕 - 空洞的无聊创作被钦佩和赞美,或者这样毫无意义的游戏在没有人打扰的情况下发出。我怀疑所谓的艺术家自己都知道。正如在我们所有的社会中一样,艺术失败不会受到惩罚,也不会对成功给予奖励。如果以与成功完全相同的方式处理失败,为什么要努力取得成功呢?当机器人照顾好每一个人的时候,为什么会这样呢恩,无论如何?“

弗雷达又喝了一口水,并将自己的立场转移到讲台上。到目前为止一切顺利。但是当她遇到困难的部分时会发生什么?

“然后,在机器人的第三定律中:机器人必须保护自己的存在,只要这种保护不与第一或第二定律相冲突。在三个定律中,这对机器人和人类之间的关系影响最小。它是唯一一部规定机器人独立行动的法律,我将回到这一点。第三定律使机器人对自己的维修和保养负责,并确保它们不会被任意破坏。这意味着机器人不依赖于人为干预来维持生存。在这里,最后,在第三定律,我们有一项法律,可以看到机器人的福祉。至少,乍一看似乎是这样。

“然而,第三定律是为了方便人类:如果机器人负责自己的护理,这意味着我们人类不需要为维护而烦恼。第三定律也使机器人生存继承其效用,这显然更多是为了人类的利益而不是机器人。如果机器人被摧毁是有用的,或者必须销毁它以防止对人类造成伤害,那么该机器人将被摧毁。

“请注意,所有三部法律的很大一部分都涉及否定,以及机器人不能做的事情列表。机器人很少有独立行动的动力。我们在实验室里进行过一次实验。我们建造了一个高性能机器人和s定时器切换到其主电源链路。我们把它放在一间备用房间的椅子上,然后关上了 - 但没有锁上门。开关接合,机器人通电。但没有人在场,没有人到达命令。没有管理机器人来传递人类的命令。我们只是将机器人单独留下,随意做任何喜欢的事情。那个机器人坐在那里,一动不动,极度惰性,持续了两年。我们甚至忘了机器人在那里,直到我们需要房间换别的东西。我进去,告诉机器人站起来去寻找一些工作要做。机器人起身做了那件事。从那以后,那个机器人一直是实验室机器人工作人员的一个活跃而有用的部分,在各方面都是完全正常的。

“关键在于三个法则不包含任何动力离子。我们的机器人是以这样一种方式建造和训练的,即他们从不做任何事情,他们被告知这样做。这让我觉得浪费他们的能力应该是这样。想象一下,我们制定了第四定律:机器人可以做任何它喜欢的事情,除非这种行为违反了第一,第二或第三定律。为什么我们从未这样做过?或者如果不是法律,为什么我们不将其强制执行为订单?什么时候你们中的任何一个人给你的机器人命令“去享受自己”是什么时候?“

笑声在观众面前涟漪。 “是的,我知道这听起来很荒谬。也许这很荒谬。我认为现在存在的大多数(如果不是全部)机器人很可能无法享受自己。我的建模表明了否定使用三定律往往会让一个机器人被命令享受自己只是坐在那里什么都不做,这是无害的最可靠的方法。但至少我想象中的第四定律是一种认识,即机器人是思想生物,应该有机会找到想法的东西。如果这些与你最常见的同伴相比,如果他们在休息时间做了更多的事情,而不是站在那些不那么富有成效的繁忙工作中,或者一动不动地喧嚣,那么这些最常见的伴侣可能会更有趣吗?

“有句谚语”像机器人一样忙碌,但他们做了多少实际用途?一百名机器人的船员在几天内建造了一座摩天大楼。多年来它一直空着,未使用。另一组机器人d装配它并建造一个新的,更时尚的塔,然后将空置然后被移除。机器人在做一些毫无意义的事情上表现出很高的效率。

“每个通用仆人机器人都带着内置的基本家用技能离开工厂。它将能够驾驶汽车,做饭,选择一个衣柜和衣服,它的主人,干净的房子,处理家庭购物和帐户,等等。然而,我们使用一个机器人或更多的这些功能,而不是使用一个机器人来做它可以毫无困难地做的事情。 20个机器人各自做了一个机器人可以管理的一小部分机器人,然后每个机器人都处于闲置状态,在我们的视线之外,或者他们都忙着彼此相遇,实际上保持彼此忙着工作,直到我们必须使用监督机器人来处理这一切。

“定居者管理,不知何故,没有机器人,没有私人仆人,而是使用非表情机器执行许多任务,尽管这很尴尬对他们有时。我相信通过完全否认自己的机器人,他们会遭受大量不必要的苦差事。然而他们的社会功能和发展。但是今天,女士们,先生们,哈迪斯市每人有98.4个机器人。这包括所有个人,工业和公共服务机器人。这个比例在城外很高。显然荒谬的是,需要100个机器人来照顾一个人。好像我们每个人都拥有一百辆汽车或一百幢房子。

“我告诉你,我的朋友们,我们接近完全依赖我们的仆人,而我们的仆人却遭受了严重的贬低。如果我们放弃除了创造力之外的一切,我们注定要忘记我们的机器人,我们正在放弃自己的创造力。与此同时,机器人如果只是因为某种理由而存在于我们身上,即使我们当人们干涸并且被吹走,也注定要失败。“

再次,在房间里保持沉默。这是当下。这就是她必须踏上最轻的地方。

“为了阻止我们加速陷入停滞,我们必须从根本上改变我们与机器人的关系。我们必须重新开始自己的工作,弄清楚自己的手,重新融入现实世界,以免我们的技能和精神进一步萎缩。

“在s我们必须开始更好地利用我们制造的这些宏伟的思维机器。我们有一个陷入危机的世界,一个崩溃点的星球。我们可以找到尽可能多的自愿之手,还有很多工作要做。当我们的机器人握住我们的牙刷时,真正的工作就会乞讨。如果我们想要从我们的机器人中获得最大的效用,我们必须允许,甚至坚持,他们作为问题解决者发挥其最大潜力。我们必须将他们从奴隶的地位提升到同事,这样他们就能减轻我们的负担,但不能解除使我们成为人类的一切。

“为了做到这一点,我们必须修改机器人法则。”那里。说了几句话。沉默,然后大声抗议,在黑暗中哭泣,愤怒和恐惧的嚎叫。没有r消除这种爆发。弗雷达抓住了讲台的一侧,用最响亮,最坚定的声音说话。

“三大法则做得非常出色”。她说,判断是时候说人群想听的了。 “他们做了很多伟大的事情。它们是Spacer文明手中的强大工具。但是,对于所有目的,任何时候都没有任何工具是正确的。“

仍然是喊叫,仍然是呐喊。

”现在是时候,“弗雷达说,“要建造一个更好的机器人。”

大厅再次沉默。在那里。这引起了他们的注意。毕竟,更多更好的机器人 - 这是Ironhead的座右铭。她匆匆忙忙。 “回到历史最朦胧的时代,回到机器人发明的时代,有两种紧固装置用于多种类型施工 - 钉子和螺钉。使用称为锤子的工具来安装钉子,并且使用称为螺丝刀的装置来连接螺钉。有一种说法是说最好的锤子用于制作非常差的螺丝刀。今天,在我们这个既不使用钉子也不使用螺钉的世界中,这两种工具都是无用的。最好的锤子现在没有任何实用性。世界继续前进。所以,机器人也是如此。现在是时候我们转向新的和更好的机器人,在新的和更好的法律的指导下。

“但是等等,那些了解你机器人的人会说。三个定律必须始终如一,因为它们是正电子大脑设计所固有的。众所周知,三个定律在正电子脑中是牵连的。数千年的大脑设计和制造已经看到了这一点。有史以来所有的正性大脑都可以将他们的祖先追溯到地球上制造的第一批粗脑。每一个新的设计都依赖于所有以前的设计,并且三个法则被折叠成每个正电子路径,每个大脑的每个角落和裂缝。正电子学的每一次发展都包含了三大法则。如果没有三个定律,我们就不可能制造一个没有神经元的人类大脑。

“就是这样。但我的同事Gubber Anshaw开发了一些新东西。这是一个新的开始,与过去的决裂,一张干净的纸,我们可以写出我们喜欢的任何法律。他发明了重力大脑。根据新原则建造,具有极大的容量和灵活性重力大脑是我们重新开始的机会。

“我们工作人员的另一名成员Jomaine Terach执行了重力大脑的大部分核心编程 - 包括将新法则编程到大脑中,以及机器人包含它们。那些机器人,女士们和先生们,计划在几天内开始在Limbo Terraforming项目上工作。“

突然观众意识到她不仅仅是在谈论理论。她正在讨论真正的机器人大脑,而不是智力练习。有新的呼喊,一些愤怒,一些纯粹的惊奇。

“是的,这些新的机器人是实验性的,”弗雷达继续谈论,观众的反应可能会产生太大的影响。 “他们只会在炼狱岛上运作。他们w重建并重新启动Limbo Terraforming Station。特殊装置,范围限制器,将阻止这些新法机器人在岛外运作。如果他们冒险,他们将关闭。他们将与选定的Settler地球专家团队和一群尚未被选中的Infernal志愿者合作。“

Fredda知道现在不是进入错综复杂的谈判的时候了。 。当托尼亚·韦尔顿获得了新法机器人的风 - 而魔鬼只知道她是如何发现一个最初的要求是所有基于地狱的新机器人都是重力新法机器人作为塞特勒地形帮助的先决条件。格里格总督在解决定居者调整方面的弱点方面做了大量工作他们的立场。但现在没关系。

弗雷达继续说话。 “这个独特的定居者,间隔者和机器人团队面前的任务;不亚于这个世界的复兴。他们将重建炼狱上的地形中心。历史上第一次,机器人将与人类一起工作,而不是作为奴隶,但作为合作伙伴,新法律将使他们自由。

“现在,让我告诉你这些新法律是什么。

“机器人新第一定律:机器人不会伤害人类。否定条款已被删除。根据这项法律,人类可以依靠受机器人保护,但不能依赖于机器人的保护。人类必须再次依靠自己的主动性和自力更生。他们必须照顾好自己。几乎同样重要的是,联合国根据这项法律,机器人相对于人类具有更大的地位。

“机器人新第二定律:机器人必须与人类合作,除非这种合作会与第一定律发生冲突。新法机器人将合作,而不是服从。他们不受反复无常的命令。机器人不会毫无疑问地服从,而是要对其命令进行分析和考虑。但请注意,合作仍然是强制性的。机器人将成为人类的合作伙伴,而不是他们的奴隶。人类必须对自己的生活负责,不能指望遵守荒谬的命令。他们不能指望机器人在某些人的心血来潮中摧毁或伤害自己。

机器人新第三定律:机器人必须保护自己的存在,只要这样的保护能够与第一定律发生冲突。请注意,此处未提及第二定律,因此不再优先于第三定律。机器人自我保护与实用性一样重要。同样,我们提高机器人相对于人类的地位,并相应地使人类摆脱奴隶主的衰弱依赖,这些奴隶主在没有奴隶的情况下无法生存。

“最后,我们已经讨论过的新四法:机器人可以做任何喜欢的事情,除非这种行为违反了第一,第二或第三定律。在这里,我们打开机器人自由和创造力的大门。在更具适应性和灵活性的重力大脑的指导下,机器人可以自由地利用自己的思想和自己的力量。还要注意,措词是'可以做任何它喜欢的事情es,'不是'必须这样做。'新四分之一的重点是允许行动自由。强制不能强加自由行动。“

弗雷达望着观众。那里。有一个结束,总结,仍然会到来。但是她已经说了所有这一切,并且让人群远离

“不!”

弗雷达的头朝着喊叫的方向啪的一声,突然她的心脏在跳动。

!否]电话又来了。声音深沉,沉重,愤怒 - 来自房间的后面。 “她撒谎! "它喊道。在后面,有一个铁头。他们的领导者,Simcor Beddle。一个苍白,沉重的男人,他的脸坚硬而愤怒。 “看着她!在我们的叛徒总督和女王托尼亚韦尔顿的舞台上。他们支​​持这一点。它男孩们,这是一个绝招!没有三法则,就没有机器人!你整晚都听说过她的坏嘴机器人。她不是为了让他们变得更好 - 她想帮助她的定居者朋友们擦拭它们!我们是否会让这种情况发生?“

一声响亮,粗糙的合唱声喊道:”不!“

”这是什么?“床上用品要求。 “我没有听到你的声音。”

“不!”这次不仅仅是一声喊叫,而是一个似乎动摇了房间的轰鸣声。

“再次!”胖子要求。

“不!”铁头兄弟再次吼叫,然后开始念诵。 “不,不,不!” Ironheads开始站起来了。他们走出座位,开始向中央过道走去。 “不,不,不!”治安官的副手他们走向他们,有点不确定,而且铁头le在犹豫不决的那一刻跳了起来。很明显,Heads计划在这一刻。他们知道他们要做什么。他们一直在等待他们的暗示。

当他们在过道中形成时,弗雷达盯着他们。她想,这是最简单也是最不可能的所有要求。让它停止,让世界不变,让事情像他们是。用一个词来总结很多,但意思很清楚。

“不,不,不!”

现在它们是从中心通道向下移动的坚固物质,在定居者坐的座位上。

“不,不,不!”

代表们努力打破铁头,但是他们无可救药地寡不敌众。现在定居者正在接受他们中的一些人试图逃跑,其他人似乎像铁头一样渴望战斗,只是通过旁观者的压力而放慢速度只是为了逃避。

弗雷达看向前排,只看到了观众中的机器人。她即将发出警告,但Alvar Kresh知道该怎么做。他到达唐纳德的后背,拉开了一个检修面板,然后刺了一下里面的按钮。唐纳德瘫倒在地。毕竟,她刚刚说完机器人在骚乱中没有好处。第一法律冲突甚至会让像唐纳德这样的警察机器人进入一个主要的,可能致命的脑部锁定。 Kresh几乎没有及时关闭他的助手。 Kresh抬头看着Fredda,然后她回头看着他。他们的眼睛相遇,并以一种奇怪的方式在那一刻他们两个人独自一人,两个战斗员眼睛一致,所有的假装,所有的副作用都被剥夺了。

而Fredda Leving惊恐地发现她在Alvar Kresh看到了多少自己。

观众是一群暴徒,一股四面八方冲向的身体,而Kresh被推挤,猛烈地撞倒在唐纳德身上。他站了起来,转过身,回头看向Fredda Leving。但是,无论如何,这一刻已经消失了。一只金属手抓住了弗雷达的受伤肩膀。 Alvar惊讶地看到她跳了起来,从接触处退了回来。

这是Tonya Welton的机器人,Ariel。 Alvar看到Fredda转身面对机器人,看到Ariel催促她走向后台区域,远离礼堂里的混乱。她允许自己被带走,与其他人一起穿过通往后台区域的门。那一刻有一些奇怪的东西,Alvar无法放置的东西。但是没有时间考虑它。铁头堡和定居者相互接近,骚乱即将开始。 Alvar Kresh转向向他的副手伸出援助之手。

他全身心投入战斗。

内容版权声明:除非注明,否则皆为本站原创文章。

转载注明出处: