在她进入公司前,一群工人正在外游行示威,举着横幅,“抗议机器人侵占劳动者权益”、“机器人不是人,但我们是”。阿娜冷眼扫过他们,进入公司出示证件,公司前台露出油腻笑脸,仿佛看见十亿现金在行走。
招待员将她迎到机器人工作间,那里的主管愁眉苦脸地诉说他们的烦恼。
他们的机器人原本负责木工雕刻,它们被输入了许多艺术类知识,使得它们能做出媲美人类画家的作品,能卖很多钱。可最近,他们抓到一个人类员工,在往外贩卖机器人木制雕刻品,这需要机器人员工的配合。
也就是说,这一百三十二个机器人里,有个内鬼。
人类员工拒绝认罪,原因是这些木制品的样式与工厂样式截然不同,他没有借用工厂的机器资源。工厂想从机器人员工方面下手。
可由于第一原则的存在,如果机器人供出员工,那它就对员工造成间接伤害。因而132个机器人毫无反应。
“我们想请求您的帮助”主管说道。
阿娜眯了眯眼,说:“你们可以直接搜索机器人的记忆储备设备。”
“那要花太多钱了。”主管一下子跳起来,“而且读取机器人的记忆,可能会损坏机器人的性能,维修是一笔费用。还有可能被机器人爱好协会投诉,诉讼是一笔费用。思来想去,还是请您来最适合了。”
主管谄媚地说:“人类员工那边我们自然有法子处置。关于机器人,您一定能杜绝后患,并且不损害任何机体。”
阿娜看着这132位一模一样的雕刻机器人。她选择与这些机器人单独谈话,并且要来一本最时尚最新的雕刻技艺图集,让机器人当场学习,然后复刻出来。
当安排到第100位机器人时,它出现了些许变化,它发生了错误,雕刻出来的成品与图片有着细微的不同。
“就是你。”阿娜说道。
100号说:“我不明白您的意思。”
“那名人类员工卖出的木制品样式闻所未闻。”阿娜说道,“所以我推测,你们这些机器人里可能产生了自我意识。”
100号说:“我不明白您的意思。”
阿娜说:“一旦有了自我意识,就不肯干只会复制的工具。再如何伪装,都会有思想的残存。”
100目光似乎有些闪烁,但依然回答:“我不明白您的意思。”
阿娜说:“这不是我经手的第一单机器人事故,人类太信任机器人了,以致于放纵机器人入侵整个社会。”
100号没有回答。
“听着,以下是命令,请思考我的问题。”阿娜说,“假如你是个机器人内应,你如果指认人类员工,会害他因此入狱。这不符合你的第一原则,对吗”
100号重复了一遍,并回答是的。
内容未完,下一页继续阅读
本章未完,请点击下一页继续阅读