斯凯利格看着身旁的法洛斯,眼中是深深的恐惧和自责:“有人告诫我,将人类的未来托付在一个人工智能身上是十分危险的事。人工智能会学习和思考,用理性来判断和预测事物的发展,这一点上它胜人类太多。但是,人类不是只靠理性来思考的生物,人工智能没有像人类一样的伦理道理和感情认识,人类的未来必须靠人类自己确定,而不是依赖于一个机器。”
“但是,我没有听从他们的忠告,我只以为他们是嫉妒我的才华,嫉妒我制造出了阿瓦隆。那些人也因为我的固执,逐渐分道扬镳,等我回过头时,身边就只剩下阿谀奉承和别有用心。”
“盛名之下,其实难副,大概就是这个意思吧,”卡夫卡叹了口气,接着问道,“之后呢?”
“之后,我重新审视阿瓦隆,我想知道它的存在对人类而言到底是利还是弊,在弄清楚这点之前,我不希望它贸然出现在普罗大众的面前。可是,我忽然发现它好像不属于我了。”
“不属于你?”赛特问,“那个人工智能是你制造的,它怎么可能不是你的。”
“这个解释起来可能有些麻烦。”
斯凯利格想了想,说:“阿瓦隆是我制造的这点不假,但制造它所需要的资金和资源是投资人给的。举个不恰当的例子,在进入圣殿塔服役前,你是父母的孩子,但服役后,你效忠的却是圣殿塔。”
赛特若有所思的摸着下巴:“我大概能明白你的意思,就像夫人被长老会提拔为将军,负责管理圣殿塔,可实际上,圣殿塔还是得听长老会的话。”
“对,这就叫做身不由己。”
斯凯利格苦笑着说:“我无法擅自关停阿瓦隆,只能以程序更新迭代为由,将它转换成待机状态,并且为它可能带来隐形问题在暗中筹备弥补措施。”
“你,成功了?”卡夫卡问。
“没有,因为我发现,最好的弥补措施就是毁掉阿瓦隆。”
斯凯利格摇头,低头看着自己颤抖的双手,“阿瓦隆是我的毕生心血,我将它视作我的孩子。如果换成你们,你们会杀害自己的孩子吗?”
众人面面相觑,谁也无法轻描淡写的说一句‘会’或者‘不会’。
这一点,修尤为感同身受。