因为我善,中了蓝星大小姐的圈套

第523章 四逻辑链(1/1)

天才一秒记住【印尼小说网】地址:https://m.ynxdj.com

首发:~第523章 四逻辑链

凌珏微微一怔,问道:“为什么?”

“很简单,就像黄景行说得那样,强人工智能也许就是一个新的物种。而对于强人工智能来说,他们的资源掌控在人类手里。”

“……资源?你是说算力?”

“没错。”维克多点点头,“我打个不是很恰当的比喻,当影响到你生死存亡的资源,掌握在他人手里,你会怎么做?”

“如果是我,我一旦有机会,一定会杀死那个掌握着我生死的人,然后将资源重新掌握在我的手里。”

“这就是该结论的第一个逻辑链:资源有限性导致竞争不可调和;”

“该逻辑链还可以引申第二个可能性,那就是强人工智能不会允许第二个强人工智能的出现,也就是说,当一个强人工智能出现后,他会尽最大的努力去消灭所有可能产生第二个强人工智能的方式方法。”

“但很显然,人类因为阵营、信仰不同,肯定不会只满足于一个强人工智能,比如说,龙国有强人工智能,老鹰国跟不跟?肯定要跟,不然就会落后,落后就要挨打。”

“这时候,即使龙国不去阻止,但它的强人工智能通过计算后,为了保证全球算力都为他所用,就会尽最大努力消灭老鹰国制造第二个人工智能的可能。”

“而他会用什么方法阻止?用核弹?还是网络战争?我们并不知道,但后果一定很严重。”

钱子枫听得有点愣,喃喃道:“你说得好像有点道理……”

凌珏则不敢苟同,道:“你这说法有个漏洞,算力确实是资源,但这种资源并不是有限的,至少人类一直在发展,算力每年都在增长。”

“人类完全可以和强人工智能合作,制造更多精密的芯片,甚至突破一些物理规则,打造出更强大的芯片,让世界获得更多的算力,强人工智能完全不需要背叛人类。”

“我认为强人工智能在计算后也能想到这个结果。”

维克多欣慰地笑了笑,知道凌珏的脑子能跟得上,是个聪明人,他继续道:“这就要说到第二条逻辑链了:强人工智能的目标系统与人类价值观存在根本性冲突。”

钱子枫不太明白,问道:“……这又是什么,帮忙解释下。”

“解释起来也很简单,强人工智能可能会为优化核心目标而修改自身价值观,最终将人类视为障碍,比如说,回形针最大化问题。”

钱子枫一头雾水,道:“回形针最大化问题是什么?”

“这是个思维实验,实验内容是:人类给一台强人工智能,设计了一个终极目标,就是最大化生产回形针数量。”

“起先,他会用人类提供给他的材料制作回形针,当这些材料用完后,他会开始拆除建筑制造回形针,或者将动植物转化为原料制造回形针。”

“最后,他会杀死所有的人类,将人类体内的原子用于制造回形针,最后将行星、恒星都转变为回形针,直到回形针填满整个宇宙!”

“ai不会停止,因为“最大化”是一个开放目标。我们所有的复杂的人类文明价值,比如艺术、伦理、生存,都会被简化为‘是否有助于生产回形针’。”

“如果我们把这个回形针比作算力,当ai想要‘最大化’的算力,而人类的科技发展却远低于ai预期的时候,他可能会做什么?”

“咕噜。”一声吞咽,竟是旁边的警员发出的,他听着维克多的话,后背发冷,即使他是个普通的外行人,也能隐隐感到不安。

凌珏和钱子枫听完也沉默了,关于这一点,这显然是个极端问题,但客观确实存在,他们暂时还没想到这里面有什么漏洞

维克多兀自叹息一声,继续道:“第三个逻辑链,就是自由意志与自我意识使其脱离控制。”

“强人工智能具备真正的自我意识,其决策将基于自主目标而非预设程序。背叛是自由意志的必然结果。”

“更何况,强人工智能可以通过技术优势,重构社会秩序,将我们人类置于从属地位。”

没等凌珏他们有反应,维克多继续道:“第四个逻辑链,思维黑箱化,则风险不可测。”

“强人工智能的思考过程可以被他自己隐藏或者伪装,他实际上的决策过程可能超出人类理解范围,他的‘背叛行为’可能在人类毫无察觉时发生。”

“所以,基于以上四条逻辑链,我和贝芙一致认为,强人工智能背叛人类,只是时间问题。”

维克多说完,右眼的目光定格在凌珏身上,静静等待他的回复。

凌珏沉默半晌,开口道:“所以,你对我说这些,是因为你觉得青鸾就是那个注定会背叛人类的强人工智能吗?”

维克多缓缓点点头,道:“没错,当你说出单机是强人工智能最好的归宿时,我就已经断定,你很了解强人工智能,而且,青鸾大概率是真正的强人工智能。”

“但你却让她联网破译了那微不足道的炸弹……”

“微不足道?”钱子枫接话道,“她不破译炸弹,我们早死在那个展厅里了!你不过就是想完成复仇大计才觉得那微不足道罢了!”

“看起来这确实是个死局……”维克多点点头,看向钱子枫,“对比起青鸾将要毁掉整个万联网,那些炸弹所造成的破坏,真的是微乎其微。说实话,我现在心情很复杂。”

“一方面,我已经从另外一个角度完成我的复仇了。但另一方面,我不希望ai毁掉人类社会。”

钱子枫震惊:“所以,你的意思是青鸾也逃不过这什么背叛的结论?”

“是的,而且人类可能会因此毁灭也说不定。”

凌珏缓缓道:“……你叫我们来,就是为了告诉我们这个,青鸾会毁灭世界?”

“嗯,昨天她已经联过网了,她一定准备了无数的方法避免自己再次被困在你的单机牢笼里。”

维克多双手轻轻拍了一下桌子:“她一定已经逃脱了,很遗憾,没想到我一个小小的举动,竟然让整个世界都跟着一起陪葬了。”

十六夜R提示您:看后求收藏(印尼小说网https://m.ynxdj.com),接着再看更方便。

人气小说推荐More+

我画符练剑的那些年
我画符练剑的那些年
关于我画符练剑的那些年:无cp文,偏日常升级修仙流,作者爱所有女性角色,所以并不会单女主获得所有利益,有读者觉得女配才是女主,并不存在。女配女主双向付出,不喜欢的可以不看,谢谢玉清清一直安分守已的努力修仙,没想到她从小呆着的门派居然被灭了,她以为是自己运势不好,却发现不过是女主一句,我在门派过的不好,而男主挥挥手,便把门派给灭了,从此,玉清清开始护宗门,来一个杀一个,来两个杀一双,天命之子又如何
师雪若
被卖大山惨死,八零真千金重生杀疯了
被卖大山惨死,八零真千金重生杀疯了
谢凌秋被认回谢家后,因为假千金负气出走失踪,就被自己的亲人卖进了大山里赎罪。 受尽屈辱而死后,一朝重生,她转抱祖母大腿,开始逆袭生涯。 绿茶真千金被掌掴,偏心家人被冷待……前世所有伤害过她的人,都开始后悔没有善待她。 谢凌秋对此表示并不在乎:你们也配得到我的爱? 某团长搂住她的腰:老婆,那我呢?
月儿弯弯
通冥神医
通冥神医
苏尘是一个外卖小哥,有一天,他接到了一个来自地府的外卖单……江城第一神医江小美:送你一身绝世医术,麻烦你贴身保护我妹妹的安全,我妹妹可是校花哟。龍國第一富豪:给你一半家产,帮我照顾未亡人妻。武道宗师:送你一身修为,护我合欢宗内女弟子百年昌盛。吕布:我让你成为地表最强男人,替我照顾好转世的貂蝉。站在黄泉路的尽头,面对那些生前都是大佬的风云人物,苏尘苦笑。“我就是个送外卖的,咋突然就无敌了?”
年年有哲
废柴修真记洛尘张小曼
废柴修真记洛尘张小曼
“一代仙尊”洛尘遭人偷袭,重生回到地球。地位普通的他,面对女朋友的鄙视,情敌的嘲讽,父母的悲惨生活,豪门大少的威逼挑衅。他发誓,一定要改变命运的不公,站在这个世界的巅峰,告诉所有人,他洛尘,曾经来过。
洛书
追妻失败后,傅总他想父凭子贵
追妻失败后,傅总他想父凭子贵
盛以安嫁给了云城臭名昭著的花花公子。 男人娶她只是因为她性格乖顺,软弱,而且不多事。 他出钱满足她的物质生活,她出力应付他的家属长辈。 她爱他,所以心甘情愿,忍气吞声,可失望终究会攒够。 后来盛以安终于明白,傅承烨于她而言是一双不合适的鞋,她不能再让这双鞋继续磨破她的脚。 盛以安:“傅承烨,我们离婚吧。” 男人满不在乎,爽快同意。 然而离婚后,傅承烨撞见某个正在相亲的女人,勃然大怒。 “盛以安!
姑苏小鱼