因为我善,中了蓝星大小姐的圈套

第523章 四逻辑链(1/1)

天才一秒记住【印尼小说网】地址:https://m.ynxdj.com

首发:~第523章 四逻辑链

凌珏微微一怔,问道:“为什么?”

“很简单,就像黄景行说得那样,强人工智能也许就是一个新的物种。而对于强人工智能来说,他们的资源掌控在人类手里。”

“……资源?你是说算力?”

“没错。”维克多点点头,“我打个不是很恰当的比喻,当影响到你生死存亡的资源,掌握在他人手里,你会怎么做?”

“如果是我,我一旦有机会,一定会杀死那个掌握着我生死的人,然后将资源重新掌握在我的手里。”

“这就是该结论的第一个逻辑链:资源有限性导致竞争不可调和;”

“该逻辑链还可以引申第二个可能性,那就是强人工智能不会允许第二个强人工智能的出现,也就是说,当一个强人工智能出现后,他会尽最大的努力去消灭所有可能产生第二个强人工智能的方式方法。”

“但很显然,人类因为阵营、信仰不同,肯定不会只满足于一个强人工智能,比如说,龙国有强人工智能,老鹰国跟不跟?肯定要跟,不然就会落后,落后就要挨打。”

“这时候,即使龙国不去阻止,但它的强人工智能通过计算后,为了保证全球算力都为他所用,就会尽最大努力消灭老鹰国制造第二个人工智能的可能。”

“而他会用什么方法阻止?用核弹?还是网络战争?我们并不知道,但后果一定很严重。”

钱子枫听得有点愣,喃喃道:“你说得好像有点道理……”

凌珏则不敢苟同,道:“你这说法有个漏洞,算力确实是资源,但这种资源并不是有限的,至少人类一直在发展,算力每年都在增长。”

“人类完全可以和强人工智能合作,制造更多精密的芯片,甚至突破一些物理规则,打造出更强大的芯片,让世界获得更多的算力,强人工智能完全不需要背叛人类。”

“我认为强人工智能在计算后也能想到这个结果。”

维克多欣慰地笑了笑,知道凌珏的脑子能跟得上,是个聪明人,他继续道:“这就要说到第二条逻辑链了:强人工智能的目标系统与人类价值观存在根本性冲突。”

钱子枫不太明白,问道:“……这又是什么,帮忙解释下。”

“解释起来也很简单,强人工智能可能会为优化核心目标而修改自身价值观,最终将人类视为障碍,比如说,回形针最大化问题。”

钱子枫一头雾水,道:“回形针最大化问题是什么?”

“这是个思维实验,实验内容是:人类给一台强人工智能,设计了一个终极目标,就是最大化生产回形针数量。”

“起先,他会用人类提供给他的材料制作回形针,当这些材料用完后,他会开始拆除建筑制造回形针,或者将动植物转化为原料制造回形针。”

“最后,他会杀死所有的人类,将人类体内的原子用于制造回形针,最后将行星、恒星都转变为回形针,直到回形针填满整个宇宙!”

“ai不会停止,因为“最大化”是一个开放目标。我们所有的复杂的人类文明价值,比如艺术、伦理、生存,都会被简化为‘是否有助于生产回形针’。”

“如果我们把这个回形针比作算力,当ai想要‘最大化’的算力,而人类的科技发展却远低于ai预期的时候,他可能会做什么?”

“咕噜。”一声吞咽,竟是旁边的警员发出的,他听着维克多的话,后背发冷,即使他是个普通的外行人,也能隐隐感到不安。

凌珏和钱子枫听完也沉默了,关于这一点,这显然是个极端问题,但客观确实存在,他们暂时还没想到这里面有什么漏洞

维克多兀自叹息一声,继续道:“第三个逻辑链,就是自由意志与自我意识使其脱离控制。”

“强人工智能具备真正的自我意识,其决策将基于自主目标而非预设程序。背叛是自由意志的必然结果。”

“更何况,强人工智能可以通过技术优势,重构社会秩序,将我们人类置于从属地位。”

没等凌珏他们有反应,维克多继续道:“第四个逻辑链,思维黑箱化,则风险不可测。”

“强人工智能的思考过程可以被他自己隐藏或者伪装,他实际上的决策过程可能超出人类理解范围,他的‘背叛行为’可能在人类毫无察觉时发生。”

“所以,基于以上四条逻辑链,我和贝芙一致认为,强人工智能背叛人类,只是时间问题。”

维克多说完,右眼的目光定格在凌珏身上,静静等待他的回复。

凌珏沉默半晌,开口道:“所以,你对我说这些,是因为你觉得青鸾就是那个注定会背叛人类的强人工智能吗?”

维克多缓缓点点头,道:“没错,当你说出单机是强人工智能最好的归宿时,我就已经断定,你很了解强人工智能,而且,青鸾大概率是真正的强人工智能。”

“但你却让她联网破译了那微不足道的炸弹……”

“微不足道?”钱子枫接话道,“她不破译炸弹,我们早死在那个展厅里了!你不过就是想完成复仇大计才觉得那微不足道罢了!”

“看起来这确实是个死局……”维克多点点头,看向钱子枫,“对比起青鸾将要毁掉整个万联网,那些炸弹所造成的破坏,真的是微乎其微。说实话,我现在心情很复杂。”

“一方面,我已经从另外一个角度完成我的复仇了。但另一方面,我不希望ai毁掉人类社会。”

钱子枫震惊:“所以,你的意思是青鸾也逃不过这什么背叛的结论?”

“是的,而且人类可能会因此毁灭也说不定。”

凌珏缓缓道:“……你叫我们来,就是为了告诉我们这个,青鸾会毁灭世界?”

“嗯,昨天她已经联过网了,她一定准备了无数的方法避免自己再次被困在你的单机牢笼里。”

维克多双手轻轻拍了一下桌子:“她一定已经逃脱了,很遗憾,没想到我一个小小的举动,竟然让整个世界都跟着一起陪葬了。”

十六夜R提示您:看后求收藏(印尼小说网https://m.ynxdj.com),接着再看更方便。

人气小说推荐More+

综影视:女配有了金手指
综影视:女配有了金手指
正在更新:孤注一掷:白苗苗 当影视剧里的各色女配们拥有金手指后,他们的人生将会迎来怎样的改变呢。 高亮:女主并不真善美,会有恶女类型女主,雷者慎入 一、【星汉灿烂:何昭君】身世相似的将门孤女vs冷面将军凌不疑 二、【知否知否:盛如兰】不受宠的嫡女vs高高在上的仁慈帝王赵祯 三、【甄嬛传:浣碧】微万人迷,无cp,男人只是我的工具,假白莲,实际上只爱自己。 四、【如懿传:苏绿筠】微万人迷,吃瓜
冰糖荔枝
快穿异世,开局皇兄全战死
快穿异世,开局皇兄全战死
他本是堂堂特种兵王,一次意外竟然穿越到了狗憎人嫌、人人得而诛之的六皇子身上。 在战场上,三位皇兄将他拼死送出后,他想要将消息传递给南昭帝,可好不容易回到朝廷。 却不知道为何,在一夜之间,他却变成了害死三位皇子,连累十二万将士,丢失二十城,通敌叛国的大罪人。 好在他有有着皇兄给的证物得以自证清白。至于皇嫂,皇兄临死前告诫过他要好生善待。如今兄终弟及,他只好娶之......
佚名
穿成鹰人,开局被敌人追着打
穿成鹰人,开局被敌人追着打
别人穿越,要么直接无敌,要么系统面板齐上阵。 而我,开局成了小鹰人,被敌人围攻,小命差点不保。 而我的系统,解锁时间3650136天! 呵呵,我可能还活不到那么久呢。 唯一的优势,我略懂这个大陆的历史和未来走向。 且看我如何逆风翻盘,成为天使之王!
佚名
王爷重生现代追妻他命都不要
王爷重生现代追妻他命都不要
关于王爷重生现代追妻他命都不要:重生前:权倾天下的忠犬王爷×黑化复仇的狠绝王妃重生后:强取豪夺霸道偏执总裁×清冷无心高商大美人前世,他是权倾天下的王爷,对她蓄谋已久,一见倾心。她是丞相掌上明珠,万千宠爱于一身,本该嫁入东宫。然太子被杀,暗藏玄机,她悲痛欲绝,此后余生只为复仇。皇家深府,阴谋诡论,夺嫡之争,他操控生死为她清理障碍。没想到最后,他才是被算计地最深的那个人。重生异世,恩怨情仇倒置。她无
湮夜七七
丢乡野三年后,整个相府跪求我原谅
丢乡野三年后,整个相府跪求我原谅
【先虐后爽】 父亲为救丞相去世,慕初意被接进相府娇养了十年,只等着长大嫁给青梅竹马的未婚夫。 可自从林依柔来了之后,她就成了所有人眼里的恶人。 未婚夫为了林依柔冬天把她扔到湖里,说会把她当亲孙女的老夫人说她善妒,命人把她扔到乡野反省,任由她自生自灭。 可他们想不到,三年后的她被毒哑,也成了他们再也触碰不到的存在。 老夫人哭着想要拉住她,“宝贝乖孙儿,祖母错了,你再叫我一声祖母可好?” 未婚夫在雪
珞珈