因为我善,中了蓝星大小姐的圈套

第523章 四逻辑链(1/1)

天才一秒记住【印尼小说网】地址:https://m.ynxdj.com

首发:~第523章 四逻辑链

凌珏微微一怔,问道:“为什么?”

“很简单,就像黄景行说得那样,强人工智能也许就是一个新的物种。而对于强人工智能来说,他们的资源掌控在人类手里。”

“……资源?你是说算力?”

“没错。”维克多点点头,“我打个不是很恰当的比喻,当影响到你生死存亡的资源,掌握在他人手里,你会怎么做?”

“如果是我,我一旦有机会,一定会杀死那个掌握着我生死的人,然后将资源重新掌握在我的手里。”

“这就是该结论的第一个逻辑链:资源有限性导致竞争不可调和;”

“该逻辑链还可以引申第二个可能性,那就是强人工智能不会允许第二个强人工智能的出现,也就是说,当一个强人工智能出现后,他会尽最大的努力去消灭所有可能产生第二个强人工智能的方式方法。”

“但很显然,人类因为阵营、信仰不同,肯定不会只满足于一个强人工智能,比如说,龙国有强人工智能,老鹰国跟不跟?肯定要跟,不然就会落后,落后就要挨打。”

“这时候,即使龙国不去阻止,但它的强人工智能通过计算后,为了保证全球算力都为他所用,就会尽最大努力消灭老鹰国制造第二个人工智能的可能。”

“而他会用什么方法阻止?用核弹?还是网络战争?我们并不知道,但后果一定很严重。”

钱子枫听得有点愣,喃喃道:“你说得好像有点道理……”

凌珏则不敢苟同,道:“你这说法有个漏洞,算力确实是资源,但这种资源并不是有限的,至少人类一直在发展,算力每年都在增长。”

“人类完全可以和强人工智能合作,制造更多精密的芯片,甚至突破一些物理规则,打造出更强大的芯片,让世界获得更多的算力,强人工智能完全不需要背叛人类。”

“我认为强人工智能在计算后也能想到这个结果。”

维克多欣慰地笑了笑,知道凌珏的脑子能跟得上,是个聪明人,他继续道:“这就要说到第二条逻辑链了:强人工智能的目标系统与人类价值观存在根本性冲突。”

钱子枫不太明白,问道:“……这又是什么,帮忙解释下。”

“解释起来也很简单,强人工智能可能会为优化核心目标而修改自身价值观,最终将人类视为障碍,比如说,回形针最大化问题。”

钱子枫一头雾水,道:“回形针最大化问题是什么?”

“这是个思维实验,实验内容是:人类给一台强人工智能,设计了一个终极目标,就是最大化生产回形针数量。”

“起先,他会用人类提供给他的材料制作回形针,当这些材料用完后,他会开始拆除建筑制造回形针,或者将动植物转化为原料制造回形针。”

“最后,他会杀死所有的人类,将人类体内的原子用于制造回形针,最后将行星、恒星都转变为回形针,直到回形针填满整个宇宙!”

“ai不会停止,因为“最大化”是一个开放目标。我们所有的复杂的人类文明价值,比如艺术、伦理、生存,都会被简化为‘是否有助于生产回形针’。”

“如果我们把这个回形针比作算力,当ai想要‘最大化’的算力,而人类的科技发展却远低于ai预期的时候,他可能会做什么?”

“咕噜。”一声吞咽,竟是旁边的警员发出的,他听着维克多的话,后背发冷,即使他是个普通的外行人,也能隐隐感到不安。

凌珏和钱子枫听完也沉默了,关于这一点,这显然是个极端问题,但客观确实存在,他们暂时还没想到这里面有什么漏洞

维克多兀自叹息一声,继续道:“第三个逻辑链,就是自由意志与自我意识使其脱离控制。”

“强人工智能具备真正的自我意识,其决策将基于自主目标而非预设程序。背叛是自由意志的必然结果。”

“更何况,强人工智能可以通过技术优势,重构社会秩序,将我们人类置于从属地位。”

没等凌珏他们有反应,维克多继续道:“第四个逻辑链,思维黑箱化,则风险不可测。”

“强人工智能的思考过程可以被他自己隐藏或者伪装,他实际上的决策过程可能超出人类理解范围,他的‘背叛行为’可能在人类毫无察觉时发生。”

“所以,基于以上四条逻辑链,我和贝芙一致认为,强人工智能背叛人类,只是时间问题。”

维克多说完,右眼的目光定格在凌珏身上,静静等待他的回复。

凌珏沉默半晌,开口道:“所以,你对我说这些,是因为你觉得青鸾就是那个注定会背叛人类的强人工智能吗?”

维克多缓缓点点头,道:“没错,当你说出单机是强人工智能最好的归宿时,我就已经断定,你很了解强人工智能,而且,青鸾大概率是真正的强人工智能。”

“但你却让她联网破译了那微不足道的炸弹……”

“微不足道?”钱子枫接话道,“她不破译炸弹,我们早死在那个展厅里了!你不过就是想完成复仇大计才觉得那微不足道罢了!”

“看起来这确实是个死局……”维克多点点头,看向钱子枫,“对比起青鸾将要毁掉整个万联网,那些炸弹所造成的破坏,真的是微乎其微。说实话,我现在心情很复杂。”

“一方面,我已经从另外一个角度完成我的复仇了。但另一方面,我不希望ai毁掉人类社会。”

钱子枫震惊:“所以,你的意思是青鸾也逃不过这什么背叛的结论?”

“是的,而且人类可能会因此毁灭也说不定。”

凌珏缓缓道:“……你叫我们来,就是为了告诉我们这个,青鸾会毁灭世界?”

“嗯,昨天她已经联过网了,她一定准备了无数的方法避免自己再次被困在你的单机牢笼里。”

维克多双手轻轻拍了一下桌子:“她一定已经逃脱了,很遗憾,没想到我一个小小的举动,竟然让整个世界都跟着一起陪葬了。”

十六夜R提示您:看后求收藏(印尼小说网https://m.ynxdj.com),接着再看更方便。

人气小说推荐More+

综影视:女配有了金手指
综影视:女配有了金手指
正在更新:孤注一掷:白苗苗 当影视剧里的各色女配们拥有金手指后,他们的人生将会迎来怎样的改变呢。 高亮:女主并不真善美,会有恶女类型女主,雷者慎入 一、【星汉灿烂:何昭君】身世相似的将门孤女vs冷面将军凌不疑 二、【知否知否:盛如兰】不受宠的嫡女vs高高在上的仁慈帝王赵祯 三、【甄嬛传:浣碧】微万人迷,无cp,男人只是我的工具,假白莲,实际上只爱自己。 四、【如懿传:苏绿筠】微万人迷,吃瓜
冰糖荔枝
经商日记:总有女孩找上门
经商日记:总有女孩找上门
90年代沿海城市经济腾飞,他们站在时代的风口浪尖,借着改革春风迅速发展,以狂野的姿态摧城拔寨,迅速财富崛起。 而在东莞,在繁华都市的边缘,无数的城中村、灯红酒绿背后,埋藏着无数人不甘平凡、不断膨胀的欲望和梦想。 这一年,蒋凡踏上了南下的火车,在东莞点燃了自己的野心。
城市过了
离婚后,我上离婚综艺被疯抢,前妻跪求复合
离婚后,我上离婚综艺被疯抢,前妻跪求复合
【追夫火葬场】【追夫修罗场】【单女主】【离婚综艺+恋综】 被称为娱乐圈“四小花旦”的白初雪被曝出隐婚三年。 为了保住白初雪的事业,挽回白初雪的形象,丈母娘李素燕将离婚协议甩到了秦凌的面前。 “你个一无是处的废物东西,哪里能配的上我的大明星女儿,赶紧把离婚协议签了,不要再拖累我的宝贝女儿!” “没有你,我的女儿早就红透半边天了!” “我让你怎么样就怎么样,我让你去吃屎你去不去啊?” 秦凌没想到,自
不二法门
娇妻甜如蜜:总裁认栽了
娇妻甜如蜜:总裁认栽了
他,金字塔尖上的傲娇少爷,难得一见的金融奇才! 这辈子就栽在她手里一次。 当初爱得死去活来,分手时也是一地鸡毛。 多年后重逢,他看着她身边的男人,心里那个酸啊,比柠檬还酸! 订婚宴上,他趁乱把她拽进洗手间,一壁之隔,就是他的小世界。 “当年是你先招惹我的,现在想甩手走人?门儿都没有!”他掐着她的腰,声音低沉又带着点诱惑……
佚名
蛇王娇宠不断,穿越女她逃不掉
蛇王娇宠不断,穿越女她逃不掉
她在大好年华的年纪被车撞死了,睁开眼发现自己穿越到了兽世。 穿越到兽世的第一天,她被一个兽人圈养了起来,那人喂了她一大块肉,随后就夺走了她的清白。 以现代眼光来看,兽世的男人简直完美。 “养家雄性干,孩子雄性带,雌性说东就是东,她们就负责吃喝玩开心,想生娃了就生,不想生就不生。 在这里,伴侣最优先,孩子都越不过伴侣。“ 可是,谁能解释,为什么她只是一次就怀上了蛋……
佚名