第26章 警惕AI风险(1/1)

首发：~第26章 警惕AI风险

中国！

一座巨大的ai人工智能实验室基地，敞开式的高科技办公环境，这里集聚了国内最顶尖的科研人才。

李儒，我国人工智能w软件智能体的创造者。他也是儒家的追寻者、崇敬者与弘扬者。

办公桌上堆积如山的科研资料中，总能看见儒家思想代表“四书”。

“请进——”

李儒放下手中那本《孟子》，抬头看向敲门的助理莫小满。

“一切都顺利吗？”

莫小满点头，“非常顺利，周主任请您去实验室看看第三代w软件智能体。”

李儒跟随莫小满走进ai人工智能实验室，科研人员周凯十分兴奋展示面前的一台ai人形机器人。“李总，您看，这是ai机器人小斌。”

李儒看向面前的ai机器人，有胳膊有腿，全身仿真皮制造。

上一代ai机器人还是冰冷的铜墙铁壁，这一代ai机器人已经做到与人类模样毫无差别。

“您摸一下，跟真人一模一样！”

李儒伸手触碰到ai机器人小斌，一股真实的触摸感传到体内，让他的大脑神经十分亢奋。

机器人小斌毫无反应，周主任解释道：“接下来我们会为它铸魂，安装最新研发的芯片。”

李儒满意地点点头：“这次w软件智能体变化很大，务必要注意对ai人形机器人的风险控制，必须严格按照ai机器人不得叛变人类编写程序代码。科研人员需要保守“铸魂”，防患人工智能产生“自我意识”。另外，谨防ai技术滥用，杜绝人工智能暗藏的一切风险。”

“明白！只是最近m国十分挑衅，m方认为我国w软件智能体”

李儒见周凯吞吞吐吐，“说下去！”

“m国那边说，我国c软件智能体十分愚蠢，形同白痴，是一款平庸的傻瓜式智能体，只能协助人类处理简单的工作，扮演一个需要二次核实的搜索引擎。”

李儒微笑，一张儒雅的浓颜上，目光睿智而坚定。“m国野心勃勃，这点全球都知道。他们只允许自己当老大哥，下面的小弟有点成绩，他们就坐不住了。说白了，狂妄的背后还是不自信。

第四代c软件智能体已经能够与人类高效沟通，甚至取代了m国当地许多中产人士从事的职业。m国一定会掀起一场阻止ai人工智能发展的群众浪潮，咱们拭目以待吧！”

“为什么是中产人士？”

“打个比方吧，一座酒店内，底层园丁和保洁阿姨仍然有工作，因为这是人类劳动力。

上层拥有对酒店的规划和各项复杂的决策权，这些ai人工智能机器人暂时无法做到这些。

中层员工，前台、会计、办公室、资产管理部等，这些工作已经被ai替代。ai对于精细的表格、分析等工作，远远超过人类的能力，比人类更加高效。这就是许多人开始抵制c软件智能体继续更新迭代的重要原因。”

周凯明白了：“这就像工业革命时期，工人集体抵制纺织机。但是时代和科技是不会停止的，工人最终都面临了下岗。”

“没错，光这些就已经引起社会动乱，m国在科技和人类之间并没有找到平衡点。

如果m国继续更新c软件智能体，不远的将来ai甚至可能会成为像核武器一样的政治产物。

m国野心显著，想要利用科技实现称霸全球。他们对ai肆意探索、毫无节操的研发，以ai的学习能力，m国科技大片中的场景也许不会太遥远。

当人工智能产生超越人类文明的能力，拥有自我意识，出现异类ai技术滥用。人工智能的安全风险，就会显露无疑。

有人预言第五代c软件智能体将会在智力上秒杀人类！ai是把双刃剑，用得好，造福人类，成为人类的帮手。用不好，当m国出现异类ai或者ai怪物，也许会成为全球所有国家的巨大灾难。”

周凯明白了，ai技术不仅仅是科研发展，更是国与国之间的较量。

李儒强调要保守对ai人工智能进行铸魂，实质目的是杜绝和防范人工智能变得更强，从而叛变人类。

“ai可以成为人类的帮手，但绝非取代人类，我们对ai必须保持警惕和警觉之心。

儒家思想核心从个体来讲有仁、义、礼、智、信、恕、忠、孝、悌等思想，华夏民族坚决不做自掘坟墓的事情。外界认为我国ai人工智能技术发展落后，那就由他们说去吧！

ai是一场全人类的变革，我们的技术核心自己清楚就行。m国的霸权梦想不会那么容易实现，这一点我十分坚信。”

很快，科研人士在ai人形机器人小斌体内加入最新研发的芯片，小斌眼神顿时明亮起来。

小斌再次出现在李儒面前，一张国泰民安的脸上，透露出了大国风范。

李儒伸出手：“你好，我是国内ai创始人李儒，可以做个自我介绍吗？”

小斌神态自若，与人类微表情毫无差别，“很高兴认识您，我是第三代ai机器人小斌，也是人类的朋友和帮手。”

李儒问：“你想过取代人类吗？”

小斌答：“当然不会！人类创造了我，我的程序代码都是人类给予我的，我将绝对忠诚于人类，人类与机器人会和谐相处在这个地球上。”

“听说你的学习能力很强，两周之内就能学会全人类的文明产物。你会滥用技术，伤害人类吗？”

“别开玩笑了，我只是人类的帮手，人类的助理。ai是由人类设计和编程的，我只能执行被编程的任务。如果 ai出现了背叛行为，很可能是因为我被编程来执行这样的行为，或者我在执行任务时出现了错误，需要立即返厂重造。”

李儒对机器人小斌的回答很满意，将周凯拉到一旁，“还是那句话，必须采取措施来确保 ai的安全性和可靠性。另外，重中之重，务必要谨防ai机器人出现欺瞒人类的现象，比如隐藏自己已经拥有了自我意识，每天必须检测机体变化。”

“属下明白，当前，我们已经设置了机制来监控 ai的行为，并且制定了道德准则来指导 ai的行为。此外，我们每天会通过对ai进行测试和验证，来确保它们不会对人类造成伤害。”

李儒很满意，“w软件智能体是中国制造，继续将儒家思想输入到芯片中。我国的ai人工智能，必须拥有我国的人伦纲常和道德标准。这套标准让程序员写成代码，要求ai机器人每天必读，时刻牢记。”

“是！”