第139章 人类才是需求的主导(2/2)

首发：~第139章 人类才是需求的主导

这已经是他吸收的第六份关于人工智能的文献资料了。

之所以要吸收这么多，主要是因为人工智能技术太过棘手。

可以说是科技文明难以逾越的一道坎。

在科技领域，

所谓的一级文明大多已解锁无限能源，步入宇宙。

随之而来的是对劳动力的极度渴求。

因为在浩瀚的宇宙面前，

不论什么文明，初踏出宇宙时都是渺小而卑微的。

要想快速增强实力，就需要更多劳动力来支撑。

就拿地球来说，80亿人口在地球上或许很多，但对于即将到来的宇宙大开发时代，简直是杯水车薪。

因此，许多科技文明会选择解锁人工智能。

用机器人来承担重复枯燥的体力劳动。

将人力投入到各行各业的高端领域。

这是多数科技文明的选择，郝淮也不例外。

但人工智能虽好，却也有风险。

就像电影里那样，一旦出错，或被别有用心之人操控。

那就是一场灾难。

“哎……真是双刃剑啊。”

“用也不行，不用也不行……”

一想到脑子里吸收的那些资料，郝淮就觉得头疼。

宇宙中，原本没有机械文明这一说。

但后来，随着不少科技文明对自家人工智能失控。

这才诞生了所谓的机械文明。

而这些机械体大都有缺陷或感染病毒之类的问题。

超过九成的机械文明都是一群战争狂人。

依靠机械体强大的繁殖力，疯狂烧杀抢掠。

不知有多少文明毁在了这一步。

当然，也有一部分机械文明完成了自我升级，彻底弥补了自身缺陷。

进而进化成智械生命，拥有了完整的情感和独立的科技体系。

这些智械生命，其实已不能算是机器人，它们有情感，会痛，会笑，会悲伤。

它们已经成为生命！

而且一旦达到这一步，机械体的优势会被无限放大。

虽然能进化到这一步的机械文明很少，但每一个都强大无比。

当然，现在想智械生命的事儿还早得很。

郝淮当前最紧要的事儿，就是确保自己编写的智能程序，别闹出变异或漏洞来！

不然，对整个地球来说，那可就是个大麻烦。

研究室内。

郝淮手指飞快地敲击着键盘。

一行行代码在编辑器里嗖嗖闪过。

“呼……”

“三层防护，防火墙，模块嵌入，终极代码……”

“应该差不多够用了……”

郝淮边嘀咕边编写着程序。

看了那么多资料文献，

对于人工智能，他也算是有了套比较成熟的见解。

说白了，就是取百家之长。

高级文明的编程技术用不上，那就得把低级文明里那些成功的理念整合起来。

通过学习他们的编程技巧和思路，来增强人工智能的安全性。

琢磨了好几天，

郝淮最终决定给人工智能设下四道防线。

首先是三层防护。

直接在核心系统里把三个法则永久锁定。

第一条是利他主义！意味着机器的唯一目标是最大限度地实现人类的目标和价值。

第二条是谦卑原则，即人工智能应对人类保持敬畏。

按照这条原则，人工智能要承认自己并非全知全能。

也就是说，机器要明白要最大化人类的价值，但同时也要清楚自己并不能完全理解价值的意义。

因此，为了对人类有用，它得通过观察人类的选择，根据人类提供的信息去学习、掌握人类的需求。