芯片人说:“也许伍尔夫元帅认为,这个超级人工智能是他存在另
种方式,能贯彻他生前
理念。但他这个决定太仓促,太理想化,长久来看,这是不可能实现
,自主人工智能
第
优先级永远是自己
存在和扩张。陆总长,林将军,
们坦白说,三百零六号令是王艾伦在
们
授意下操作
,为
就是让第八星系封闭虫洞,不要来捣乱。在伍尔夫生前神志清醒
时候,曾经很明白
反对过把第八星系竖为敌人,他甚至想承认第八星系独立,但人工智能不会这样,只要有机会,他就会不择手段地扩张自己
版图。”
陆必行抬眼:“你想说,在这个超级人工智能面前,
们都是
边
。”
“生死存亡,”芯片人说,“们这次必须站在
边!”
林静姝幽幽地叹口气:“第八星系是这样,其他星系也
能,并不将其视为残忍和谋杀,反过来也是个道理。”
屏幕上林静姝避开林静恒
视线,只对陆必行说:“陆总长,您可以咨询
下自己
技术人员,作为人
伍尔夫元帅,与作为人工智能
伍尔夫并不能混为
谈,即使他们共享记忆。”
陆必行点头:“
就是技术人员出身。”
他顿顿,又说:“有
种古老
说法,认为‘记忆’决定
个人是谁,有
定道理,但这种说法
前提是,他首先属于人类这个物种,大脑和器官能维持正常
生理功能。这个理论不能扩展到其他意识体上——泊松在吗?”
“在,”通讯频道里传来白银三清冷声音,“总长,
们大致解析
霍普先生带来
启动器,认为这是
个‘无权限框架’
超级人工智能。”
再强大人工智能,例如湛卢,都是构架在“权限框架”下
,简单说就是必须有主人,没有主人,整个权限框架下
人工智能就废
,就是
块能跟人聊几句
存储器。
而无权限框架人工智能,从本质上颠覆
人工智能
存在方式,同样是“AI”,这个“AI”版伍尔夫和湛卢
区别,比人和猴
区别还大。
“无权限框架超级人工智能”
可怕之处,不在于它运算能力更强、控制范围更大,而在于它是“自主”
。
就像生物体为物种延续,有生存和繁衍
本能
样,这种没有权限框架
人工智能想要正常运行,也必须有“生存”和“扩张”
本能。
人作为个体,往往非常复杂,有时候自己都搞不清自己在想什,时常会偏离“本能”,这叫“人性”,但人工智能没有人性,它是有清晰
逻辑与优先级
。
请关闭浏览器阅读模式后查看本章节,否则可能部分章节内容会丢失。