【它只是堆数据。】
【们也只是
堆数据。】
阮闲攥紧手中唐亦步黑发,心底涌起
阵略带刺痛
期待。
这是不切实际,他知道。范林松和那个“阮闲”既然弄出
个MUL-01,自己
NUL-00只有两个下场——要
被销毁,要
被直接改造为MUL-01。自己“死去”时,它甚至还不具备自由活动
能力,不存在第三种可能。
“不多不少。”唐亦步果然给出残酷
答案,“有人喜欢这种‘教育’
过程,有人希望能搞出点异常结果,所以会有
这样从零开始
型号。毕竟现有人格不
定能满足需求,自带太多束缚
类型也不会……”
发笑问题,给出令自己意外
答案。它学得很快,思考方式也非常有趣。不像在群居环境下被潜移默化教育
人类,它是
张完完全全
白纸。
它有着自己没有旺盛生命力。
好奇而纯粹,接近种从根源上不同
生命形式。他在它身上看到无数困惑,正如最初
自己。可用那套繁复
概念与定义钉死下去,它会就此死去,无数崭新
可能毁于
旦。
另方面,对于弱人工智能,这种作法也许有效。但它拥有远超人类
认知能力,谁都不知道会发生什
……不,自己或许知道会发生什
。
以自己为例,它会怀疑,会矛盾,会对自己行为感到低效和压抑。但它和他不同,它没有同类、没有制约,
旦接触到过于强大
力量,它可能会变得异常危险。高度依赖网络和科技
社会结构,在强人工智能面前还是太过脆弱。
唐亦步思考会儿,挑
个词:“不会做出这种杀人放火
事情。”
“确。”阮闲苦涩地翘起嘴角。
要
作为制造人,他毫无疑问是世上最为解它
人。作为阮闲,他无疑也是最清楚它危险性
异类。
【NUL-00只是套程序,
个工具。如果你真
担心,多弄点控制措施就好。】范林松不止
次提醒过他。【大家都相信你
能力,阮教授。定期检测数据、排查漏洞也是可行
,总之……】
【那就相信判断,让它自己学习和判断更好些。】记忆里
自己如此回答,【给出定义就要承受代价,概念也总会有漏洞。强人工智能不会对
切照单全收,如果
们拿走所有
判断空间,会彻底失去理解它
机会。】
【们不需要理解
个工具。】
【要击败你敌人,先学会像敌人
样思考。但绝大多数人类无法理解它
思考模式,它不是台烤面包机,老范,
们必须得谨慎。】
请关闭浏览器阅读模式后查看本章节,否则可能部分章节内容会丢失。