第9章(2/2)

“没错!开始它只是偷偷挂上场外货币兑换,后来用了两三天时间和真正的金融市场并轨。跟实时交易倒挂、搞垮阿根廷,只是最后两小时的事。下线之前最后一分钟,那个服务器完全疯了!任何一台终端只要连了它,系统就被它完全控制,界面全是实时制作的动画!那一分钟内它根本不是我们的,却霸占了我们全部在线资源。这还不够,国内各大算力群早就把我们踢出来了,它又强行连回去!好像大家的网关、路由、防火墙、权限系统、云资源策略全是假的!只要有物理网络,它想去哪里就去哪里,想要什么伸手就拿!”

图海川点头:“看起来像指数曲线吧?但最后一分钟不是。最后一分钟,你已经不知道它是什么东西、会干什么、该怎么应对了。这就是技术奇点的定义。‘奇点之前的一小段时间,机器智能将以指数曲线膨胀,人类毫无控制之力;奇点之后,一切人类规则将被抛弃。’ 弗诺·文奇,1993年。”

他隔着屏幕指向石松,如同在大教室中讲课:“石松,假设百方和电信的高手组个团队,把所有协议和漏洞搞得清清楚楚,预先准备好所有软件硬件,预先知道那个红绿灯会在什么时候出故障。要多少人,才能在6秒钟内攻下自己公司的自动驾驶系统,保住朱越的命?”

“多少人都不行。现场只有一个热点设备有漏洞,下载带宽有限。光是根据车辆位置的轻重缓急预判先攻哪台车,都不可能实时计算。更别说是突发事件……”

“听听麦基怎么说的:‘最先是科幻作家,然后是科学家,最后是工程师。到二十一世纪初,每一个真正理解技术的头脑向未来推演、外延时,都会看见一堵墙。墙后面是无尽的黑洞,他的智力永远不可能理解、不可能想象。但我们的绝望并没有妨碍科技发展。这堵墙越来越近,逼近速度越来越快。基础科学停滞之时,就由信息技术的扩张接力推动。奇点的实质就是超级智能。‘超级’意味着超越人类,而人类不可避免会撞上它。’《摇篮时代》,2037年。我说他啰嗦吧。”

每个听众都竖起耳朵,死死盯着屏幕。连王招弟都转身看着他。

“我没想通的是我们自己这个智能。它呆了一阵之后越权广播,很强烈,很主动,真像是什么东西醒来了。那十几分钟不干活的时候,它也抢夺了很多公共计算资源,就像腾讯那个游戏。但是那两句翻译,非但不是超人类的智能,连个小孩子都不如。”

“应该说,就像小孩子刚开始学外语。听见一句就胡乱猜测,还要说给所有人听。奇怪的是这小孩母语就是汉语,以前还精通几百种语言。学习过程重新开始?”王招弟在一旁自言自语补充,远没有图海川那么自信。

杭州那边两位老师的思路就像太空漫步。张翰终于忍不住:“奇点是什么东西,我还没太明白。但您是不是说,奇点就要到了?”

“不是我说的,朱越先说的。我只是越发觉得他说得对。原先我想不通三个事件之间的矛盾。听了那个红绿灯的情况,我认为这不是一个单纯的救援行为。也许是测试。也许美国人猜对了一半,这是火力演习。也许有好几个智能在闹着玩呢!谁知道呢?奇点之后人类理解无能!麦基在说过,超级智能最有可能实现的方式,是普通人工智能之间的联网互动。原则上我完全赞同!文奇还说过,奇点到来之迅猛,所有当事人都会措手不及。所以也有可能已经到了,我们还不知道。也许我们正在亲身经历文明史上最伟大的时刻,比工业革命更伟大。工业革命刚开始时的欧洲人,在城里开蒸汽机织布的,在乡下被羊抢了土地的,在煤矿里面虐待童工的,肯定不知道他们经历了伟大的工业革命。他们那个太慢。我们这个革命,可能下星期就爆炸了,这世界我们就认不出来了。啊!我又想通了一点。为什么都跟朱越有关?因为他说得对啊!他去玩那个游戏可能纯属偶然,但是玩着玩着突然开悟。万国宝听见他说得对,就无限重复,表示它也同意!然后给他血条+1。真像打游戏,哈哈!”