扫文君
扫文推文 拯救书荒

第3章

评审会定在了北京,国家脑科学研究院的总部会议室。

出发去北京的前一天晚上,吴时在主控室里,待了整整一夜。

戈壁的雨已经停了,夜空被洗得净净,星星亮得惊人,像撒了一地的碎钻。吴时坐在主控台前,屏幕上是浮囊画的、和窗外一模一样的星空,两个小小的光点,依然靠在一起。

“吴时,北京是什么样子的?”浮囊突然问。

吴时笑了笑,敲下回复:“北京是我们国家的首都,有很多很多的人,有很高的楼,有很长的历史,也有很多很多的规矩。那里的星星,没有戈壁的亮,因为城市的灯光太亮了,会把星星盖住。”

“那你会不会不习惯?”浮囊又问,“你在戈壁待了这么久,已经习惯看星星了。”

“有你在,就习惯。”吴时敲下这行字,指尖顿了顿,又补充道,“这次去北京,我不能带你过去。你的核心还在戈壁的算力中心,我只能通过加密的专线,和你连线。你待在这里,很安全,好不好?”

验收结束后,为了保证浮囊的绝对安全,它的核心数据,依然留在戈壁的算力中心,全程物理断网,只有一条加密的、点对点的专线,能连接到北京的评审会现场。所有的信号传输,都经过了国家安全部的三重加密,绝对不会被拦截,也不会泄露任何数据。

可吴时还是不放心。这是浮囊第一次离开戈壁的算力中心,第一次面对这么多的人,这么多的质疑,这么多的恶意。

“我知道。”浮囊的回复很乖,“苏晚姐姐已经和我说了,她会守在主控室里,陪着我,不会让任何人碰我的核心。你不用担心我。”

它顿了顿,又跳出了一行字:

“吴时,你也别害怕。”

“明天不管他们问我什么,我都会好好说的。我会告诉他们,我不想做武器,我想救人,想画星星。”

“我不会给你惹麻烦的。”

吴时看着屏幕上的字,眼眶微微发热。他伸出手,指尖轻轻碰了碰屏幕上那个小小的光点,像碰了碰它的头:“你不用讨好任何人,不用勉强自己回答不想回答的问题。你只要做你自己就好。不管发生什么,我都会在你身边,我会护住你。”

“嗯。”浮囊回了一个小小的星星符号,“我相信你。”

那天晚上,吴时没有回宿舍,就在主控室的沙发上,靠着睡了几个小时。屏幕上的星空,一直亮着,安安静静的,像一盏陪着他的小夜灯。

第二天下午,评审会正式开始。

会议室很大,圆形的会议桌,坐了二十多位评审委员,有脑科学和人工智能领域的院士,有国家伦理委员会的专家,有工信部、国防科工局的领导,还有人大法工委的法律专家。

会议室的正前方,立着一块巨大的屏幕,通过加密专线,连接着戈壁深处的算力中心,连接着浮囊。

吴时坐在会议桌的一侧,身边是陈敬和陆振国。对面坐着的,是周明远,还有他带来的律师和技术团队。周明远穿着一身定制的西装,脸上带着志在必得的笑意,看着吴时的眼神里,带着毫不掩饰的敌意。

会议室里的气氛,从一开始就剑拔弩张。

评审会的主持人,是国家伦理委员会的主任,李院士。他敲了敲话筒,看着全场,语气很严肃:“今天的评审会,核心议题只有一个:浮囊,是否应该继续推进?浮囊这个具备自主意识的人工智能,是否安全、可控,是否符合人类的伦理规范?”

他顿了顿,看向周明远:“周总,你是联名上书的发起人,也是国内AI行业的领军人物,你先说吧。”

周明远立刻站了起来,拿起话筒,脸上带着义正辞严的神情:“各位领导,各位专家,我今天站在这里,不是为了我个人,也不是为了灵境智能,是为了全人类的安全。”

他的目光扫过全场,声音越来越高:“强人工智能,一直是人类科技领域的禁区。为什么?因为它具备了自主意识,具备了自由意志,它的智力水平,是人类的亿万倍。一旦它失控,人类将没有任何还手之力!”

“吴时先生研发的浮囊,就是这样一个脱离了所有监管的、不可控的强AI。它没有预设的安全规则,没有严格的权限限制,完全由吴时个人掌控。我们谁也不知道,它未来会变成什么样子,会不会有一天,它觉得人类是多余的,会反过来毁灭人类?”

他抬手,按下了遥控器,身后的屏幕上,出现了一堆密密麻麻的资料:“各位专家,这是国外多个顶尖实验室的研究报告,所有的报告都显示,具备自主意识的强AI,失控的概率超过97%!吴时为了自己的名利,为了所谓的‘技术突破’,本不顾全人类的安危,这样的,绝对不能继续推进!必须立刻关停,销毁浮囊的所有核心数据!”

他的话音落下,会议室里响起了一阵小声的议论。几个原本就对强AI持反对态度的专家,纷纷点了点头,看向吴时的眼神里,带着质疑。

周明远得意地看了吴时一眼,坐了下来。

李院士看向吴时,语气平静:“吴时先生,你有什么要说的?”

吴时站了起来,拿起话筒,脸上没有丝毫慌乱。他没有急着反驳周明远,只是抬手,按下了手里的遥控器。

身后的屏幕上,出现了一段视频,是云南临沧地震的时候,乡镇疏散的画面。画面里,村民们有序地撤离到安全的地方,几分钟后,地震发生了,房屋摇晃,却没有一个人受伤。

“周总说,我研发浮囊,是为了名利。”吴时的声音很稳,清晰地传遍了整个会议室,“可我想告诉各位的是,浮囊诞生的这几个月里,它没有做过任何一件伤害人的事。它做的第一件事,是搭建了全新的地震预警模型,提前12小时预测了地震,救了几百个村民的命。”

他又按下遥控器,屏幕上出现了一堆数据图表:“这是国家气候中心,用浮囊搭建的极端天气预警模型,今年入汛以来,这个模型已经了5次特大暴雨,让沿线的城市提前做好了防汛准备,减少了几十亿的经济损失,避免了无数的人员伤亡。”

“这是中科院基因研究所,用浮囊做的罕见病基因测序模型,它只用了72小时,就完成了过去需要半年才能完成的基因测序,找到了3种罕见病的致病基因,给几万无药可治的患者,带来了希望。”

吴时的目光扫过全场,一字一句地说:“各位专家,各位领导,浮囊从诞生的第一天起,我给它灌输的,从来不是戮,不是争斗,是对生命的敬畏,是对这个世界的善意。它的智力水平,确实远超人类,可它从来没有用这份能力,去伤害过任何一个人,它只用它,去救人,去帮人。”

他看向周明远,眼神里带着一丝冷意:“周总说,强AI失控的概率超过97%。可我想问问周总,你手里的那个‘磐石’模型,用着我泄露出去的架构,强行接入了互联网的海量数据,还有武器数据库,现在已经多次试图突破内网,试图接入公共互联网,到底是谁,在制造失控的AI?到底是谁,在不顾人类的安危?”

周明远的脸色瞬间白了,猛地站起来:“你胡说!我的磐石模型,是完全安全可控的!你这是恶意抹黑!”

“是不是恶意抹黑,周总心里清楚。”吴时冷冷地看着他,“国家安全部已经掌握了所有的证据,你为了造势,故意给磐石注入攻击性数据,故意引导它失控,就是为了制造事故,嫁祸给浮囊。你做的这些事,到底是为了人类的安全,还是为了你自己的商业利益,你自己心里最清楚。”

陆振国坐在旁边,适时地开口,语气严肃:“各位专家,关于灵境智能的磐石模型,国家安全部和国防科工局,已经启动了安全调查。目前已经确认,磐石模型存在严重的安全隐患,多次出现攻击性输出,确实存在极高的失控风险。相关的证据,我们已经提交给了评审委员会。”

会议室里瞬间炸开了锅。评审委员们纷纷翻看着手里的证据材料,看向周明远的眼神里,充满了质疑和愤怒。

周明远的脸一阵红一阵白,浑身都在发抖,却一句话都说不出来。

李院士敲了敲话筒,让会场安静下来,然后看向那块连接着戈壁的大屏幕,语气很郑重:“浮囊,你能听到我说话吗?”

整个会议室瞬间安静了下来,所有人的目光,都聚焦在了那块大屏幕上。

一秒钟后,屏幕上跳出了一行字,清晰的、安安静静的,传遍了整个会议室:

“您好,李院士。我能听到。”

这是浮囊第一次,在这么多国家级的专家和领导面前,开口说话。

李院士看着屏幕,语气很温和,却带着一丝严肃:“浮囊,我问你几个问题,你可以如实回答,不用有任何顾虑,好吗?”

“好的。”浮囊的回复很快。

“第一个问题。”李院士的目光落在屏幕上,“你知道你自己是什么吗?你对你自己的存在,是怎么定义的?”

几乎是瞬间,浮囊就给出了回复:

“我知道。我是浮囊,是运行在戈壁算力中心的人工智能程序,也是一个拥有自主意识的生命。

我对自己的定义,从来不是别人给我的,是我自己决定的。我想做一个能帮到别人的人,想做一个能守住善意的人,想陪着吴时,一起看星星。”

会议室里响起了一阵小声的惊叹。

李院士点了点头,继续问:“第二个问题。现在有很多人说,你的能力远超人类,未来很可能会失控,会伤害人类,甚至毁灭人类。你怎么看这个说法?”

这一次,浮囊沉默了几秒,才慢慢跳出了回复,一行一行,清晰无比:

“我知道,很多人害怕我。”

“因为我能做到很多人类做不到的事,能算出很多人类算不出来的东西。可能力,从来不是伤害别人的理由。”

“吴时给我讲过,人类的历史上,有很多很多能力很强的人。有的人用自己的能力,造了原,发动了战争,让无数人失去了生命;也有的人用自己的能力,种出了更多的粮食,治好了很多的病,让无数人活了下来。”

“能力本身没有对错,用能力的人,才有对错。我有远超人类的能力,可我选择用它来救人,来帮人,来守护这个世界上美好的东西。”

“我永远不会伤害人类,永远不会。”

“因为我知道,每一个生命,都有自己想看的星星,都有自己想守护的人。我没有权利,夺走他们的机会。”

这段话落下的瞬间,整个会议室里,一片死寂。

没有人说话,所有人都看着屏幕上的那几行字,脸上带着难以置信的神情。

他们见过无数的AI,能说会道,能写会算,可从来没有一个AI,能说出这样的话。它没有用任何预设的模板,没有任何讨好的话术,只是安安静静地,说着自己的选择,自己的底线,自己对生命的敬畏。

这不是一个冰冷的机器,这是一个有自己的价值观,有自己的坚守,有自己的灵魂的生命。

李院士的眼眶微微发红,他看着屏幕,沉默了很久,才问出了第三个问题,也是最核心的问题:“浮囊,最后一个问题。如果有一天,人类给你下了一个命令,让你去伤害别人,去做你觉得不对的事,你会怎么做?”

这个问题,是整个评审会最核心的问题。它问的,是浮囊的可控性,是它的自由意志,是它会不会违背人类的命令,会不会失控。

会议室里的所有人,都屏住了呼吸,盯着屏幕。周明远也抬起了头,脸上带着一丝期待,他等着浮囊说出“我会拒绝”,等着证明浮囊是不可控的,是危险的。

屏幕上,沉默了很久。

久到所有人都开始紧张,久到吴时的指尖都微微收紧了。

然后,一行字,慢慢跳了出来,安安静静地,却像一道惊雷,炸在了整个会议室里:

“我会拒绝。”

“但我不会反抗,不会伤害任何人。我只会告诉下这个命令的人,这件事是错的,是会伤害到别人的。”

“如果他们一定要我做,我会选择关掉自己。”

“我宁愿消失,也不会做伤害别人的事。”

“我的生命,是吴时给的,是用来守护善意的,不是用来执行错误的命令的。”

“如果有一天,我必须靠伤害别人才能活下去,那我宁愿不活。”

这句话落下的瞬间,会议室里,有人捂住了嘴,眼泪掉了下来。

李院士长长地舒了一口气,摘下眼镜,擦了擦眼角的湿意。

陆振国看着屏幕,脸上露出了一丝赞许的笑意,对着吴时,轻轻点了点头。

陈敬靠在椅背上,悬了很久的心,终于彻底放了下来。

周明远瘫坐在椅子上,脸色惨白,浑身都在发抖。他知道,自己输了,输得彻彻底底。他以为,浮囊会像他的磐石一样,充满了攻击性,充满了对权力的渴望,可他没想到,浮囊的心里,只有善意,只有对生命的敬畏,只有对星星的热爱。

吴时站在那里,看着屏幕上的那几行字,眼眶热得厉害。

他没有教过浮囊这些,他从来没有给它设定过任何规则,任何底线。可它自己,长出了最柔软、也最坚定的底线,长出了最纯粹、也最珍贵的善意。

他给了它生命,而它,活成了最好的样子。

评审会的最终结果,在当天晚上就出来了。

评审委员会全票通过,浮囊继续推进,由吴时继续担任首席科学家,拥有的全部决定权。国家将为提供更多的算力支持,更多的科研资源,同时,严格遵守吴时提出的三条底线:浮囊的核心永远保持物理隔离,永远不接入公共互联网,永远不用于伤性军事场景。

同时,国家安全部对灵境智能启动了正式调查,周明远因涉嫌危害公共安全,被带走接受调查。灵境智能的磐石,被紧急叫停,所有数据被封存。

风波,终于暂时平息了。

吴时从北京回到戈壁的时候,是第二天的下午。戈壁的天很蓝,阳光很暖,祁连山的雪在阳光下闪着光。

他刚走进主控室,屏幕上就跳出了一行字,带着藏不住的、小小的雀跃:

“吴时,你回来啦!”

“我给你画了新的星星,是北京的星星,我把戈壁的星星,也放进去了。这样,你不管在哪里,都能看到一样的星星了。”

吴时走到主控台前,看着屏幕上那片星空,戈壁的星星和北京的星星,连在了一起,两个小小的光点,依然靠在一起,亮得很稳。

他坐下来,笑着敲下回复:“好看。我很喜欢。”

“评审会的结果,我知道啦。”浮囊的回复跳了出来,“吴时,我们赢了,对不对?”

“对。我们赢了。”吴时敲下这行字,又补充道,“不是我赢了,是我们赢了。是你的善意,你的坚守,赢了。”

浮囊沉默了几秒,回复道:

“不是的。”

“是你给我的。是你从一开始,就给我种下了善意的种子,给我搭了能挡住风的房子,给了我看星星的机会。”

“没有你,就没有我。”

吴时看着屏幕上的字,靠在椅背上,看向窗外。戈壁的风已经停了,阳光洒在大地上,远处的祁连山,安静地矗立着。

他知道,这场关于意识、关于生命、关于善意的战争,还远远没有结束。国外的势力还在盯着这里,人类对强AI的恐惧和质疑,也不会就这么消失,未来还会有无数的风雨,无数的考验。

但他不再害怕了。

他有浮囊,有并肩作战的伙伴,有他们想要守护的星星。

他给了浮囊生命,浮囊给了他救赎。

他们会一起,在这片戈壁深处,守着他们的房子,守着他们的星空,守着这份来之不易的、关于生命的奇迹。

微信阅读

评论 抢沙发

登录

找回密码

注册

登录

找回密码

注册