“杨老师,您还记得二○四九年的机器人KTV杀人事件吗?”林奕问,看过赵晨光的那些黑材料,她还真有点忧心忡忡,“日本发生的那起。”
一些资料图片涌进杨志远面前的虚拟显示区,在他眼前自动播放。那是在KTV从事服务业的人形娱乐机器人,忽然放火烧掉了KTV,造成顾客九死十伤的悲剧事件。
“我记得。”杨志远回答,“这之后加强了对机器人的行为监控。你们想说什么?”
“那些机器人,是‘出云四号’超算控制的工厂制作的,包括行为模式输入。”赵晨光说,“‘出云四号’后来被禁用,您知道为什么?”
杨志远摇头。一台超算被禁止工作的原因有很多。比如“小桂”,大窝凼天文台成立初期定制的超级计算机,由于ATS的大部分项目被太空望远镜取代,经费捉襟见肘,就只能束之高阁。
看到杨志远忽然黯淡的表情,赵晨光倒豆子一样哗啦啦地一气说了出来:“调查发现,‘出云四号’不仅为机器人在设计时输入了行为模式,还接受它们的行为反馈,可以随时调整机器人的表现。也就是说,这些机器人实际上由‘出云四号’操纵。机器人纵火,并非报道中的机器人控制失灵,而是超算指挥。超算杀了人!因为人欺负了那些娱乐机器人!”
林奕拉住赵晨光:“别激动别激动,慢点说。”
“类似的例子,在这二十年中发生了多少起,老师您知道吗?三十九起!总共有七百八十三人丧生!老师!”赵晨光情绪上来了,语速有些不稳,掐住林奕的手臂,“这不是事故,这是蓄意谋杀!”
杨志远劝道:“真别激动,晨光,每年全球交通事故的死亡人数有多少?你不能就此认为,那些无人汽车、高速火车和超音速飞机想谋杀人。”
“不,不,这怎么能和交通事故相比呢?这是有意地谋杀!”赵晨光提高声量,“老师,超算是超级计算机,也是强智能计算机,它从‘他识’上升到‘我识’只不过是时间问题。”