有朝一日人工智能机器会拒绝服从人类指挥,甚至杀死或控制人类、最终统治世界吗?包括英国理论物理学家斯蒂芬·霍金在内,数百名科学家和企业家联合发表的一封公开信或体现了这种担忧,公开信敦促人们警惕人工智能“脱离人类的控制”,导致灾难。

　　目前,人工智能研究的成果已被广泛运用,其中包括语音识别和图像识别,以及自动驾驶的汽车。在硅谷,有估计从事人工智能业务的初创企业已超过了150家。

　　英、法等国媒体12日报道,这封信由非营利机构“未来生活研究所”发布。信中写道,人工智能技术稳定发展已获“广泛共识”,而且未来能够给人类带来巨大益处。“人工智能已经为人类生活提供便利,包括语音识别技术、图像分析技术、无人驾驶汽车和翻译工具”。但是,“如果没有针对人工智能的安全防护措施,可能导致人类的未来变得黯淡,甚至让人类灭亡”。

　　公开信认为,人工智能可能导致数以百万计人失业;长期而言,可能出现一些科幻电影中的情况,人工智能的智力水平超过人类,开始“政变”。按人工智能的发展进度,在不久的将来,机器可能以不断加快的速度重新设计自己,超越受制于生物进化速度的人类,“最终摆脱人类的控制”。