恶意使用人工智能的危险?

人工智能对人类构成的潜在危险不止一次成为艺术作品的主题,目前也是科学技术发展中讨论最多的问题之一。尽管能够进行独立系统性思考并且可能具有自我意识和意志的“强人工智能”远未被创造出来,但各种高级版本的“弱人工智能”已经在执行10年前似乎还是幻想的专业任务了。将人工智能用于良好目的(例如,用于医学)已经带来了无可置疑的好处。然而,在恐怖主义和其他犯罪组织的手中,成本逐渐降低、越来越先进的人工智能技术可能成为比核武器更可怕的武器。

来自不同国家的研究人员正在积极研究恶意使用人工智能对整个社会和人类活动的个别领域所构成的威胁,包括政治、经济、军事等领域。然而,对国际信息和心理安全构成的威胁尚未被拿来单独研究。同时,利用人工智能通过有针对性地对人进行高科技信息和心理影响来破坏国际关系的稳定显然十分危险。

该研究的作者基于地域覆盖范围、速度和传播形式等一系列标准对恶意使用人工智能构成的威胁进行了分类,这将有助于找到对抗和开发回应工具的方法。

俄罗斯国民经济与国家行政学院国际安全与外交政策教研室教授达里娅·巴扎尔金娜向俄罗斯卫星通讯社表示:“未来人工智能技术成本的降低可能会催生全新的恐怖主义威胁。对基本上新的恐怖主义行为构成威胁。不排除使用聊天机器人来构建虚假活动信息并说服潜在受害者参加。为了对抗,建议让公众熟悉新的威胁,指导公民警惕与不熟悉的人进行远程接触。对公共事件信息发布真实性进行认证是一个可能的出路。当然,在这种情况下,技术专家的任务将是保护活动数据库及其认证机制。”

人工智能的现代技术和能力水平使我们能够划分出对人的信息和心理安全构成的一系列全新威胁。

基于人工智能控制的自学运输系统可能成为高科技恐怖袭击的便利目标。恐怖分子对大城市交通管理系统的控制可能会造成很多伤亡。
商业系统可用于部署无人驾驶飞行器或自动驾驶车辆,以运送爆炸物和制造事故。一系列重大灾害能够引起国际媒体轰动,对心理安全造成重大损害。

俄罗斯国民经济与国家行政学院和俄罗斯外交部外交学院的研究人员将系统性分析人工智能在安全领域的作用、情景分析方法、历史类比和案例分析作为研究基础。该研究的作者与乌普萨拉大学(瑞典)的格雷格·西蒙斯合作撰写了即将出版的《信息和心理对抗中的恐怖主义和先进技术:新风险、应对恐怖主义威胁的新机遇》,有来自11个国家的研究人员参与编写。

在俄罗斯研究人员的倡议下,人工智能在国际信息和心理安全受到威胁背景下的作用问题正在积极讨论中,并将在国际会议和国际自主研究研讨会上进行讨论。其中包括在俄罗斯联合国教科文组织全国委员会以及多个俄罗斯和国际机构支持下于6月9日至12日在汉特-曼西斯克举行的会议。汉特-曼西斯克自治区区长纳塔利娅·科马罗娃积极参与了欧洲-俄罗斯通信管理专家网络支持举办的恶意使用人工智能问题会议。之后还有将于2019年10月1日至3日在圣彼得堡举行第四届伊比利亚美洲论坛、2019年10月31日至11月1日的欧洲人工智能和机器人技术会议。该研究的作者曾在阿根廷、乌拉圭、巴西、南非和意大利做过科学报告。

俄罗斯国民经济与国家行政学院和俄罗斯外交部外交学院的专家认为,以俄罗斯的规模形成长期专项计划极为重要,因为人工智能和国际信息心理安全问题是不久的将来就要面对的问题。