【创新连线俄罗斯】恶意使用人工智能对国际信息和心理安全的危害

2019-11-04 14:39:52 来源: 科技日报 作者: 蕫映璧

人工智能对人类构成的潜在危险已是科学技术发展中讨论最多的问题之一。尽管能够进行独立系统性思考并且可能具有自我意识和意志的“强人工智能”远未被创造出来,但各种高级版本的“弱人工智能”已经在执行10年前似乎还是幻想的专业任务了。将人工智能用于良好愿望(例如医学)已经带来了无可置疑的好处。然而,在恐怖主义和其他犯罪组织的手中,成本逐渐降低、越来越先进的人工智能技术可能成为比核武器更可怕的武器。俄联邦总统直属国民经济与国家行政学院和俄罗斯外交部外交学院研究人员从国际信息和心理安全的角度对使用人工智能的威胁进行了研究和分类,尤其关注了打击恐怖分子恶意使用人工智能的行为。相关研究结果发表在《全球事务中的俄罗斯》杂志上。

来自不同国家的研究人员正在积极研究恶意使用人工智能对整个社会和人类活动的个别领域所构成的威胁,包括政治、经济、军事等领域。然而,对国际信息和心理安全构成的威胁尚未被单独研究。同时,利用人工智能通过有针对性地对人进行高科技信息和心理影响来破坏国际关系的稳定显然十分危险。

俄罗斯国民经济与国家行政学院国际安全与外交政策教研室教授达里娅·巴扎尔金娜认为,未来人工智能技术成本的降低可能会催生全新的恐怖主义威胁。不排除使用聊天机器人来构建虚假活动信息并说服潜在受害者参加恐怖活动。为此,建议让公众熟悉新的威胁,指导公民警惕与不熟悉的人进行远程接触。对公共事件信息发布真实性进行认证是一个可能的出路。当然,在这种情况下,技术专家的任务将是保护活动数据库及其认证机制。(本栏目稿件来源:俄罗斯卫星通讯社 整编:本报记者董映璧)

责任编辑: 左常睿