检索范围:
排序: 展示方式:
网络安全遇上人工智能:综述 Review Article
Jian-hua LI
《信息与电子工程前沿(英文)》 2018年 第19卷 第12期 页码 1462-1474 doi: 10.1631/FITEE.1800573
关键词: 网络安全;人工智能;攻击监测;防御技术
朱世强,王永恒
《中国工程科学》 2021年 第23卷 第3期 页码 67-74 doi: 10.15302/J-SSCAE-2021.03.004
内容安全是指对信息内容的保护,以及信息内容符合政治、法律、道德层次的要求。人工智能的发展对内容安全产生了非常重要的影响。本文从基于人工智能的内容安全重大战略需求出发,梳理了国内外的研究现状与发展趋势,凝练了基于人工智能的内容安全的关键技术问题。研究提出,按照三步走的策略构建世界领先的基于人工智能的内容安全体系;在对抗性机器学习、可解释人工智能、混合增强智能、知识驱动的内容安全等方面开展技术创新突破,同时应注重政策法规和监管机制建设;建设面向内容攻防的网络靶场、面向舆情攻防的大规模社会系统模拟装置等内容安全重大基础设施。
关键词: 人工智能,内容安全,体系建设
中国人工智能的伦理原则及其治理技术发展 Review
吴文峻,黄铁军,龚克
《工程(英文)》 2020年 第6卷 第3期 页码 302-309 doi: 10.1016/j.eng.2019.12.015
伦理原则和治理技术对于人工智能(AI)的健康和可持续发展至关重要。为了实现AI造福人类社会这一长期目标,中国政府、研究机构和企业已经发布了AI的伦理原则,并启动了研究AI治理技术的项目。
方滨兴,时金桥, 王忠儒,余伟强
《中国工程科学》 2021年 第23卷 第3期 页码 60-66 doi: 10.15302/J-SSCAE-2021.03.002
人工智能(AI)在为社会进步带来显著推动效应的同时,也在促进网络空间安全领域的重大变革,研究AI 和网络空间安全结合带来的安全问题具有迫切意义本文采用自顶向下的分析方法,从加剧现实安全威胁、催生新型安全威胁两个角度分析了AI 和网络空间安全结合带来的政治安全、经济安全、社会安全、国防安全等重大问题,提炼了自主化规模化的拒绝服务攻击、智能化高仿真的社会工程学攻击、智能化精准化的恶意代码攻击等新型威胁场景,总结了环境自适应隐蔽攻击、分布式自主协作攻击、自我演化攻击等未来发展趋势。为有效应对AI 赋能网络攻击的安全威胁,建议从防范安全威胁、构建对等能力角度加强智能化网络攻防体系建设和能力升级;加强AI 安全数据资产的共享利用,采取以数据为中心的AI 网络攻防技术发展路径;加强对抗评估和测试验证
贾焰,方滨兴,李爱平,顾钊铨
《中国工程科学》 2021年 第23卷 第3期 页码 98-105 doi: 10.15302/J-SSCAE-2021.03.003
网络空间是继陆、海、空、天之后的第五大活动空间,维护网络空间安全是事关国家安全、国家主权和人民群众合法权益的重大问题。随着人工智能技术的飞速发展和在各领域的应用,网络空间安全面临着新的挑战。本文分析了人工智能时代网络空间安全面临的新风险,包括网络攻击越来越智能化,大规模网络攻击越来越频繁,网络攻击的隐蔽性越来越高,网络攻击的对抗博弈越来越强,重要数据越来越容易被窃取等;介绍了人工智能技术在处理海量数据、多源异构数据、实时动态数据时具有显著的优势,能大幅度提升网络空间防御能力;基于人工智能的网络空间防御关键问题及技术,重点分析了网络安全知识大脑的构建及网络攻击研判,并从构建动态可扩展的网络安全知识大脑,推动有效网络攻击的智能化检测,评估人工智能技术的安全性三个方面提出了针对性的发展对策和建议。
施文,王楷文,俞成浦,孙健,陈杰
《中国工程科学》 2021年 第23卷 第3期 页码 82-89 doi: 10.15302/J-SSCAE-2021.03.007
作为中国新一代人工智能规划中的重要组成部分,多无人系统协同是我国未来国防建设和社会发展的一项变革性技术。虽然多无人系统协同技术研究与系统集成已经达到了空前高度,但是其相关人工智能安全问题研究还处在萌芽阶段。本文阐述了统筹推进多无人系统协同赋能应用与风险防控的重大意义,提出了“四位一体”全面推进多无人系统协同安全发展的战略思路,探索了多无人系统协同在内生安全和衍生安全层面潜在的挑战与应对思路研究提出了智能无人系统安全对策建议:构建国家级无人系统验证平台,推动人才队伍建设;逐步深化无人系统产业“放管服”,发展新一代人工智能安全生态;充分发挥多无人系统协同的优势,赋能保障和改善民生
刘宇擎,张玉槐,段沛奇,施柏鑫,余肇飞,黄铁军,高文
《中国工程科学》 2021年 第23卷 第3期 页码 75-81 doi: 10.15302/J-SSCAE-2021.03.005
未来进入强人工智能(AGI)时代,人类可能面临重大安全风险。本文归纳了AGI 与传统人工智能的区别,从模型的不可解释性、算法及硬件的不可靠性、自主意识的不可控性三方面研判了AGI 安全风险的来源,从能力、动机、行为3 个维度提出了针对AGI 的安全风险评估体系。为应对安全风险,从理论及技术研究、应用两个层面分别探讨相应风险的防御策略:在理论技术研究阶段,完善理论基础验证,实现模型可解释性,严格限制AGI 底层价值取向,促进技术标准化;在应用阶段,预防人为造成的安全问题
人工智能与统计分析 Perspective
Bin YU, Karl KUMBIER
《信息与电子工程前沿(英文)》 2018年 第19卷 第1期 页码 6-9 doi: 10.1631/FITEE.1700813
关键词: 人工智能;统计;人机协作
潘云鹤
《工程(英文)》 2016年 第2卷 第4期 页码 409-413 doi: 10.1016/J.ENG.2016.04.018
随着互联网的普及、传感网的渗透、大数据的涌现、信息社区的崛起,以及数据和信息在人类社会、物理空间和信息空间之间的交叉融合与相互作用,当今人工智能(AI) 发展所处信息环境和数据基础已经发生了深刻变化,人工智能的目标和理念正面临重要调整,人工智能的科学基础和实现载体也面临新的突破,人工智能正进入一个新的阶段。这个源于传统而又与之不同的人工智能新阶段被称为人工智能2.0(AI 2.0)。本文从人工智能60 年的发展历史出发,通过分析促成人工智能2.0形成的外部环境与目标的转变,分析技术萌芽,提出了人工智能2.0 的核心理念,并结合中国发展的社会需求与信息环境特色,给出了发展人工智能2.0
人工智能算法在网络空间安全中的应用:技术与现状综述 Review
陈捷1,2,武丹丹2,谢瑞云2
《信息与电子工程前沿(英文)》 2023年 第24卷 第8期 页码 1117-1142 doi: 10.1631/FITEE.2200314
蒋昌俊,王俊丽
《中国工程科学》 2018年 第20卷 第6期 页码 93-100 doi: 10.15302/J-SSCAE-2018.06.015
人工智能(AI)旨在模拟人脑中信息存储和处理机制等智能行为,使机器具有一定程度的智能水平。本文将深入分析与AI密切相关的计算机科学、控制科学、类脑智能、人脑智能等学科或领域之间的交融与历史演进;指出神经科学、脑科学与认知科学中有关脑的结构与功能机制的研究成果,为构建智能计算模型提供了重要的启发,并从逻辑模型及系统、神经元及网络模型、视觉神经分层机制等方面,分别阐述智能的驱动与发展;最后从互联网的计算理论、AI的演算和计算的融合、类脑智能的模型和机理、AI对神经科学的推动作用、反馈计算的算法设计与控制系统的能级五个方面
“新一代人工智能引领下的制造业新模式新业态研究”课题组
《中国工程科学》 2018年 第20卷 第4期 页码 66-72 doi: 10.15302/J-SSCAE-2018.04.011
在新一代人工智能技术引领下,制造业的生产技术、组织方式、竞争策略等,都将面临重大调整,为制造业新模式与新业态的形成提供了可能。受新一代人工智能技术驱动,制造业实践中不断涌现由服务而产生的新模式新业态是本课题的研究核心。课题重点围绕由开展智能服务而产生的新模式和新业态进行研究,分析了在人工智能技术引领下,制造业的模式与业态的演进趋势,新模式与新业态的典型类型,支撑性、关键性技术;提出了新模式与新业态的发展方针、目标与途径
李瑞琪,韦莎,程雨航,侯宝存
《中国工程科学》 2018年 第20卷 第4期 页码 112-117 doi: 10.15302/J-SSCAE-2018.04.018
针对人工智能在智能制造领域应用不断深入的趋势,本文基于企业关键绩效指标(KPI)的定义,分析了智能制造的系统实现形式,并进一步讨论了人工智能技术在智能制造中的主要作用;通过梳理人工智能在智能制造中的典型应用场景,从生命周期维度提出了人工智能在智能制造中的应用地图,总结了人工智能在智能制造应用中的共性技术,并以生产环节为例说明了人工智能技术对企业的影响;最后,提出了人工智能在智能制造中的标准体系
标题 作者 时间 类型 操作