检索范围:
排序: 展示方式:
施文,王楷文,俞成浦,孙健,陈杰
《中国工程科学》 2021年 第23卷 第3期 页码 82-89 doi: 10.15302/J-SSCAE-2021.03.007
作为中国新一代人工智能规划中的重要组成部分,多无人系统协同是我国未来国防建设和社会发展的一项变革性技术。虽然多无人系统协同技术研究与系统集成已经达到了空前高度,但是其相关人工智能安全问题研究还处在萌芽阶段。本文阐述了统筹推进多无人系统协同赋能应用与风险防控的重大意义,提出了“四位一体”全面推进多无人系统协同安全发展的战略思路,探索了多无人系统协同在内生安全和衍生安全层面潜在的挑战与应对思路研究提出了智能无人系统安全对策建议:构建国家级无人系统验证平台,推动人才队伍建设;逐步深化无人系统产业“放管服”,发展新一代人工智能安全生态;充分发挥多无人系统协同的优势,赋能保障和改善民生
刘宇擎,张玉槐,段沛奇,施柏鑫,余肇飞,黄铁军,高文
《中国工程科学》 2021年 第23卷 第3期 页码 75-81 doi: 10.15302/J-SSCAE-2021.03.005
未来进入强人工智能(AGI)时代,人类可能面临重大安全风险。本文归纳了AGI 与传统人工智能的区别,从模型的不可解释性、算法及硬件的不可靠性、自主意识的不可控性三方面研判了AGI 安全风险的来源,从能力、动机、行为3 个维度提出了针对AGI 的安全风险评估体系。为应对安全风险,从理论及技术研究、应用两个层面分别探讨相应风险的防御策略:在理论技术研究阶段,完善理论基础验证,实现模型可解释性,严格限制AGI 底层价值取向,促进技术标准化;在应用阶段,预防人为造成的安全问题
网络安全遇上人工智能:综述 Review Article
Jian-hua LI
《信息与电子工程前沿(英文)》 2018年 第19卷 第12期 页码 1462-1474 doi: 10.1631/FITEE.1800573
关键词: 网络安全;人工智能;攻击监测;防御技术
朱世强,王永恒
《中国工程科学》 2021年 第23卷 第3期 页码 67-74 doi: 10.15302/J-SSCAE-2021.03.004
内容安全是指对信息内容的保护,以及信息内容符合政治、法律、道德层次的要求。人工智能的发展对内容安全产生了非常重要的影响。本文从基于人工智能的内容安全重大战略需求出发,梳理了国内外的研究现状与发展趋势,凝练了基于人工智能的内容安全的关键技术问题。研究提出,按照三步走的策略构建世界领先的基于人工智能的内容安全体系;在对抗性机器学习、可解释人工智能、混合增强智能、知识驱动的内容安全等方面开展技术创新突破,同时应注重政策法规和监管机制建设;建设面向内容攻防的网络靶场、面向舆情攻防的大规模社会系统模拟装置等内容安全重大基础设施。
关键词: 人工智能,内容安全,体系建设
潘云鹤
《工程(英文)》 2016年 第2卷 第4期 页码 409-413 doi: 10.1016/J.ENG.2016.04.018
随着互联网的普及、传感网的渗透、大数据的涌现、信息社区的崛起,以及数据和信息在人类社会、物理空间和信息空间之间的交叉融合与相互作用,当今人工智能(AI) 发展所处信息环境和数据基础已经发生了深刻变化,人工智能的目标和理念正面临重要调整,人工智能的科学基础和实现载体也面临新的突破,人工智能正进入一个新的阶段。这个源于传统而又与之不同的人工智能新阶段被称为人工智能2.0(AI 2.0)。本文从人工智能60 年的发展历史出发,通过分析促成人工智能2.0形成的外部环境与目标的转变,分析技术萌芽,提出了人工智能2.0 的核心理念,并结合中国发展的社会需求与信息环境特色,给出了发展人工智能2.0
方滨兴,时金桥, 王忠儒,余伟强
《中国工程科学》 2021年 第23卷 第3期 页码 60-66 doi: 10.15302/J-SSCAE-2021.03.002
人工智能(AI)在为社会进步带来显著推动效应的同时,也在促进网络空间安全领域的重大变革,研究AI 和网络空间安全结合带来的安全问题具有迫切意义本文采用自顶向下的分析方法,从加剧现实安全威胁、催生新型安全威胁两个角度分析了AI 和网络空间安全结合带来的政治安全、经济安全、社会安全、国防安全等重大问题,提炼了自主化规模化的拒绝服务攻击、智能化高仿真的社会工程学攻击、智能化精准化的恶意代码攻击等新型威胁场景,总结了环境自适应隐蔽攻击、分布式自主协作攻击、自我演化攻击等未来发展趋势。为有效应对AI 赋能网络攻击的安全威胁,建议从防范安全威胁、构建对等能力角度加强智能化网络攻防体系建设和能力升级;加强AI 安全数据资产的共享利用,采取以数据为中心的AI 网络攻防技术发展路径;加强对抗评估和测试验证
房玉东,王文,张志,边路
《中国工程科学》 2023年 第25卷 第1期 页码 1-9 doi: 10.15302/J-SSCAE-2023.01.009
在极端气候和环境变化加剧的背景下,快速城市化进程使得城市公共安全面临越来越多的风险与挑战。本文基于城市防灾减灾与安全发展的现实需求,提出我国安全韧性城市建设在防灾减灾方面存在的问题,深度剖析当前安全韧性城市建设面临的诸多挑战。在城市防灾减灾与安全发展的理念下,提出制度韧性、社会韧性、工程韧性、技术韧性四个安全韧性城市建设要点。并对安全韧性城市防灾减灾发展给出建议:健全灾害防治法律标准,建立高效应急协同机制;推进多元主体协同共治,构建防灾减灾救灾新格局;提升社会灾害风险意识,筑牢社会防线;加快防灾减灾基础设施建设,提升城市设防水平;强化防灾减灾科技和专业人才力量建设,提升风险治理水平。
中国人工智能的伦理原则及其治理技术发展 Review
吴文峻,黄铁军,龚克
《工程(英文)》 2020年 第6卷 第3期 页码 302-309 doi: 10.1016/j.eng.2019.12.015
伦理原则和治理技术对于人工智能(AI)的健康和可持续发展至关重要。为了实现AI造福人类社会这一长期目标,中国政府、研究机构和企业已经发布了AI的伦理原则,并启动了研究AI治理技术的项目。
贾焰,方滨兴,李爱平,顾钊铨
《中国工程科学》 2021年 第23卷 第3期 页码 98-105 doi: 10.15302/J-SSCAE-2021.03.003
网络空间是继陆、海、空、天之后的第五大活动空间,维护网络空间安全是事关国家安全、国家主权和人民群众合法权益的重大问题。随着人工智能技术的飞速发展和在各领域的应用,网络空间安全面临着新的挑战。本文分析了人工智能时代网络空间安全面临的新风险,包括网络攻击越来越智能化,大规模网络攻击越来越频繁,网络攻击的隐蔽性越来越高,网络攻击的对抗博弈越来越强,重要数据越来越容易被窃取等;介绍了人工智能技术在处理海量数据、多源异构数据、实时动态数据时具有显著的优势,能大幅度提升网络空间防御能力;基于人工智能的网络空间防御关键问题及技术,重点分析了网络安全知识大脑的构建及网络攻击研判,并从构建动态可扩展的网络安全知识大脑,推动有效网络攻击的智能化检测,评估人工智能技术的安全性三个方面提出了针对性的发展对策和建议。
窦文悦,胡平,魏平,郑南宁
《中国工程科学》 2021年 第23卷 第6期 页码 167-177 doi: 10.15302/J-SSCAE-2021.06.016
无人驾驶汽车是人工智能技术的应用热点之一,随之而来的车辆安全事故引发了全社会关注;无人驾驶安全风险的识别与度量成为人工智能安全领域亟待研究的课题本文通过案例访谈收集定性资料,采用探索性的质性研究方法和扎根理论,对安全风险的关键要素进行识别与提炼,率先提出无人驾驶安全风险六要素框架:单车安全、联网安全、技术水平、法律政策、社会舆论、产业风险;完成问卷量表设计,进行两次网络问卷调查以收集必要数据,据此对安全风险要素进行度量验证。研究认为,为了有效应对未来无人驾驶的安全风险,企业应加强关键零部件的研发和制造,增强信息安全的建设和投入,参与行业标准和法律法规的制定,不做虚假宣传并积极维护新兴行业发展;政府应合理加强测试监管,加速颁布法规与制定标准
超特长隧洞TBM 集群施工风险管控技术 Article
邓铭江
《工程(英文)》 2018年 第4卷 第1期 页码 112-122 doi: 10.1016/j.eng.2017.07.001
章明,刘培
《中国工程科学》 2020年 第22卷 第6期 页码 111-120 doi: 10.15302/J-SSCAE-2020.06.015
金融安全是国家安全的重要组成部分,防范化解金融风险是金融工作的根本性任务。为帮助商业银行加快打造适应数字经济时代发展需要的风险防控平台,本文基于大数据应用的关键技术,提出了一种 “五层两域”智能风险防控平台总体框架;纵向包含风险数据层、特征计算层、风险模型层、决策引擎层、业务接入层,各层之间松耦合、无状态、可扩展;横向则划分为生产部署域、业务运营域,可最大程度兼顾系统运行的稳定性与业务应用的灵活度。该设计有助于商业银行实现风险数据的统一治理和统一管理,在保证风险防控平台高效稳定运行的同时,又能在风险防控运营、数据分析、模型设计、规则调整等方面为风险防控业务人员提供充足的支撑。以某金融机构部署的智能风险防控平台为例,阐述了该平台的应用情况及实际成效,并对智能风险防控平台的应用发展提出建议。
智能无人系统:新一代人工智能重要成果及其应用 Editorial
吴澄1,2,张涛1,2
《信息与电子工程前沿(英文)》 2020年 第21卷 第5期 页码 649-651 doi: 10.1631/FITEE.2030000
一种跟踪性能不占优的多无人机协同目标跟踪方法 Research Articles
郑之,蔡舜诚
《信息与电子工程前沿(英文)》 2021年 第22卷 第10期 页码 1334-1350 doi: 10.1631/FITEE.2000362
孙旭东 ,徐小宇 ,罗魁 ,张博 ,杨毅 ,刘梓壮 ,彭苏萍
《中国工程科学》 2023年 第25卷 第6期 页码 179-190 doi: 10.15302/J-SSCAE-2023.07.033
新能源大规模应用是实现“双碳”战略目标的主要途径,开展新能源应用安全风险防控战略研究有助于新能源应用安全监管、风险防控与保障体系建设当前我国新能源应用涉及的新兴基础设施类型多样,面临着安全事故成因复杂、安全风险认知仍不充分、安全防控技术体系不完备、安全监管制度建设滞后等现实问题。本文从我国新能源应用发展现状与安全形势分析出发,剖析了充 / 换电站、储能站、加氢站、综合能源站等新能源应用基础设施面临的安全风险防控问题,总结了国外相关安全风险防控的现状与经验启示;围绕建立新能源应用安全事故前、中、后立体防控与保障体系,加强各利益相关方的安全风险管理与监管能力两大防控目标,构建了新能源应用安全风险防控战略框架,明确了管理与技术两个维度的重点任务以及中长期工程科技支撑项目。进一步提出了顶层设计、治理标准、监管平台、技术研发、人才培养、共建生态等发展建议,以增强新能源应用安全的研究与应用水平。
标题 作者 时间 类型 操作