Search | Engineering

订阅投稿

首页工程期刊工程焦点工程成就工程前沿关于我们 English

资源类型

期刊论文 1043

会议视频 63

会议信息 36

年份

2024 2

2023 119

2022 126

2021 121

2020 99

2019 111

2018 68

2017 81

2016 48

2015 19

2014 24

2013 26

2012 23

2011 21

2010 15

2009 17

2008 27

2007 30

2006 33

2005 32

展开︾

关键词

大数据 29

机器学习 27

人工智能 16

深度学习 15

2020 14

能源 11

模式识别 10

数据挖掘 9

神经网络 9

智能制造 6

2019 5

农业科学 5

信息技术 4

目标识别 4

遗传算法 4

颠覆性技术 4

MATLAB 3

区块链 3

医学 3

展开︾

检索范围：

排序：展示方式：

学习挑选伪标签：一种用于命名实体识别的半监督学习方法 Research Articles

李真真,冯大为,李东升,卢锡城

《信息与电子工程前沿（英文）》 2020年第21卷第6期页码 809-962 doi: 10.1631/FITEE.1800743

摘要：深度学习模型在命名实体识别（NER）中实现了最先进的性能；然而，其良好性能很大程度上依赖于大量标记数据。在某些特定领域，例如医学、金融和军事领域，标记数据非常稀缺，而未标记数据则很容易获得。过往研究使用未标记数据丰富词的表示，却忽略了未标记数据中对NER任务很可能有帮助的大量实体信息。本文提出一种用于NER任务的半监督方法，其通过学习一个判别模块筛除错误伪标签，以创建高质量标注数据。伪标签是为未标记数据自动生成的标签，并被当作真实标签用来训练模型。该半监督框架包括3个步骤：为特定NER任务构建最佳单神经网络模型，学习一个评价伪标签的模块，以及迭代创建新的标记数据和改进NER模型。两个英语NER任务和一个中文医疗命名实体识别任务的实验结果表明，该方法进一步提高了最佳单神经模型的性能。当仅使用预训练的静态词嵌入且不依赖任何外部知识时，该方法可获得与CoNLL-2003和OntoNotes 5.0英语NER任务上最先进模型相当的性能。

关键词：命名实体识别；无标注数据；深度学习；半监督学习方法

HTML PDF 收藏

网络空间安全命名实体识别综述 Review Article

高宸1,张璇1,2,3,韩梦婷1,刘会1

《信息与电子工程前沿（英文）》 2021年第22卷第9期页码 1153-1168 doi: 10.1631/FITEE.2000286

摘要：随着互联网技术飞速发展和大数据时代到来，越来越多网络空间安全文本出现在互联网上。这些文本不仅包括安全概念、事件、工具、指南和政策，还包括风险管理方法、最佳实践、保证和技术等。整合大规模、异构和非结构化的网络空间安全信息，对网络空间安全实体进行识别和分类，有助于处理和解决网络空间安全问题。由于网络空间安全领域文本的复杂性和多样性，使用传统的命名实体识别（NER）方法难以识别该领域中的安全实体。本文介绍该领域NER的各种方法和技术，包括基于规则的方法、基于字典的方法和基于机器学习的方法，并讨论该领域NER研究面临的问题，如实体词组的结合与分离、非标准化的命名约定、缩写和大量嵌套等。最后，提出NER在网络空间安全方面的3个研究方向：（1）应用无监督或半监督技术；（2）开发更全面的网络空间安全本体；（3）应用更加有效的深度学习模型。

关键词：命名实体识别（NER）；信息抽取；网络空间安全；机器学习；深度学习

HTML PDF 收藏

基于众包标签数据深度学习的命名实体消歧算法 Article

Le-kui ZHOU,Si-liang TANG,Jun XIAO,Fei WU,Yue-ting ZHUANG

《信息与电子工程前沿（英文）》 2017年第18卷第1期页码 97-106 doi: 10.1631/FITEE.1601835

摘要：命名实体消歧主要研究如何将存在歧义的文本描述映射到其对应知识库（例如Wikipedia）中的实体。本文结合群体智能（即群体用户生成的标签）和深度学习（即数据驱动学习），提出了在命名实体消歧过程中生成区别度更高的特征方法。具体来说，通过设计一个众包模型，学习文本描述或实体所对应“众包特征”，然后利用“众包特征”对动态卷积神经网络（Dynamic convolutional neural network, DCNN）进行优化，最后用优化得到的DCNN来提取“深度众包特征”，以此来解决传统命名实体消歧算法中单独依赖手工设计特征的不足。本文所提出方法巧妙将群体认知（由众包标签反映）结合到命名实体消歧深度学习框架中。实验分析表明，当有足够多众包标签时，所提出方法优于传统手工设计特征。

关键词：命名实体消歧；众包计算；深度学习

HTML PDF 收藏

NGAT：基于广度和深度探索注意力机制的半监督图表示学习 Research Articles

胡荐苛,张引

《信息与电子工程前沿（英文）》 2022年第23卷第3期页码 409-421 doi: 10.1631/FITEE.2000657

摘要：近年来图神经网络（GNN）在图结构数据表示学习方面取得显著成绩。然而，随着网络层数增加，由于过度平滑问题，基于邻域信息聚合策略的GNN性能恶化，这也是GNN应用于真实图的主要瓶颈。为缓解过度平滑，本文提出一种嵌套的图注意网络，即基于双重注意力机制的多尺度特征融合模型NGAT，该网络可以半监督形式工作。除广度探索，k层NGAT运用注意力机制引导的分层聚合策略，选择性地利用来自k阶邻域的信息特征，即深度探索。本文在公开数据集上对比了现有图神经网络模型，实验表明本文提出的NGAT模型具备更强的节点嵌入学习能力。

关键词：图学习；半监督学习；节点分类；注意力机制

HTML PDF 收藏

联邦无监督表示学习 Research Article

张凤达1,况琨1,陈隆1,游兆阳1,沈弢1,肖俊1,张寅1,吴超2,吴飞1,庄越挺1,李晓林3,4,5

《信息与电子工程前沿（英文）》 2023年第24卷第8期页码 1181-1193 doi: 10.1631/FITEE.2200268

摘要：为利用分布式边缘设备上大量未标记数据，我们在联邦学习中提出一个称为联邦无监督表示学习(FURL)的新问题，以在没有监督的情况下学习通用表示模型，同时保护数据隐私。FURL提出了两个新挑战：（1）客户端之间的数据分布转移（非独立同分布）会使本地模型专注于不同的类别，从而导致表示空间的不一致；（2）如果FURL中客户端之间没有统一的信息，客户端之间的表示就会错位。FedCA由两个关键模块组成：字典模块，用于聚合来自每个客户端的样本表示并与所有客户端共享，以实现表示空间的一致性；对齐模块，用于将每个客户端的表示与基于公共数据训练的基础模型对齐。我们采用对比方法进行局部模型训练，通过在3个数据集上独立同分布和非独立同分布设定下的大量实验，我们证明FedCA以显著的优势优于所有基线方法。

关键词：联邦学习；无监督学习；表示学习；对比学习

HTML PDF 收藏

半监督堆叠距离自动编码器的表征学习在图像分类上的应用 Research Articles

侯亮,罗潇逸,汪子扬,梁军

《信息与电子工程前沿（英文）》 2020年第21卷第7期页码 963-1118 doi: 10.1631/FITEE.1900116

摘要：图像分类是深度学习的重要应用。在典型分类任务中，分类精度与通过深度学习方法提取的特征密切相关。自动编码器是一种特殊神经网络，常用于降维和特征提取。本文所提方法基于传统的自动编码器，将不同类别样本之间的“距离”信息纳入其中。该模型被称为半监督距离自动编码器。首先以无监督方式对每一层进行预训练。在随后的监督训练中，将优化的参数设置为初始值。开展一系列实验测试不同模型在几个数据集上的性能，包括MNIST数据集、街景门牌号码（SVHN）数据集、德国交通标志识别基准（GTSRB）和CIFAR-10数据集。将所提半监督距离自动编码器方法分别与传统自动编码器、稀疏自动编码器和监督自动编码器比较，实验结果证明该模型有效。

关键词：自动编码器；图像分类；半监督学习；神经网络

HTML PDF 收藏

面向强化学习自动驾驶模型的异步监督学习预训练方法 Research Articles

王云鹏,郑坤贤,田大新,段续庭,周建山

《信息与电子工程前沿（英文）》 2021年第22卷第5期页码 615-766 doi: 10.1631/FITEE.1900637

摘要：强化学习训练需要大量训练数据，然后模型才能达到合理的性能要求，这使得基于强化学习的模型不适用于现实环境，尤其在数据昂贵的情况下。本文为基于强化学习的端到端自动驾驶模型提出一种异步监督学习（asynchronous supervised learning，ASL）方法，以解决在实际环境中训练基于强化学习模型时初始性能差的问题。具体而言，通过在多个驾驶演示数据集上并行且异步执行多个监督学习过程，在异步监督学习预训练阶段引入先验知识。本文在赛车模拟器TORCS（The Open Racing Car Simulator）上对所提出的预训练方法进行评估，以验证该方法在改善强化学习训练阶段端到端自动驾驶模型的初始性能和收敛速度方面足够可靠此外，建立一个实车验证系统，以验证所提预训练方法在实车部署中的可行性。仿真结果表明，在有监督的预训练阶段使用一些演示，可以显著提高强化学习训练阶段的初始性能和收敛速度。

关键词：自主驾驶；自动驾驶车辆；强化学习；监督学习

HTML PDF 收藏

针对无监督域自适应问题的深度逐层领域修正算法 Article

Shuang LI, Shi-ji SONG, Cheng WU

《信息与电子工程前沿（英文）》 2018年第19卷第1期页码 91-103 doi: 10.1631/FITEE.1700774

摘要：深度神经网络凭借强大的特征抽象能力，已成功应用在机器学习的多个领域。然而，传统深度网络假设训练样本和测试样本来自同一分布，这一假设在很多实际应用中并不成立。为借助深度网络解决领域偏移问题，本文提出逐层领域修正（layer-wise domain correction, LDC）深度域自适应算法。该算法通过在已有深度网络中增加领域修正层，将源域网络成功适配到目标领域。与此同时，网络深度的增加极大提高了网络表达能力。LDC算法不需要目标领域有标记样本，在几个跨领域分类识别数据集都取得了当时最好结果，且其训练比已有深度域自适应算法快近10倍。

关键词：无监督域自适应；最大均值偏差；残差网络；深度学习

HTML PDF 收藏

自监督脓毒症治疗推荐算法 Research Articles

朱思涵1,浦剑2

《信息与电子工程前沿（英文）》 2021年第22卷第7期页码 926-939 doi: 10.1631/FITEE.2000127

摘要：本文将强化学习应用于个人治疗推荐，采用对样本不确定性进行建模并评估的方法，根据患者对治疗的反应和状态，将患者样本分为两个域，然后使用辅助迁移学习任务重建两个域的样本，使用特权学习的蒸馏方法与用于迁移学习的变分自动编码器框架关联低质量域和高质量域间的任务通过结合自监督方式获得更好的状态和动作表示，本文提出一种针对引起较高风险的不确定性进行控制的深度强化学习方法；模型提供一定的灵活性使之可以在不同场景对模糊样本做出保守预测或明确判断，并降低预期死亡率。在大规模公开可用的真实医疗数据集MIMIC-III上的实验表明，所提模型将总体估计死亡率降低了2.3%，并将主要估计死亡率降低到9.5%。

关键词：治疗推荐；脓毒症；自监督学习；强化学习；电子病历

HTML PDF 收藏

联合局部学习和组稀疏回归的无监督特征选择 Regular Papers

Yue WU, Can WANG, Yue-qing ZHANG, Jia-jun BU

《信息与电子工程前沿（英文）》 2019年第20卷第4期页码 538-553 doi: 10.1631/FITEE.1700804

摘要：通过挑选特征子集，可有效提升学习算法效率。由于难以获取标签信息，无监督特征选择算法相较于有监督特征选择算法应用更为广泛，其关键在于找出更能反映数据分布的特征集合。由于数据集中存在冗余和噪声，使用全部特征并不能很好展现数据的真实分布。为解决这一问题，本文提出联合局部学习和组稀疏回归的无监督特征选择算法。将基于局部学习聚类方法与组稀疏回归算法有机整合，选出有效反映数据流形分布同时保持组稀疏结构的特征。通过迭代算法，回归系数汇聚到重要特征上，选出能得到更优聚类效果的特征。对多个实际数据集（图像、声音和网页）的实验证明了该算法的有效性。

关键词：无监督；局部学习；组稀疏回归；特征选择

HTML PDF 收藏

模糊中心聚类的模式识别学习方法

曾黄麟,袁慧,刘小芳

《中国工程科学》 2004年第6卷第11期页码 33-37

摘要：

基于一个约束条件下的非线性规划问题的优化计算思想，把模糊中心聚类中计算输入矢量与中心的距离来实现聚类作为一种优化计算问题，证明了模糊中心聚类方法，取一个适当的属函数，其聚类中心vi为模糊聚类中心价值函数的极小值，推导出了基于模糊中心聚类的模式识别的无导师递推学习方法，提出了模糊中心聚类模式分类神经网络结构，该网络可以实现并行数据处理和模式分类的软划分和硬划分。

关键词：模糊中心聚类模式识别神经网络

HTML PDF 收藏

基于回归预测集成学习的交互式图像分割 Article

Jin ZHANG, Zhao-hui TANG, Wei-hua GUI, Qing CHEN, Jin-ping LIU

《信息与电子工程前沿（英文）》 2017年第18卷第7期页码 1002-1020 doi: 10.1631/FITEE.1601401

摘要：对于复杂场景下的自然图像，全自动图像分割方法难以获得与真实情况吻合的结果，人们常常采用交互式分割手段实现精确分割。然而，当前及背景中存在颜色相似的区域时，传统半监督图像分割方法只能通过大量增加手工标记获得精确分割结果。为此，本文提出一种结合半监督学习的基于回归预测的集成学习交互式图像分割方法。首先，基于已标记样本训练出两个在属性上互补的多元自适应回归样条学习器（multivariate adaptive regression splines, MARS）和薄板样条回归学习器（thin platespline regression, TPSR）；接着，提出一种基于聚类假设和半监督学习的回归器增强算法，该算法从未标记样本中抽选部分样本辅助训练MARS和TPSR；然后，引入支持向量回归方法（support在标准数据库BSDS500和Pascal VOC上进行大量实验，验证了所提算法的有效性。大量对比实验证实，所提算法在交互式自然图像分割上的表现与当前最先进算法相当。

关键词：交互式图像分割；多元自适应回归样条；集成学习；薄板样条回归；半监督学习；支持向量回归

HTML PDF 收藏

集成增强主动学习混合判别分析模型及其在半监督故障分类中的应用 Research Article

王伟俊1,王云2,王君1,方信昀3,何雨辰1

《信息与电子工程前沿（英文）》 2022年第23卷第12期页码 1814-1827 doi: 10.1631/FITEE.2200053

摘要：然而，由于采样条件有限及实验室分析昂贵，数据标签总是难以获取，这可能导致分类性能下降。为了解决这个难题，本文提出一种新的半监督故障分类方法，其中每个未标记样本相对于特定标记数据集的价值采用增强的主动学习来评估。具有高价值的未标记样本将作为训练数据集的补充信息。此外，引入了几个合理的指标和准则大大降低了人工标注的干扰。最后，通过数值例子和田纳西伊士曼过程（TEP）评估了该方法的故障分类有效性。

关键词：半监督；主动学习；集成学习；混合判别分析；故障分类

HTML PDF 收藏

大数据为材料研究创造新机遇——材料设计的机器学习方法与应用综述 Review

周腾, Zhen Song, Kai Sundmacher

《工程（英文）》 2019年第5卷第6期页码 1017-1026 doi: 10.1016/j.eng.2019.02.011

摘要：从传统上讲，先进的材料都是通过经验或实验验证的方法发现的。因为现代实验和计算技术产生的大数据越来越容易获取，数据驱动或机器学习（ML）方法为发现和合理设计材料打开了新的蓝图。本文简要介绍了各种ML方法和相关的软件或工具。重点介绍了将ML方法应用于材料研究的主要思路和基本步骤。本文还总结了近期ML在多孔聚合材料、催化材料和含能材料的大规模筛选和优化设计中的重要应用。

关键词：大数据数据驱动机器学习材料筛选材料设计

HTML PDF 收藏

基于场景自适应概念学习的无监督目标检测 Research Articles

浦世亮1,赵暐1,陈伟杰1,杨世才1,谢迪1,潘云鹤2

《信息与电子工程前沿（英文）》 2021年第22卷第5期页码 615-766 doi: 10.1631/FITEE.2000567

摘要：然而，主流的检测方法仍有两个缺陷：（1）即使是经过大量数据有效训练的模型，仍然无法很好地泛化到新场景中；（2）模型一旦部署到位，则无法随着不断累积的无标注数据自主进化。为克服上述问题，受视觉知识理论启发，提出一种场景自适应进化的无监督视频目标检测算法，该算法可利用目标群体概念，降低场景变化带来的不利影响。首先通过预训练检测模型从无标注数据中提取大量候选目标，然后对候选目标聚类，构建目标概念的视觉知识字典，其中各个聚类中心代表一种目标原型。

关键词：视觉知识；无监督视频目标检测；场景自适应学习