无人智群及其社会融合

张福彪 ,  余婧 * ,  林德福 ,  张军

工程（英文） ›› 2022, Vol. 12 ›› Issue (5) : 24 -38.

PDF (3164KB)
工程（英文） ›› 2022, Vol. 12 ›› Issue (5) : 24 -38. DOI: 10.1016/j.eng.2022.02.008

无人智群及其社会融合

作者信息 +

UnIC: Towards Unmanned Intelligent Cluster and Its Integration into Society

Author information +
文章历史 +
PDF (3239K)

摘要

协作式无人系统以其灵活高效和内在抗毁的优势，已成为应对众多重大挑战的关键手段。尤其是借助人工智能（AI）的具象实现，无人系统达到了越来越高的集群自主水平。然而，目前的网联协作式无人系统主要是为狭窄的特定领域任务而设计并只适用于这些任务。面对我们生活中具有挑战性的任务，无人系
统仍不能以匹配人类智能水平的方式来充分满足人类的需求。我们在本文中提出了一个以人为本的网联无人系统的愿景——无人智群（unmanned intelligent cluster, UnIC）。在这个愿景中，分布式无人系统和人通过知识共享和社会意识连接起来，以实现协作认知。本文详细介绍了UnIC 的概念、智能的来源、智
群的分层结构，并综述了实现这一愿景的使能技术。除了技术方面，本文也从一般意义上关注了无人系统的社会接受问题。

Abstract

Collaborative unmanned systems have emerged to meet our society's wide-ranging grand challenges, with their advantages including high performance, efficiency, flexibility, and inherent resilience. Increasing levels of group/team autonomy have also been achieved due to the embodiment of artificial intelligence (AI). However, the current networked unmanned systems still do not have sufficient human-level intelligence and human needs fulfillment for the challenging missions in our lives. We propose in this paper a vision of human-centric networked unmanned systems: Unmanned Intelligent Clusters (UnIC). Within this vision, distributed unmanned systems and humans are connected via knowledge to achieve cognition. This paper details UnIC's concept, sources of intelligence, and layered architecture, and review enabling technologies for achieving this vision. In addition to the technological aspects, the social acceptance is highlighted.

关键词

无人智能系统 / 以人为本的系统 / 社会智能 / 社会接受度 / 社会技术系统

Key words

Unmanned intelligent systems / Human centric systems / Social intelligence / Social acceptance / Socio-technical systems

引用本文

引用格式 ▾
张福彪,余婧 *,林德福,张军. 无人智群及其社会融合[J]. 工程（英文）, 2022, 12(5): 24-38 DOI:10.1016/j.eng.2022.02.008

登录浏览全文

4963

注册一个新账户 忘记密码

1、 引言

我们的社会因科学技术的进步而不断发展，并发生了深刻的改变。然而，在环境可持续性、城市基础设施、健康医疗等方面仍然存在着巨大的工程挑战[1‒2]。如今，高度发展的无人系统的能力已经变得越来越强大，而且成本低廉。此类系统进一步与云计算和边缘计算、5G、物联网（IoT）和大数据相融合，可以使网联的无人系统作为一个“团队”协作运行，以应对我们社会的巨大挑战[3]。正如我们在日常生活中所看到的，无人系统作为人工智能（AI）的具象体现，正在逐步普及。例如，多种无人机系统在国家空域飞行，网联的自动驾驶汽车在道路上行驶，外科机器人在医院里手术，服务机器人走进家庭为老人和有特殊需要的儿童提供健康护理。

然而，尽管网联无人系统取得了显著的成就，但它们现有的能力与应对重大挑战所需的能力之间存在差距。我们认为，潜在的原因主要有两个方面。首先，目前的网联无人系统主要是被设计成适用于范围狭窄的特定领域任务。这阻止了无人系统在更大范围内的群智涌现，以应对任务和环境的复杂性。其次，“无人化”的趋势越来越明显，使得“人性”的部分没有得到继承，这使人们在关键任务上很难信任、接受和使用无人系统。事实上，人类对无人系统的态度以及无人系统对人类行为的影响研究相对较少，这将最终损害我们使用无人系统的预期社会和经济效益。

事实上，来自智慧社会的需求牵引无人系统离开其典型的结构化和受控环境，与人类一起工作。换言之，无人系统应该达到全面的人类水平的智能，以便在复杂环境中与人类一起执行不同的任务。为了实现人类与无人系统之间愉悦和谐的共存，以便使人类更好地生活和工作，出现了以下问题：①如何共同凝聚各种无人系统的力量，为人类提供服务，以应对苛刻的需求以及动态和不确定环境中的未知事件？②这些能力强大的系统如何能与人类协作，被积极正向地感知和评价，并在社会中被广泛接受？将无人系统融入社会并非易事，因为我们的福祉甚至生命在一定程度上依赖这些无人系统（如自主驾驶汽车的应用）。

无人系统社会化运行是一个迫切的需求，这将使得多无人系统能够在未知环境中识别、理解和建立彼此及与人类或物体（可能先前未知）之间的关系。为了满足这一需求并更好地服务社会，本研究提出的无人智群（UnIC）是由具有社会意识的无人系统组成。无人智群的核心原则是提高无人系统的认知能力，并将人类的需求作为一个不可缺少的部分，从而实现人造的无人系统在交互过程中具有人性化的思维，并在感知、决策和行动上符合人类的偏好。

UnIC的“Un”代表了网联无人系统的凝聚力，更具体地说，它代表了来自大范围无人系统的能力联合。从广义上讲，关于无人智群中无人系统的范围，我们没有明确区分在多域运行（空、海、陆和太空）的机器人/机器和自主无人驾驶车辆，原因如下：第一，它们的共同特点包括移动的、自我维持的、自我引导的，并且资源丰富；第二，尽管多域运行，但其在安全关键性或任务关键性的特征是相同的；第三，它们在合作、认知和社会性方面面临着高度的挑战。与智能虚拟智能体不同，UnIC中的无人系统有作为AI的具象化的实体，并在多个领域内可以移动。仅举几例，UnIC中的无人系统包括航天器、飞艇、无人驾驶飞行器（UAV）、无人地面车辆（UGV）、无人水面车辆（USV）、无人水下车辆（UUV）、仿人、仿人机器人。

智能是UnIC的核心，它主要是指协作、交互和社会智能。这种智能的来源可以是生物启发、类脑启发和社会启发。与现有的无人系统相比，UnIC的智能的内涵和来源是不同的。当与其他无人系统、人类、物体和环境交互时，最先进的无人系统已经展现出解决“什么”“什么时候”和“哪里”的问题的能力，但把“谁”“为什么”“如何”和“如果”等基本问题留给人类[4]。由于这些不足的存在，人类偶尔认为机器行为是笨拙、奇怪甚至危险的也就不足为奇。事实上，解决这些深层次的问题要求无人系统拥有强大的匹配人类水平认知能力，如推断和推理，以及匹配人类水平的社交能力，如关系理解和建立。为了达到这一目标，UnIC预计将拥有先进的并且互补的协作、交互和社会智能。

“集群”是应对复杂性的一种基本形式[5]。UnIC中的集群是指一种新的合作模式，可直观地理解为是无人系统网联后产生的团队、功能和服务。这里我们主要强调集群的两个方面：成员和结构。关于成员资格，智群的集群模式是开放和动态的，这意味着集群中的成员可以调整他们的策略，并在物理、信息和社会空间中产生新集群。因此，一个无人系统可能参与到多个集群中，并扮演不同的角色。关于结构，集群可以是分层和嵌套的小组形式，也可以是由各种质量、规模和组分形成的无人系统的团队。值得注意的是，这些特征也不同于卫星集群/星座、服务机器人、无人机编队或蜂群、网联自主汽车和无人机舰队中的传统集群。对于传统的集群，无人系统通常为特定的任务而固化设计，并且机器之间或人与机器之间的社会交互规则往往是逐个任务设计的。这种封闭系统的缺点是无法与大规模网联无人系统中的正确参与者建立关系，因此无法在新情境下为不同的任务抽象出相应的能力。UnIC通过大规模的社会连接和协作来区别于封闭的系统，这些连接和协作通过以下方式来实现：具有灵活多变的群体成员的可扩展性，具有安全访问的互操作性，功能和服务的虚拟化，以及按需重构的灵活性。

无人系统在传统上被用于替人执行所谓危险、枯燥和肮脏（3D）的任务。然而，在一个更加数字化的现代世界中，它们有望作为认知的、协作的和陪伴的（3C）伙伴，以有组织和网络化的方式与人类共存[6‒8]。预计UnIC将适应这种角色的转变和随之而来的新挑战。

网联无人系统是全球范围的研究热点。中国在2016年启动了一项为期8年、耗资两亿美元的国家研究计划，名为共存-合作-认知（Tri-Co）机器人，目的是探索人-机器和机器-机器的合作。其提出的共存将使机器人无处不在地与人类一起安全地工作，而合作将使机器人与其他智能体（人或机器人）有效地协调。在欧洲，H2020项目启动了“基于陆地、空中和水面的多域未来互联网实验”，重点是协调多个跨领域的无人系统；同样，自主水下航行器的合作认知控制（Co3AUV）项目也已启动[9]。另一个名为“Robotic UBIquitous COgnitive Network”的欧洲项目研究了机器人生态学概念，目的是使用协作无人系统来提供日常生活中的普适性服务[10]。在美国，泛在协作机器人计划（NRI-3.0）和全球许多机器人项目都是为了实现类似的目标[11]。在工业界，SpaceX公司的Starlink系统一直通过大量的合作式低轨道卫星提供互联网服务。综上，上述研究工作都为UnIC的实施打下了坚实的基础。

本文的组织结构如下：第2节讨论了相关的工作和概念；在第3节中，我们概述了无人智群的基本概念，强调了人类和社会交互的作用；第4节介绍了支持UnIC的关键使能技术；在第5节中，我们简要介绍了一些关于机器的社会融合的研究；第6节列出了尚未解决的关键开放问题；最后，第7节得出了结论。

2、 相关工作和概念

现有的与协作无人系统相关的研究非常丰富，其中泛在机器人和蜂群是代表性的主题。这两个主题和UnIC都强调了多个无人系统的协作和网联。此外，泛在机器人技术与UnIC的共同点是，都提出将无人系统嵌入日常生活和环境中[10,12]。然而，UnIC在集群的形成和组成上与它们有所区别。与泛在机器人技术相比，UnIC可以形成具有不同规模和成员资格的动态集群。至于蜂群，它通常指的是由一群同质化的成员组成，用于执行狭窄范围的任务。在很多情况下，其成员个体的能力、智能和成本都比较低[13]。与蜂群相比，UnIC允许无人系统在自主水平或社会身份等多个方面实现异质性。此外，无论是蜂群还是泛在机器人，似乎都没有积极考虑人类在系统设计中的作用[14]，而UnIC概念强调的是一种开放、可交互操作、可重构，特别是对人类有主动意识感知的协作集群结构。

近年来，将“人”引入工程系统是值得注意的新趋势[15]。相关的工作包括人与系统之系统[16‒17]和以人为本的多智能体系统（MAS）[18]。在下文中，我们简要介绍了两个代表：信息-物理-人系统（CPHS）和人在环物联网（IoT），强调了与所提出的UnIC概念相比的相似性和差异。

2.1 信息-物理-人系统

信息物理系统（CPS）不仅是一个与UnIC密切相关的领域，也是UnIC的主要先驱之一。CPS刻画了信息系统要素（如通信和计算）与物理系统要素之间的交互作用，范围广泛，从飞机上的航空电子设备到用网联自主驾驶车辆。在CPS的基础上，CPHS进一步认识到“人”是社会人并且具有社会关系。在这种情况下，人在社会联系中移动，增强的信息要素可以叠加在人类活动和行为上。人参与的重要性在工业CPS [19]、工厂CPS和住宅CPS [20‒21]中也得到认可。这些概念在更大范围内的延伸即信息-物理-社会系统（CPSS）[22‒24]。

与CPHS或CPSS相比，UnIC更专注于多种无人系统。它具有高度的异质性和移动性，并在传感和执行方面具有突出的能力。此外，UnIC可以通过实时分担人的物理或认知工作负担来响应人类的社会需求。换言之，在UnIC中，人类在连接物理世界和信息世界方面起着更核心的作用。

2.2 人在环物联网

UnIC和人在环IoT拥有共同的愿景，即认为人类需求和社会网络是与IoT研究相结合的重要因素。在IEEE IoT委员会中，2018年成立的一个工作组明确考虑了人类在IoT发展中的作用[25]，特别关注技术的日益广泛使用如何影响人类。UnIC与人在环IoT的基本理念一致，即我们周围的“物”应该了解人类的意愿、需求和兴趣，以便它们能够提供可靠和值得信赖的解决方案[26‒27]。这种人和IoT集成的优势在于促进服务发现、资源可见性、系统声誉评估和众包。值得注意的是，机器人也可以被看作是一个特殊的“物”的类别，在这种情况下，研究者提出机器人物联网（IoRT）的概念，以进一步融合传感、执行、网络和服务[28‒29]。

与探索一般性的“物”的人在环IoT相比，UnIC特别关注人类与智能、移动的实体的交互。尽管人在环IoT可以通过提供上下文信息与人类交互，但所需的信息可能很容易超出感知范围、传感维度和传感器网络的精度。然而，这个问题对于UnIC可能不存在，因为它通过移动性追求信息的丰富性和更广泛的上下文信息。此外，UnIC可以通过社会连接邀请新的无人系统来形成开放和动态的集群，这些系统的加入能对任务做出一定贡献。

3、 UnIC的概念

本节详细介绍了UnIC的概念和智能驱动的特征。此外，本节还阐述了UnIC产生的物理、信息和社会空间。

3.1 UnIC概述

UnIC指的是以人为本，通过智能的、社会化协作实现的网联的自主无人系统。这种“人机融合体”通过知识共享和社会意识，优化人-机-物-环之间的协调，通过增加相互理解和信任不断提高个人和人机团队的能力。其目的是为人类提供一套个性化、多样化、社会可接受的功能和服务。这些服务围绕人类的需求，聚集必要的虚拟和物理资源。当需要时，可以根据人类的意图进行集群以及集群方式的重构，从而适应动态的、未知的环境。

以下是UnIC运行的基本特征：

• 无人系统形成的集群具有足够的可扩展性来实现对突发事件的响应；

• 集群既可以形成，也可以被解散，这取决于任务和人类的需求；

• 人类的偏好和社会的接受程度起着至关重要的作用；

• UnIC既是服务提供者，又是服务消费者；

• UnIC可以作为自己和其他系统的移动基础设施。

UnIC的自主移动性使其具有实现“接近人类的能力”的可能性，这不仅是在感知和认知方面，而且是在行动和行为方面。突出的智能特征包括自感知、自决策、自行动、自学习、自修复、自成长和自治理。UnIC利用无人系统平台提供4个基本的协作功能模块，即感知（UnIC-P）、通信网络（UnIC-N）、计算（UnIC-C）和服务（UnIC-S）。图1解释了UnIC的概念。

图1 UnIC概念。Info.：信息。

我们将简要地介绍这4个功能模块。UnIC-P与IoT等现有系统兼容，但又能为IoT增加价值。UnIC中的集群可以连接到IoT网络，对物体、环境和人类进行合作感知。另外，获取并提炼的知识是在人-机器和机器-机器两个层面上共享的。UnIC-N可以提供无处不在的通信网络，这使得UnI-C可以以分布式的方式实现，或者将现有的分布式系统重构出集群。UnIC-C负责形成态势理解、推理和预测的上下文感知计算，而UnIC-S管理服务池并根据任务目标组织服务。这4块共同使“人机融合体”在服务和任务中的能力不断增强。

UnIC的实施涉及多学科交叉领域：计算机科学、机器人学、通信技术、自动化和社会科学。一方面，它利用信息和通信技术（ICT）、IoT技术和AI的进步来建立智能“头脑”。另一方面，它受益于能源、材料科学和制造方面的进步来构建物质的“身体”。“社会科学和生命科学将‘身体’和‘头脑’结合在一起，使机器具有‘灵性’。”这些不可缺少的元素在图2中得到了说明。人-机-物-环境之间的交互作用可以在三个空间中进行分析：物理空间、信息空间和社会空间，具体如图3所示。与其他许多范式相比，社会空间在UnIC中得到充分的重视，并在实现UnIC的益处方面发挥着独特的作用。

图2 UnIC的赋能要素。

图3 物理、信息和社会空间中的人-机-物-环境交互作用。

3.2 UnIC的智能来源

UnIC的智能来源于三个方面：生物启发式智能、类脑启发式智能和社会启发式智能。研究这三个来源的直观原因是，自然界中的生物体、大脑中的神经网络和人类社会中的团队都是通过合作来生存和发展的。下面介绍一些最近关于三个启发式智能的研究成果，为UnIC智能特征的设计和实现提供参考。

3.2.1. 生物启发式智能

UnIC中群智涌现可以从理解自然中得到启发。生物启发的基本原理能够在集群信息处理和自组织行为模式等方面指引多无人系统的设计。生物启发的机器人学[30]和蜂群机器人学[31]是两个相关的研究领域。下面，我们将介绍UnIC在集群运动、感知和决策方面的一些潜在生物启发。首先，为了实现集群运动，可以采取自下而上的方式来建立自组织的集体行为。自然系统表明，局部交互会形成全局范围的模式。例如，鸟类、鱼类和细胞可以利用局部交互规则来形成复杂的模式或结构。即使局部运动是随机的，单个个体的随机运动也会导致集体确定性的行为产生[32]。同样，形态发生原理被用来建立一个错综复杂的结构，其中每个建造机器人使用相同的规则。机器人集群表现出对噪声、损坏的稳健性，以及对变化环境的适应性[33]。其次，可以采取自上而下的方法，从期望的宏观集体行为中推导出对应的局部交互规则。可编程的蜂群机器人有能力实现所指定的集群形状，该研究是高度自组织的可设计行为的一个代表性例子[34]。类似地，为了实现集体感知，个体的局部测量可以使用来自邻居的社会性线索进行调制[35]；稀疏知识足够实现动态群体的高效决策。这样的知识积累进一步提高了集体智能[36]。再次，研究发现群体规模和等级制度对集群决策表现至关重要。群体规模越大，决策的准确性就越好[37]，而要达到给定的准确性，需要的知情个体比例就越小[38]。从进化的角度来看，一个明确的层次结构也可能有助于高效的群体决策。例如，能力呈现重尾分布的群体表现出的竞争力更强[39]。

使用生物启发式智能的优势包括以下几点：①从简单的分布式系统的集合中产生更高的全局能力；②提高对个体故障和环境干扰的复原力；③提高灵活性和可扩展性。上述发现给UnIC中多个无人系统的设计提供基本参照，这些系统在不确定和恶劣的环境中具有自修复、自成长和自治理的能力[30‒31,40‒41]。

3.2.2. 类脑启发式智能

AI的突破源于对人脑的不断了解[4,42‒43]，人脑研究在世界各地的政府资金支持中都得到了极大的关注[44]。脑研究得益于先进设备如非侵入性成像仪器，它使我们能够以前所未有的空间-时间分辨率观察神经元活动[45]。目前，采用两种方法来研究类脑智能。一种方法是用具有生物学合理性的模仿对大脑进行逆向工程。这包括通过使用脉冲神经网络来模仿神经回路的研究工作。最近，低成本和大规模的脉冲神经网络已经能够实现与猴子大脑相当能力的智能模拟[46]。另一种方法以大脑的工作原理为灵感，提供新型的计算模型（表示、抽象和推理）和架构。这一研究思路推动了人工认知的发展，并将认知概念转移到机器人技术中[47‒48]。脑启发的模型包括利用人类位置细胞的空间表征和导航[49]，与人类镜像细胞相联系的适用行动的示能计算[50]，具有神经基础的支持知识生成的语义认知[51]，以及分层结构的运动控制架构[52]。最近的神经科学研究也发现了社会交互的几个神经基础，其中包括识别他人位置的“社会位置细胞”和支持社会群体交互行为的“身份细胞”[53]。值得注意的是，神经科学与AI之间的启发是双向的，因为AI也为神经科学研究提供了新的视角和工具[54]。一个令人鼓舞的例子是，由深度学习构造的导航智能体显示出了类似于人类大脑的网格细胞的结构[49]。

值得注意的是，对大脑的更好理解可以激发出类似人类的发现知识的能力。尽管概率机器学习方法取得了成功[55]，但使用神经网络的类脑启发的连接主义似乎占了上风[56‒57]。通过使用神经网络的洞察力，AI能够发现知识。目前，例如，AI已经被证明可以发现物理定律及新的数学猜想和定理[58‒60]，产生可解释的心理学理论[61]，协助发现新材料[62‒63]，并找到实现可持续能源的核聚变途径。

研究人员还研究了如何通过学习建立更好的系统。以下三种方法可能有助于指导无人系统如何学习：①认知科学可以阐明人类学习什么以及如何学习[47,52,64]；②可以从婴儿如何循序渐进地获得技能的发育研究结果中得到启发[65‒67]；③运动控制和情绪调节方面的脑-机接口已经成为研究学习的新的科学工具[68]。

3.2.3. 社会启发的智能

人类社会为UnIC树立了一个很好的榜样，即当成员拥有人类水平的智力时，集体联合可以解决复杂的问题。团队、小组、社区或组织是人类社会中解决问题的主要形式。群体工作可以提高生产力，研究已经发现科研团队比个人产生更频繁的知识和更高的影响[69]。一般来说，一群有联系的人在提高生产力和准确回答复杂问题方面优于单个人。为此，社会启发的智能是指从人类社会学到的解决复杂问题的方法，其中，社会群体结构和社会智能发挥着核心作用。

相关证据表明，由小群体组成的群体可以通过聚集知识而胜过大型非结构化群体[70]。除了效率，对社会网络结构的探索可以提供对群体行为的预测。有研究表明，社会关系密切的人，如朋友，通常拥有类似的感知和行为方式[71]；这种发现可用于流行病的早期检测和管理[72‒73]。

值得注意的是，社会智能对于维持社会群体关系至关重要。什么是社会智能？正如参考文献[74]所建议的，“社会智能是指在人际关系中理解包括自己在内的人的感受、想法和行为的能力，并根据这种理解采取适当的行动”。有证据表明，通用智能（由言语和抽象思维定义）和社会智能在以下社会智能的量度方面是独立的：亲社会态度、情绪化、社会焦虑、社会技能和移情能力[75]。同时拥有通用智能和社会智能是很有好处的。正如报道的那样，以高通用智能和社会智能为特征的人类群体拥有管理共同资源的非凡能力。更具体地说，这两种智能显示了一种高认知能力，即认识到资源和社会关系的有用性，这使得实际的、一致的和可持续的集体行动成为可能[76]。随着无人系统越来越能够与人类进行社会交互，对它们来说，理解人们在社会环境中的感受、想法和行为是很重要的。社会科学中的工具，如社会规范、判断、声誉和信任，可以被借用于调节和优化多个智能体的社会行为[77‒78]。

3.3 UnIC和集群空间

UnIC中的集群出现在三个空间：物理、信息和社会。物理空间包含交互中的所有物理系统和物体，确保无人系统在多域中的运动安全。信息空间涉及感知、通信网络和计算。UnIC在这一领域的活动的高阶结果是知识的产生和共享。在社会空间，UnIC在其他两个空间的支持下，主体提升可信赖的社会交互。

3.3.1. 物理空间中的集群

在物理空间，UnIC在人周围聚集必要的资源，建立以人的活动为基本情景的集群生态。物理空间UnIC的主要承载者是无人系统（如UAV、UGV和USV）或UxV，它们可容纳有效载荷，如多种模式的传感器/通信/计算模块。使用UxV平台的主要优势是可以进入多领域的物理空间。空间进入是通过一系列的协调来实现的，从低级组件的驱动、子系统的行动、平台的运动到整个系统的行为。由于UxV与人类共享物理空间，UxV平台之间需要时空协调来确保无碰撞运动。一般来说，UnIC被期望作为人类的伙伴或代理，不对人类进行负面干扰，同时密切关注人类的意图。

3.3.2. 信息空间中的集群

在信息空间中，UnIC围绕人类的认知需求进行集群，以增强人类的思维能力。UnIC将异质的、非结构化的、不完整的、不同步的原始数据处理成知识，知识比数据和上下文语境更稳定[79]。在这个过程中，语义技术能够增强针对物体和环境的以人为本的视角下的互操作性，并允许非专业的人员积极参与。这是形成学习、思考和理解的协作能力的坚实基础[80‒81]，产生融合的情境感知。一般来说，人类在UnIC的帮助下会从增强的认知中受益。另一方面，人类也依靠自身携带传感器的移动作为传感手段，或通过人类的众包作为计算单元，为知识的产生作出贡献。

3.3.3. 社会空间中的集群

在社会空间中，UnIC的成员对其他机器和人类的行为进行主动理解、建模和推断。社会空间中的UnIC集群可以围绕人类建立相互关系，具体可通过社会身份、偏好、共同所有权、品牌、目标和位置等。事实上，社会空间的因素可以被耦合到其他两个空间。例如，可以利用社会线索、社会信号和空间相近性对物理空间进行社会性划分[82]；也可以建立社会语义地图，用于信息空间的进一步推理、数据共享和互操作[83‒84]。

社会空间中的集群要求UnIC拥有高度的社会自主性，并展现出人类社会可接受的行为[85‒88]。目前已经实现自动化的社会空间特性包括确定性的礼仪[86]、社会价值取向[89]，以及使用前景理论的其他非理性因素（如框架效应、寻求风险的行为和损失厌恶行为[90‒91]）。社会规范和声誉也可以被用来帮助促进人类对机器的理解[92]。通过机器学习技术手段的使用，也可以自动地获取社会特征，如利他主义、好奇心、注意力和示能承担[93‒97]。短期和长期的学习都有助于实现社会自主性[98]。

社会空间中的集群也要求与人类交互的媒介具有多模态、交互式和多任务的个性化特性[99]。这种界面可以是物理的（如服务机器人）、虚拟的（如软件助手）、生物物理的（如脑机接口或机器人肢体的身体增强形式）[100‒101]、信息物理化学的[102]、触觉和语言（如自然语言解释）。

4、 UnIC的使能技术

UnIC采取以人为本的分层结构，如图4所示。它包括4个核心层：①A1：无人系统平台层（UxV）；②A2：感知和网络层；③A3：计算层；④A4：服务层。这4层相互影响作用，每一层都嵌入了智能、认知和伦理[86,103]。这4层的关键使能技术综述如下。

图4 UnIC以人为本的分层架构。A1：无人系统平台层（UxV）；A2：感知和网络层；A3：计算层；A4：服务层。

4.1 无人系统平台层

在这一节中，我们将介绍一些多域运行的无人系统的最新发展。

4.1.1. 作为一个物理实体的无人系统

无人系统（包括机器人）是UnIC的基本构建单元。它们有不同的规模[104]，在不同的领域工作，甚至跨域运行，并以多种模式执行不同的任务，如表1所示。无人系统也经常以团组的形式使用，以获得更好的集群性能[105]。在这种情况下，它们可以自组织、自组装，并重构其物理“身体”形状[33,106]。

表1 异质的无人系统平台[‒,‒]

ScaleBiologicalLandMarineAirSpaceCross-domain
NanoMicro-swimmers‒‒NanodroneFemtosatelliteRobobee
MicroCapsule robotMicrorobotSnailfish robotMircodronePicosatelliteTerrestrial‒aquatic microrobot
MacroPortable medical deviceHumanoid/robot handsOcean robotsUAVSpace robotics‒

无人系统的最新进展越来越具有小型化和人性化设计的特点。例如，在纳米尺度上，2016年诺贝尔化学奖授予在分子尺度上率先建造纳米机器的研究人员。虽然处于自主性的初级阶段，但它们有望被用于宏观层面的任务，如药物输送[107‒108]。关于构建分子机械更深入的讨论可以在参考文献[109]中找到理论依据。在一个相对较大的尺度上，关于无人机的设计和制造的综述可以在参考文献[110]中找到理论依据。其中，值得注意的是质量约为100 mg的Robobee无人机，它具有跨域操作和无绳飞行能力[111‒112]。关于对人友好的设计，软体机器人吸引了大量的研究关注，因为与人安全交互是软体机器人的一个优势[113‒114]。例如，轻质量和低速扑翼无人机具有柔性的机翼和自然的外观，使其成为室内应用的理想选择。一些关于软体机器人的研究表明，具有机器智能的传感、计算、驱动和能源供给可以与软体的构造材料相结合[115‒116]，而且像4D打印这样支持可编程时间-空间行为的技术可以被用于精细操作[117]。

4.1.2. 无人系统——从身体到心灵

无人系统的移动性是通过运动实现的，运动是将无人系统从一个地方运送到另一个地方的过程中与运行环境的各种交互机制。在宏观尺度上，交互机制和模式可以是轮式、翼式或双足式。在微观上，它们可以非常灵活，智能可编程材料就是一类选择。这些材料可以是自我折叠的[131]，并可以进一步用于整个系统级的功能[132]。由于单模态运动在动态环境中执行复杂任务时有其局限性，人们越来越重视无人系统的多模态运动研究。多模态运动既可以通过特定领域的分布式无人系统的集合来完成，也可以通过一个具有多模态能力的单一集成系统来完成，如仿人机器人[133‒134]。

当无人系统自主地在物理空间中移动时，首先要保证的是安全，无论是保障自身安全还是环境中的人和物体的安全。根据自主性水平的不同，安全需求往往要求多数无人系统具有感知和避撞功能。有关各种无人系统在非结构化环境中无碰撞运行的综述可以在以下文献中找到，包括：UAV [135]、USV [136]、UUV [137]、自主车辆[138‒139]、空间系统[140‒141]和移动机器人[142‒143]。以无碰撞运动为基础，无人系统能够广泛地探索环境[144]，并以时变的群体编队执行任务[145‒146]。

无人系统的进展还体现在“心智”建设上，即“看-想-做”循环[147]（即感知、决策、行动循环）。鉴于AI方面取得的突破，新近的研究再次倡导具有认知能力的无人系统架构[148‒149]。对于无人系统来说，认知不仅促进其主动感知，也促进其实现预测性决策。例如，无人系统可以设计成具有社会认知的导航规划能力来实现以人为本的穿过人活动区域[68]。一般来说，通过认知和物理身体的交互作用，无人系统将有能力探索具有挑战性的任务（例如，IKEA椅子的自动组装是灵巧的操作的一个例子）[150]。

总的来说，目前的无人系统提供了精确性、有效性，甚至安全性，提供了超越人类极限的感知和灵巧操作。然而，它们在以下两个方面有不足。首先，对于目前的无人系统来说，进行一般性思考和社会性思考仍然是一项具有挑战性的任务。参考文献[151]中确定了机器人技术未来的巨大挑战，其中就包括社会方面和伦理方面。其次，人们期望无人系统具有更强的物理损伤复原能力，在感知和行动方面具有适应性，并且在系统规模上具有可扩展性。当与人类合作时，无人系统应拥有更强的自预测、自修复和自成长的能力[152‒153]。

4.2 感知和网络层

分布式传感和网络化通信技术正在深入融合。特别是在网联无人系统的背景下，感知和通信网络是紧密相互依赖的。本节讨论了传统意义上的感知和通信网络，以及它们与人类参与的感知和社会网络的耦合。

4.2.1. 传感和通信网络

感知是通过使用本体感知或外体感知的传感器来实现的。原始传感器数据经过处理后，可以作为对无人系统本身、团队成员、物体和环境的态势感知的基础。通过传感和通信网络的融合，可支持本地测量数据在静态/移动传感器节点之间共享和传输[154]，从而进一步实现增强态势感知。这种来自多个系统的分布式感知可以在更短的时间间隔内，在广阔的空间内收集更丰富的信息。一般来说，传感和通信网络共同促进多个无人系统的协作，确保整个系统的安全、效率和便利。

在为无人系统设计通信网络时，我们需要考虑平台的移动性和开放的架构。无人系统的移动性为确保高动态连接和减轻环境干扰方面带来了挑战。在这个意义上，无人系统在通信可用性、连续性、完整性、延迟和通信时间方面的要求可能是苛刻的。新兴的5G技术可以为移动无人系统提供广域通信，具有超低的时间延迟和大规模连接。5G通信技术这样的特点也使新的传感网络成为可能，如触觉互联网[155]，它能为人类提供身临其境的态势感知，以远程操作无人系统。移动性还允许无人系统提供动态覆盖和无缝服务，因为无人系统能够携带中继和基站有效载荷进行移动按需通信。综上所述，无人系统网络具有双重作用：通信促进广泛的移动性，反之亦然，移动性促进通信链接[156]。关于通信架构，通常使用自组织网络来扩展多个无人系统。例如，移动自组织网络（MANET）、车辆自组织网络（VANET）、飞行自组织网络（FANET）和海洋网络[157‒159]。在UnIC中，无人系统需要一个更加开放和动态的通信架构，以形成一个开放的机器社会，其成员可能代表不同的利益相关者。关于谁是通信伙伴，信息需求是什么，以何种速率传输什么，以及通信协议是什么（可能不是固化的），都是具有挑战性的问题[160]。参考文献[161]中提出的计算交互框架在这个方向上进行了探索，它可以作为一个候选解决方案，以提升协作式无人系统所有权、成员资格、惯例和内部设计的开放性。

4.2.2. 人的参与和社会网络

新的进展强调了人类在感知和通信网络中的作用。一方面，传感和通信被用于人类的福祉。从物理和信息空间的社会行为的数字足迹中感知和收集数据成为可能性，然后这些数据用于理解人类的行为和活动[162‒164]。以人为本的原则也延伸到了6G这样的新一代通信网络，强调用户体验以及隐私和安全等社会因素[165]。另一方面，传感和通信也可以通过人类来实现。作为一个通过人类进行通信的例子，人体可以被用作网络通道媒体，为人类用户附近的生物医学传感器形成安全的体域网络[166]。关于通过人类的感知，参与式感知和机会主义感知是有代表性的例子。它们是让人类的认知能力和智能参与大规模社会技术系统的可能方法。由于参与式传感和机会主义传感依赖于人类或人际网络来转发数据，通信模式和传感性能很大程度上取决于人类的流动性、社会网络结构和人类的社会偏好，如利他主义[167]。在这个意义上，社会科学中的机制设计方法可以提供一个可能的解决方案，以提高社会传感数据的可用性。值得注意的是，社会传感和通信的概念并不局限于人类，而是可以扩展到网联的无人系统（例如，在社会车辆网络中，事件的机会性信息共享已经被发现可以减少排放和缓解交通拥堵）[168‒169]。

4.3 计算层

UnIC的认知和协作能力需要无人系统具有情境感知下的知识共享、认知计算和泛在计算。本节简要综述了支持UnIC的计算技术，涉及数据、算法和算力。这里省略了计算的目的（如具体的规划、决策和控制算法），我们只关注知识表征、计算架构和社会计算。

4.3.1. 知识生成和计算架构

数据、算法和算力是当前AI的核心要素。对于UnIC来说，来自通信网络系统的高容量、异质和多模态的数据可能会带来数据管理问题。为了解决这些问题，UnIC可以采用语义知识的方法来提炼数据。这种方法不仅可以重复使用旧的数据、增加新的数据、传输无歧义的知识，而且还在数据采集、处理和表示过程中有利于用户更好地观察。这种透明度为人类的参与提供了先决条件[170]。知识生成的结果可以用含认知和社会特征的地图来表示：表示物理空间的时空和主题特征的几何图；表示信息空间中人类可解释的概念的语义图；表示网络关系和社会接受考虑的社会示能图[171‒172]。在实践中，基于本体论的语义技术已经支持了医疗保健中的可解释知识表征[173]和柔性制造中的敏捷重构[174]。语义知识表示可以是特定领域的，强调可靠性、安全性和实用性。它们带来的好处是标准化的情境信息[175]、时空上下文更新[176]和平台行为的协作[177]，这增加了平台的互操作性[178]。

算法可以产生机器认知，这增强了UnIC与机器、物体、环境和人类交互的能力。认知不是机器心智的一个模块，而是一个包含具有鲁棒性和预见性机器行为的过程。虽然认知的特征可以体现在感知、计算（推理、推断、决策、意图解释）、沟通、行动和目标调整中[179]，但认知系统需要自我意识到感知的影响并预测行动的后果。示能的概念很好地体现了这种自我意识。它描述了一种环境可以提供（或负担）一种机器的行为的可能性。示能将感知到的对象与适用的行为相关联，将对感知到的事物的理解映射到有后果意识的行为中。相关研究人员提出，这种映射可以通过端到端学习获得，不需要内部模型[180]。由于人类喜欢与具有一定认知能力的系统交互，认知功能可以帮助UnIC理解人类的需求和目标，从而在与人类的交互中保持自主性[149]。

“算力”方面的最新进展涉及计算方法和计算架构。新的计算方法包含了广泛的范围：从量子、DNA和生物化学计算到神经形态计算等[181]。随着移动计算变得越来越普遍，泛在计算被分散到环境、设备和无人系统中。关于计算架构，主要有三种不同的类型：云架构、雾架构和边缘架构[182‒187]，后两者对于UnIC作为移动基础设施的作用尤为重要。UnIC可以作为雾计算中心。例如，缓慢行驶和停放的车辆可以被用作移动计算基础设施[188]。对于无人机系统来说，雾计算架构还享有更大的时间空间优势，因为它具有高移动性和快速的地理分布覆盖、在信息空间进行延迟敏感的知识生成、在社会空间增强对行为敏感的自我意识三方面的能力。边缘计算架构的最新进展促进了边缘设备以数据为中心的计算，即接近数据源（如在传感器或存储器中）[189‒190]。在UnIC中，三种类型的计算架构可以联合使用，并可在通信连接和安全约束下，以完成任务为目标，进行平滑的自我切换[191]。

4.3.2. 社会计算

从进化的角度来看，人们认为社会学习在灵长类动物的智能进化中起着关键作用[192]。同样地，实现社会学习的计算方法对于获得智能无人系统的预期能力至关重要。无人系统可以从人类使用的信息中学习（例如，世界范围内的网络或人类/同伴系统进行的演示）[193‒194]。在这方面，Sensorpedia平台可以连接不兼容的传感器系统并在它们之间共享信息[195]。出于同样的目的，Roboearth和Robobrain平台可以在无人系统之间分享知识[183,196]。事实上，分享信息或知识，无论是从人到机器还是从机器到人，都可以提供技能转化的机会[197]，最终提高解决问题的成功率[194,198]。利用社会计算完成复杂任务的一个例子在“百万物品挑战”中得到了证明[199]。

4.4 服务层

UnIC在融合三个空间的基础上为人类提供服务。本节介绍了在提供以人为本的服务中的一些基本方面。

4.4.1. 人类行为模式

提供个性化、精确和创新的服务需要了解人类行为模式[200]。这些行为模式可通过计算模型来建立全面图像。例如，人类的行为模式在物理空间可以被描述为运动/人群动力学[201]，在信息空间可以被描述为言论动力学和沟通模式，在社会空间可以被描述为友谊网络和社会偏好。一些研究进一步表明：①在物理空间中，人类的流动在区域迁徙、城市通勤和人群中的移动中表现出高度的规律性和可重复性[202‒203]；②在信息和社会空间中，人类的信念和决策与他们的社会网络相耦合，导致这两个空间的相互依赖的动态变化[204‒206]。在社会上感知、思考和工作的UnIC，在安排服务时可以利用这些行为模式。

4.4.2. 服务虚拟化和管理

在IoT网络的支持下，UnIC有望在灾害响应[207]、智能家居[208]、城市服务[209]、智能制造[210]和智能农业[211]等任务中提供丰富、个性化和按需的服务。这些服务可以通过使用面向服务的范式来提供，其中无人系统的功能在三个层面上被虚拟化。在子系统层面，例如，传感的虚拟化促进发展出传感即服务[212]。在单个系统层面，虚拟化的子系统服务可以打包成系统级服务。例如，无人机可以提供多种服务，如数据管理、分布式计算、与人类交互、安全和隐私[213]。此外，无人系统可以被虚拟化为无人系统自主服务（UxAS），在此基础上，研究人员提出了一个任务级自主的软件框架[214]。在系统层面，使用任务调度作为服务管理是可行的，即使对于自主性较低的单个智能体。通过动态的服务匹配（例如，基于相似性的聚类）[215]、发现、替换和合成[216]，可以有效地管理在不同层次上虚拟化的服务。总的来说，服务虚拟化和管理能够实现功能的重复使用，并支持UnIC的开放性。

5、 机器的社会融合

尽管无人系统的能力在某些情况下已经达到了与人类相匹配甚至超越人类的程度，但将多个无人系统与AI整合到社会中，仍然是发挥UnIC的全部社会和经济效益的巨大挑战之一[151]。本节简要介绍了一些关于一般意义上机器如何影响与人类的协作和社会对机器的接受性的研究。强调了通过建立对机器的信任来促进接受的有前途的方法。这样的研究为UnIC的社会融合提供了一个新的思路。

5.1 机器对协作的影响

与机器协作已被证明可以大大减少人类在体力和认知上的负担。来自不同领域的学者，如人机交互（HMI）和社交机器人，都致力于识别人机协作的影响因素。正如参考文献[217‒219]所报道的，“任务类型、操作环境和机器行为如何影响人机团队协作”的问题已经在人机交互领域得到了深入研究[220]。与人机协作相比，人类通过机器进行协作的探索要少得多。据相关研究表明，使用机器作为人类的代理可以增强人类的协作。例如，相对于人与人之间的直接交互，人与人之间共同使用预编程的自主车辆可以促进合作。换言之，当人类通过自主机器进行交互时，人类的合作会得到加强[221]。此外，研究人员发现机器的参与可以改善人类在对话参与和冲突调解方面的协作[222]。例如，在团队中拥有一台表达脆弱的机器，可以诱导人们更高水平地参与团队对话，并改善对团队交互体验的感知[220]。

5.2 社会对机器的接受度

如果机器不能被正确接受和应用，那么机器为协作带来的好处就不会实现。关于社会接受的文献主要涉及三个方面：①积极的评价和信念，作为态度维度上的接受；②意愿或计划行动，作为意向维度上的接受；③使用的行动，作为行为维度上的接受。尽管这三个维度之间的区别很重要，但在本节中，我们从一般意义上讨论社会对机器的感知。

现有的关于接受机器的研究涉及无人机[223]、个人机器人[224]、工作中的机器人[225]、家庭环境中的机器人[226]、自主车辆[227‒228]、网联车辆[229]等。研究接受度的方法包括调查、问卷、接受度模型、现场实验或受控实验室实验。一般来说，人们在接受智能机器方面存在障碍。例如，在德国进行的一项调查中，大多数被询问的人不同意将无人机用于广告和包裹运送等任务。典型的担忧包括安全和隐私。那些与无人系统打交道的人更看重安全而不是隐私，而那些不看重安全的人则更关心隐私。然而，只要考虑到自己的隐私，两者似乎都关心隐私问题[223,230]。对机器接受度不够的另一个重要原因是对机器的低水平情感的感知[231]。另外，即使在意愿上接受与无人系统共处的概念方面不存在障碍，也存在不采取相应行动的风险。例如，对于那些认为自动驾驶汽车在发生车祸时乘客的生命重于行人的生命的人来说，他们也不会购买这种汽车[232]。

5.3 以接受度指标来判定信任度

显然，对机器的合理接受和社会融合远远不够。一个关键因素是人类对机器的信任不足。信任被认为是接受机器的关键决定因素，包括技术上（如功能的可靠性和依赖性）和社会上（如情感、满足感和偏好）[233‒234]。对机器的信任可以受到很多因素的影响，包括任务特征、人口统计背景、经验等。在这一节中，我们将简要地强调三个重要的因素，它们有可能增加人们对机器的信任，并可以在机器设计中加以考虑。

第一个因素是身份建立，这一直是促进人类社会内部信任和合作的重要工具。事实上，人类对具有相似身份的机器也表现出相当大的组内偏爱[235,236]。因此，让机器与被交互的人建立相同的身份或群体成员关系，有助于增加人类对机器的信任[237]。操纵团队结构，承认机器是伙伴而不是工具，也可以提高主观满意度和团队绩效[238]。

第二个因素是可解释性。人们发现，机器行为的可解释性，如来自机器的解释，可以增加对机器的信任[239,240]。然而，人类推理的局限性也带来以下问题：解释的内容和层级程度[240]，因为无意识地选择与人沟通的信息可能有造成信息过载的风险。为了应对这一挑战，研究人员提出用实验设计的方法来检查可解释性的有效性[238]。

第三个因素是类似人的行为。人类对机器没有太多的信任，或者在情感上对机器与人类的信任不同，一个重要的潜在原因在于，机器一直被认为没有或很少有类似人类的情感和社会行为。有一些证据表明，人类更喜欢与具有更高水平的类似人行为的机器进行交互。例如，人们倾向于选择主动有预见的机器而不是被动的机器[241]，人们对自动化程度自适应的机器的信任度高于稳定的机器，后者总是提供帮助而不管人们是否需要[242]。事实上，机器的响应性和积极倾听也被发现可以降低人们的认知负荷，增加人们在压力事件中接受机器陪伴的意愿[243,244]。

6、 开放问题和趋势

这一节列出了为在社会中应用UnIC而迫切需要解决和未解决的问题。

6.1 从设计到验证和确认的过程

UnIC是一个开放的、复杂的、巨型的系统[245]，需要系统科学来整合社会和技术知识[246]。然而很大程度上，这种复杂系统的自上而下的系统性开发设计还不成熟[247]。首先，用于产生所需要的集体行为的多智能体交互的基本机制尚少有成果[34]。其次，与其他学科（如自动化）相比，UnIC中的设计、建模、评估、实施、运行、维护、验证和确认（V&V）的方法论仍然缺失。其后果是，系统开发可能会受不利因素的负面影响而产生风险。

6.2 由通用智能和社会智能驱动的行为

将通用智能融入无人系统中以执行多样化的任务的问题仍悬而未决。思考什么是AI以及AI如何以物理形式存在，并与物理实体共同进化的问题是不无裨益的。从些角度出发，可能有助于推进目前对无人系统的定义和对AI本身的理解[153,248‒250]。如前文所述，配备了AI的无人系统仍然缺乏常识、社会智能和技能迁移的能力[97,251]，事实上，这些特征是全面发展AI的基本特征[252]。

无人系统的社会功能目前主要是在人类和服务机器人之间的交互中予以体现，基本上是“建造一次，应用一次”的专用设计。这些设计要么是松散耦合的，要么只是部分考虑了社会因素。此外，尽管对自主层面的功能进行了研究，但对先进的自主社会交互的探索较少。事实上，在教育和医疗等领域，无人系统的社会参与服务是至关重要的，因为在这些领域，交互涉及高度的个性化。最近一个令人鼓舞的例子是，与人类导师或同伴学习者相比，教育机器人已被证明能达到类似的认知和共情能力[218]。

6.3 安全

UnIC是一个进行实时在线决策的安全关键性系统。然而，许多基于AI的使能技术会产生难以预测的行为。例如，目前还不清楚无人系统的涌现动力学是如何产生和发展的；也很难预测基于学习的自适应系统的行为，或者对这种系统的工作或故障的条件有一个明确的界定[239]。此外，由于UnIC的信息物理系统特性，人类参与网联无人系统将带来隐私安全的挑战[253‒254]。这些未解决的问题阻碍了网联无人系统系统在安全关键部门的应用。

6.4 标准、准则和法规

机器人操作系统（ROS）是无人系统设计上的实际使用的标准，并且已经被证明可以成功地加速无人系统的自主性[255]。最近，它已被更新到下一代ROS 2，可以几乎实时地支持多机器人应用。标准化对UnIC特别重要，因为UnIC需要在多个平台和许多领域进行交互。在IEEE委员会中已经开始了标准化的工作，例如，IEEE机器人和自动化工作组的本体论旨在创建标准的知识表示和推理，以便在智能体（如自主机器人和人类）之间进行知识传输。该小组为创建自主行为提供了一个标准的本体论[256]。此外，还有关于语义传感网络[257]和无人系统的联合通信架构的标准[258]。然而，对于UnIC的4个层次来说，非常理想的标准、准则和法规尚未建立。

6.5 偏见、伦理和道德问题

缺乏一个能够对多个无人自主系统进行伦理和道德设计的框架，阻碍了社会对UnIC的接受程度。例如，当无人系统自主决定人的生死存亡时，就产生了争议性的讨论[259]。正如参考文献[259]所指出的，道德原则可能不是普遍的，而且可能在不同文化中有所不同。目前，关于社会规范是否可以应用于认知智能体，结果褒贬不一[260]。另外，如何避免机器的偏见也是一个开放的问题[261‒263]。

7、 结论

尽管网联无人系统已经取得了令人瞩目的成就，但它们主要是为一系列特定领域的、范围狭窄的任务而设计的，既没有足够的人类水平的智能，也不能充分满足人类的需求。为了解决这些问题，本文提出了一个以人为本的网联无人系统的愿景：UnIC。UnIC有望提供更杰出的功能、适应性、自主性、效率、可靠性、安全性、可用性和用户体验，从而赋能智能交通系统、快速灾难响应、环境监测、智能制造、智能农业、医疗保健和日常辅助。在本文中，我们强调了一些能够支持这一愿景并将其融入社会的技术和因素。为了促进这一愿景的实现，需要来自多个学科的更多合作研究和工程实践。

参考文献

原文顺序 | 出版日期 | 本文引用
[1]

The global grand challenge summit report: global grand challenges [Internet].Stevenage: The Institution of Engineering and Technology; c2021 [cited 2021 Feb 17]. Available from: https://www.raeng.org.uk/publications/other/ggcsreport.
[2]

Mote CD, Dowling DA, Zhou J. The power of an idea: the international impacts of the grand challenges for engineering. Engineering 2016;2(1):4‒7.
[3]

Vinuesa R, Azizpour H, Leite I, Balaam M, Dignum V, Domisch S, et al. The role of artificial intelligence in achieving the sustainable development goals. Nat Commun 2020;11(1):233.
[4]

Fan J, Fang L, Wu J, Guo Y, Dai Q. From brain science to artificial intelligence. Engineering 2020;6(3):248‒52.
[5]

Rodríguez S, de Paz Y, Bajo J, Corchado JM. Social-based planning model for multiagent systems. Expert Syst Appl 2011;38(10):13005‒23.
[6]

Liew CF, Yairi T. Companion unmanned aerial vehicles: a survey. 2020. arXiv:2001.04637.
[7]

Kim HY, Kim B, Kim J. The naughty drone: a qualitative research on drone as companion device. In: Proceedings of the 10th International Conference on Ubiquitous Information Management and Communication; 2016 Jan 4‍‒‍6; Danang, VietNam. New York: ACM; 2016. p. 1‒6.
[8]

Digital economy report. Value creation and capture: implications for developing countries [Internet]. Geneva: United Nations; c2021 [cited 2021 Feb 17]. Available from: https://unctad.org/webflyer/digital-economy-report-2019.
[9]

Birk A, Antonelli G, Caiti A, Casalino G, Indiveri G, Pascoal A, et al. The CO3AUVs (cooperative cognitive control for autonomous underwater vehicles) project: overview and current progresses. In: Proceedings of OCEANS 2011 IEEE; 2011 Jun 6‒9; Santander, Spain. New York: IEEE; 2011.p. 1‒10.
[10]

Chibani A, Amirat Y, Mohammed S, Matson E, Hagita N, Barreto M. Ubiquitous robotics: recent challenges and future trends. Robot Auton Syst 2013;61(11):1162‒72.
[11]

Yang GZ, Quek TB, Stramigioli S, Ding H, Sun D, Yuh J. Forging global cooperation and collaboration. Sci Robot 2020;5(38):eaba5894.
[12]

Ramos C, Augusto JC, Shapiro D. Ambient intelligence—the next step for artificial intelligence. IEEE Intell Syst 2008;23(2):15‒8.
[13]

Chung SJ, Paranjape AA, Dames P, Shen S, Kumar V. A survey on aerial swarm robotics. IEEE Trans Robot 2018;34(4):837‒55.
[14]

Kolling A, Walker P, Chakraborty N, Sycara K, Lewis M. Human interaction with robot swarms: a survey. IEEE Trans Human-Mach Syst 2016;46(1):9‒26.
[15]

Zhou J, Zhou Y, Wang B, Zang J. Human‒cyber‒physical systems (HCPSs) in the context of new-generation intelligent manufacturing. Engineering 2019;5(4):624‒36.
[16]

Jennings NR, Moreau L, Nicholson D, Ramchurn S, Roberts S, Rodden T, et al. Human-agent collectives. Commun ACM 2014;57(12):80‒8.
[17]

DeLaurentis D. Role of humans in complexity of a system-of-systems. In:Proceedings of the 1st International Conference on Digital Human Modeling; 2007 Jul 22‒27; Beijing, China. Berlin: Springer-Verlag; 2007. p. 363‒71.
[18]

Kiumarsi B, Basar T. Human-in-the-loop control of distributed multi-agentsystems: a relative input‒output approach. In: Proceedings of 2018 IEEE Conference on Decision and Control (CDC); 2018 Dec 17‍‒‍19; Miami, FL, USA. New York: IEEE; 2018. p. 3343‒8.
[19]

Emmanouilidis C, Pistofidis P, Bertoncelj L, Katsouros V, Fournaris A, Koulamas C, et al. Enabling the human in the loop: Linked data and knowledge in industrial cyber‒physical systems. Annu Rev Contr 2019;47:249‒65.
[20]

Aksanli B, Rosing TS. Human behavior aware energy management in residential cyber‒physical systems. IEEE Trans Emerg Top Comput 2020;8(1):45‒57.
[21]

Conti M, Passarella A, Das SK. The internet of people (IoP): a new wave in pervasive mobile computing. Pervasive Mobile Comput 2017;41:1‒27.
[22]

Zeng J, Yang LT, Lin M, Ning H, Ma J. A survey: cyber‍‒‍physical‍‒‍social systems and their system-level design methodology. Future Gener Comput Syst 2020;105:1028‒42.
[23]

Wang FY, Zhang JJ, Wang X. Parallel intelligence: toward lifelong and eternal developmental AI and learning in cyber‒physical‒social spaces. Front Comput Sci 2018;12(3):401‒5.
[24]

Wang FY, Yuan Y, Zhang J, Qin R, Smith MH. Blockchainized internet of minds:a new opportunity for cyber‍‒‍physical‍‒‍social systems. IEEE Trans Comput SocSyst 2018;5(4):897‒906.
[25]

Hammons R, Myers J. Architects of our future: redefining smart cities to be people-centric and socially responsible. IEEE Internet Things M 2019;‍2(2):10‒4.
[26]

Ursino D, Virgili L. Humanizing IoT: defining the profile and the reliability of a thing in a multi-IoT scenario. In: Toward Social Internet of Things (SIoT):enabling technologies, architectures and applications. Springer; 2020. p. 51‒76.
[27]

Roopa MS, Pattar S, Buyya R, Venugopal KR, Iyengar SS, Patnaik LM. Social Internet of Things (SIoT): foundations, thrust areas, systematic review and future directions. Comput Commun 2019;139:32‒57.
[28]

Mahieu C, Ongenae F, de Backere F, Bonte P, de Turck F, Simoens P. Semanticsbased platform for context-aware and personalized robot interaction in the internet of robotic things. J Syst Softw 2019;149:138‒57.
[29]

Vermesan O, Bröring A, Tragos E, Serrano M, Bacciu D, Chessa S, et al. Internet of robotic thing—converging sensing/actuating, hyperconnectivity, artificial intelligence and IoT platforms. In: Cognitive hyperconnected digital transformation—Internet of Things intelligence evolution. River Publishers; 2017. p. 97‒155.
[30]

Pfeifer R, Lungarella M, Iida F. Self-organization, embodiment, and biologically inspired robotics. Science 2007;318(5853):1088‒93.
[31]

Brambilla M, Ferrante E, Birattari M, Dorigo M. Swarm robotics: a review from the swarm engineering perspective. Swarm Intell 2013;7(1):1‒41.
[32]

Li S, Batra R, Brown D, Chang HD, Ranganathan N, Hoberman C, et al. Particle robotics based on statistical mechanics of loosely coupled components. Nature 2019;567(7748):361‒5.
[33]

Slavkov I, Carrillo-Zapata D, Carranza N, Diego X, Jansson F, Kaandorp J, et al. Morphogenesis in robot swarms. Sci Robot 2018;3(25):aau9178.
[34]

Rubenstein M, Cornejo A, Nagpal R. Programmable self-assembly in a thousand-robot swarm. Science 2014;345(6198):795‒9.
[35]

Berdahl A, Torney CJ, Ioannou CC, Faria JJ, Couzin ID. Emergent sensing of complex environments by mobile animal groups. Science 2013;339(6119):574‒6.
[36]

Sasaki T, Biro D. Cumulative culture can emerge from collective intelligence in animal groups. Nat Commun 2017;8(1):15049.
[37]

Conradt L. When it pays to share decisions. Nature 2011;471(7336):40‒1.
[38]

Couzin ID, Krause J, Franks NR, Levin SA. Effective leadership and decisionmaking in animal groups on the move. Nature 2005;433(7025):513‒6.
[39]

Zafeiris A, Vicsek T. Group performance is maximized by hierarchical competence distribution. Nat Commun 2013;4(1):2484.
[40]

Anderson TL, Donath M. Animal behavior as a paradigm for developing robot autonomy. Robot Auton Syst 1990;6(1‒2):145‒68.
[41]

Sahin E. Swarm robotics: from sources of inspiration to domains of application. In: Proceedings of the 2004 International Conference on Swarm Robotics; 2004 Jul 17; Santa Monica, CA, USA. Berlin: Springer-Verlag; 2004.p. 10‒20.
[42]

Hassabis D, Kumaran D, Summerfield C, Botvinick M. Neuroscience-inspired artificial intelligence. Neuron 2017;95(2):245‒58.
[43]

Tenenbaum JB, Kemp C, Griffiths TL, Goodman ND. How to grow a mind: statistics, structure, and abstraction. Science 2011;331(6022):1279‒85.
[44]

Savage N. The search for secrets of the human brain. Nature 2019;574(7778):S49‒51.
[45]

Fan J, Suo J, Wu J, Xie H, Shen Y, Chen F, et al. Video-rate imaging of biological dynamics at centimetre scale and micrometre resolution. Nat Photonics2019;13(11):809‒16.
[46]

Knight JC, Nowotny T. Larger GPU-accelerated brain simulations with procedural connectivity. Nat Comput Sci 2021;1:136‒42.
[47]

Lake BM, Ullman TD, Tenenbaum JB, Gershman SJ. Building machines that learn and think like people. Behav Brain Sci 2017;40:e253.
[48]

Mishra A, Son J. Cognitive robotics: a platform for innovation. IEEE Potentials 2019;38(3):39‒42.
[49]

Banino A, Barry C, Uria B, Blundell C, Lillicrap T, Mirowski P, et al. Vectorbased navigation using grid-like representations in artificial agents. Nature 2018;557(7705):429‒33.
[50]

Thill S, Caligiore D, Borghi AM, Ziemke T, Baldassarre G. Theories and computational models of affordance and mirror systems: an integrative review. Neurosci Biobehav Rev 2013;37(3):491‒521.
[51]

Ralph MAL, Jefferies E, Patterson K, Rogers TT. The neural and computational bases of semantic cognition. Nat Rev Neurosci 2017;18(1):42‒55.
[52]

Merel J, Botvinick M, Wayne G. Hierarchical motor control in mammals and machines. Nat Commun 2019;10(1):5489.
[53]

Báez-Mendoza R, Mastrobattista EP, Wang AJ, Williams ZM. Social agent identity cells in the prefrontal cortex of interacting groups of primates. Science 2021;374(6566):eabb4149.
[54]

Saxe A, Nelli S, Summerfield C. If deep learning is the answer, what is the question? Nat Rev Neurosci 2021;22(1):55‒67.
[55]

Ghahramani Z. Probabilistic machine learning and artificial intelligence. Nature 2015;521(7553):452‒9.
[56]

Kriegeskorte N. Deep neural networks: a new framework for modeling biological vision and brain information processing. Annu Rev Vis Sci 2015;1(1):417‒46.
[57]

Volodymyr M, Koray K, David S, Andrei AR, Joel V, Marc GB. Human-level control through deep reinforcement learning. Nature 2015;518(7540):529‒33.
[58]

Schmidt M, Lipson H. Distilling free-form natural laws from experimental data. Science 2009;324(5923):81‒5.
[59]

Udrescu SM, Tegmark M. AI Feynman: a physics-inspired method for symbolic regression. Sci Adv 2020;6(16):eaay2631.
[60]

Davies A, Veličković P, Buesing L, Blackwell S, Zheng D, Tomašev N, et al. Advancing mathematics by guiding human intuition with AI. Nature 2021;600(7887):70‒4.
[61]

Peterson JC, Bourgin DD, Agrawal M, Reichman D, Griffiths TL. Using largescale experiments and machine learning to discover theories of human decision-making. Science 2021;372(6547):1209‒14.
[62]

Wu S, Kondo Y, Kakimoto M, Yang B, Yamada H, Kuwajima I, et al. Machinelearning-assisted discovery of polymers with high thermal conductivity using a molecular design algorithm. NPJ Comput Mater 2019;5:66.
[63]

Isayev O. Text mining facilitates materials discovery. Nature 2019;571(7763):42‒3.
[64]

Zhu Y, Gao T, Fan L, Huang S, Edmonds M, Liu H, et al. Dark, beyond deep: a paradigm shift to cognitive AI with humanlike common sense. Engineering 2020;6(3):310‒45.
[65]

Asada M, Hosoda K, Kuniyoshi Y, Ishiguro H, Inui T, Yoshikawa Y, et al. Cognitive developmental robotics: a survey. IEEE Trans Auton Ment Dev 2009;1(1):12‒34.
[66]

Min H, Yi C, Luo R, Zhu J, Bi S. Affordance research in developmental robotics:a survey. IEEE Trans Cogn Dev Syst 2016;8(4):237‒55.
[67]

Prince CG, Gogate LJ. Epigenetic robotics: behavioral treatments and potential new models for developmental pediatrics. Pediatr Res 2007;61(4):383‒5.
[68]

Shanechi MM. Brain-machine interfaces from motor to mood. Nat Neurosci 2019;22(10):1554‒64.
[69]

Wuchty S, Jones BF, Uzzi B. The increasing dominance of teams in production of knowledge. Science 2007;316(5827):1036‒9.
[70]

Navajas J, Niella T, Garbulsky G, Bahrami B, Sigman M. Aggregated knowledge from a small number of debates outperforms the wisdom of large crowds. Nat Hum Behav 2018;2(2):126‒32.
[71]

Parkinson C, Kleinbaum AM, Wheatley T. Similar neural responses predict friendship. Nat Commun 2018;9(1):332.
[72]

Christakis NA, Fowler JH. Social network sensors for early detection of contagious outbreaks. PLoS ONE 2010;5(9):e12948.
[73]

Hufnagel L, Brockmann D, Geisel T. Forecast and control of epidemics in a globalized world. Proc Natl Acad Sci USA 2004;101(42):15124‒9.
[74]

Mumford MD, Higgs CA, editors. Leader thinking skills: capacities for contemporary leadership. New York: Taylor & Francis; 2020.
[75]

Marlowe HA. Social intelligence: evidence for multidimensionality and construct independence. J Educ Psychol 1986;78(1):52‒8.
[76]

Freeman J, Baggio JA, Coyle TR. Social and general intelligence improves collective action in a common pool resource system. Proc Natl Acad Sci USA 2020;117(14):7712‒8.
[77]

Mao W, Gratch J. Social judgment in multiagent interactions. In: Proceedings of the Third International Joint Conference on Autonomous Agents and Multiagent Systems; 2004 Jul 23; New York, NY, USA. New York: IEEE; 2004.p. 210‒7.
[78]

Pinyol I, Sabater-Mir J. Computational trust and reputation models for open multi-agent systems: a review. Artif Intell Rev 2013;40(1):1‒25.
[79]

Wu Q, Ding G, Xu Y, Feng S, Du Z, Wang J, et al. Cognitive internet of things: a new paradigm beyond connection. IEEE Internet Things J 2014;1(2):129‒43.
[80]

Ding G, Wu Q, Zhang L, Lin Y, Tsiftsis TA, Yao YD. An amateur drone surveillance system based on the cognitive Internet of Things. IEEE Commun Mag 2018;56(1):29‒35.
[81]

Calderon MA, Delgadillo SE, Garcia-Macias JA. A more human-centric Internet of Things with temporal and spatial context. Procedia Comput Sci 2016;83:553‒9.
[82]

Rios-Martinez J, Spalanzani A, Laugier C. From proxemics theory to sociallyaware navigation: a survey. Int J Soc Robot 2015;7(2):137‒53.
[83]

Parent C, Spaccapietra S, Renso C, Andrienko G, Andrienko N, Bogorny V, et al. Semantic trajectories modeling and analysis. ACM Comput Surv 2013;45(4):1‒32.
[84]

Vasudevan S, Gächter S, Nguyen V, Siegwart R. Cognitive maps for mobile robots—an object based approach. Robot Auton Syst 2007;55(5):359‒71.
[85]

Dignum F, Hofstede GJ, Prada R. From autistic to social agents. In: Proceedings of 13th International Conference on Autonomous Agents and Multiagent Systems (AAMAS); 2014 May 5‍‒‍9; Paris, France. IFAAMAS; 2014. p. 1161‒4.
[86]

Sun L, Zhan W, Tomizuka M, Dragan AD. Courteous autonomous cars. In:Proceedings of 2018 IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS); 2018 Oct 1‍‒‍5; Madrid, Spain. New York: IEEE; 2018. p.663‒70.
[87]

Sun L, Zhan W, Chan CY, Tomizuka M. Behavior planning of autonomous cars with social perception. In: Proceedings of 2019 IEEEIntelligent Vehicles Symposium IV); 2019 Jun 9‍‒‍12; Paris, France. New York: IEEE; 2019. p. 207‒13.
[88]

Kaminka GA. Curing robot autism: a challenge. In: Proceedings of the 2013 International Conference on Autonomous Agents and Multi-agent Systems; 2013 May 6‒10; St Paul, MN, USA. AAMS; 2013. p. 801‒4.
[89]

Schwarting W, Pierson A, Alonso-Mora J, Karaman S, Rus D. Social behavior for autonomous vehicles. Proc Natl Acad Sci USA 2019;116(50):24972‒8.
[90]

Sun L, Zhan W, Hu Y, Tomizuka M. Interpretable modelling of driving behaviors in interactive driving scenarios based on cumulative prospect theory. In: Proceedings of 2019 IEEE Intelligent Transportation Systems Conference (ITSC); 2019 Oct 27‒30; Auckland, New Zealand. New York: IEEE;2019. p. 4329‒35.
[91]

Sanjab A, Saad W, Basar T. A game of drones: cyber‒physical security of timecritical UAV applications with cumulative prospect theory perceptions and valuations. IEEE Trans Commun 2020;68(11):6990‒7006.
[92]

Sabater J, Sierra C. Reputation and social network analysis in multi-agent systems. In: Proceedings of the First International Joint Conference on Autonomous Agents and Multiagent Systems; 2002 Jul 15‍‒‍19; Bologna, Italy. New York: ACM; 2002. p. 457‒82.
[93]

Gordon G. Social behaviour as an emergent property of embodied curiosity: a robotics perspective. Philos Trans R Soc Lond B Biol Sci 2019;374(1771):20180029.
[94]

Santos FC, Santos MD, Pacheco JM. Social diversity promotes the emergence of cooperation in public goods games. Nature 2008;454(7201):213‒6.
[95]

Ferreira JF, Dias J. Attentional mechanisms for socially interactive robots—a survey. IEEE Trans Auton Ment Dev 2014;6(2):110‒25.
[96]

Shu T, Ryoo MS, Zhu SC. Learning social affordance for human‍‒‍robot interaction. 2016. arXiv:1604.03692.
[97]

Yang GZ. Robot learning—beyond imitation. Sci Robot 2019;4(26):eaaw3520.
[98]

Senft E, Lemaignan S, Baxter PE, Bartlett M, Belpaeme T. Teaching robots social autonomy from in situ human guidance. Sci Robot 2019;4(35):eaat1186.
[99]

Clabaugh C, Mataric´ M. Robots for the people, by the people: personalizing human‒machine interaction. Sci Robot 2018;3(21):eaat7451.
[100]

Valenzuela-Valdes JF, Lopez MA, Padilla P, Padilla JL, Minguillon J. Human neuro‒activity for securing body area networks: application of brain‒computer interfaces to people-centric Internet of Things. IEEE Commun Mag 2017;55(2):62‒7.
[101]

Dominijanni G, Shokur S, Salvietti G, Buehler S, Palmerini E, Rossi S, et al. The neural resource allocation problem when enhancing human bodies with extra robotic limbs. Nat Mach Intell 2021;3(10):850‒60.
[102]

Wang T, Wang M, Yang L, Li Z, Loh XJ, Chen X. Cyber‒physiochemical interfaces. Adv Mater 2020;32(8):e1905522.
[103]

Vanderelst D, Winfield A. An architecture for ethical robots. 2016. arXiv:1609.02931.
[104]

Sitti M. Microscale and nanoscale robotics systems [grand challenges of robotics]. IEEE Robot Autom Mag 2007;14(1):53‒60.
[105]

Estrada MA, Mintchev S, Christensen DL, Cutkosky MR, Floreano D. Forceful manipulation with micro air vehicles. Sci Robot 2018;3(23):eaau6903.
[106]

Seo J, Paik J, Yim M. Modular reconfigurable robotics. Annu Rev Control Robot Auton Syst 2019;2(1):63‒88.
[107]

Li J, de Ávila BE, Gao W, Zhang L, Wang J. Micro/nanorobots for biomedicine:delivery, surgery, sensing, and detoxification. Sci Robot 2017;2(4):2.
[108]

Peplow M. The tiniest Lego: a tale of nanoscale motors, rotors, switches and pumps. Nature 2015;525:18‒21.
[109]

Zhang L, Marcos V, Leigh DA. Molecular machines with bio-inspired mechanisms. Proc Natl Acad Sci USA 2018;115(38):9397‒404.
[110]

Floreano D, Wood RJ. Science, technology and the future of small autonomous drones. Nature 2015;521(7553):460‒6.
[111]

Ma KY, Chirarattananon P, Fuller SB, Wood RJ. Controlled flight of a biologically inspired, insect-scale robot. Science 2013;340(6132):603‒7.
[112]

Jafferis NT, Helbling EF, Karpelson M, Wood RJ. Untethered flight of an insectsized flapping-wing microscale aerial vehicle. Nature 2019;570(7762):491‒5.
[113]

Rus D, Tolley MT. Design, fabrication and control of soft robots. Nature 2015;521(7553):467‒75.
[114]

Laschi C, Mazzolai B, Cianchetti M. Soft robotics: technologies and systems pushing the boundaries of robot abilities. Sci Robot 2016;1(1):eaah3690.
[115]

Howard D, Eiben AE, Kennedy DF, Mouret JB, Valencia P, Winkler D. Evolving embodied intelligence from materials to machines. Nat Mach Intell 2019;1(1):12‒9.
[116]

Kaspar C, Ravoo BJ, van der Wiel WG, Wegner SV, Pernice WHP. The rise of intelligent matter. Nature 2021;594(7863):345‒55.
[117]

de Marco C, Pané S, Nelson BJ. 4D printing and robotics. Sci Robot 2018;3(18):eaau0449.
[118]

Sakar MS. Immune evasion by designer microrobots. Sci Robot 2020;5(43):eabc7620.
[119]

Barnhart DJ, Vladimirova T, Sweeting MN. Very-small-satellite design for distributed space missions. J Spacecr Rockets 2007;44(6):1294‒306.
[120]

Norton JC, Slawinski PR, Lay HS, Martin JW, Cox BF, Cummins G, et al. Intelligent magnetic manipulation for gastrointestinal ultrasound. Sci Robot 2019;4(31):aav7725.
[121]

Donald BR, Levey CG, McGray CD, Paprotny I, Rus D. An untethered, electrostatic, globally controllable MEMS micro-robot. J Microelectromech Syst 2006;15(1):1‒15.
[122]

Li G, Chen X, Zhou F, Liang Y, Xiao Y, Cao X, et al. Self-powered soft robot in the Mariana Trench. Nature 2021;591(7848):66‒71.
[123]

Bandyopadhyay S, Foust R, Subramanian GP, Chung SJ, Hadaegh FY. Review of formation flying and constellation missions using nanosatellites. J Spacecr Rockets 2016;53(3):567‒78.
[124]

Chen Y, Doshi N, Goldberg B, Wang H, Wood RJ. Controllable water surface to underwater transition through electrowetting in a hybrid terrestrial‒aquatic microrobot. Nat Commun 2018;9(1):2495.
[125]

Chen AI, Balter ML, Maguire TJ, Yarmush ML. Deep learning robotic guidance for autonomous vascular access. Nat Mach Intell 2020;2(2): 104‒15.
[126]

Fukuda T, Dario P, Yang GZ. Humanoid robotics—history, current state of the art, and challenges. Sci Robot 2017;2(13):eaar4043.
[127]

Piazza C, Grioli G, Catalano MG, Bicchi A. Annual review of control, robotics, and autonomous systems. Annu Rev 2019;2(1):1‒32.
[128]

The rise of ocean robots. Nat Geosci 2020;13(6):393.
[129]

Gupta SG, Ghonge M, Jawandhiya PM. Review of unmanned aircraft system (UAS). Int J Adv Res Comput Eng Technol 2013;2(4):1646‒58.
[130]

Gao Y, Chien S. Review on space robotics: toward top-level science through space exploration. Sci Robot 2017;2(7):2.
[131]

Hawkes E, An B, Benbernou NM, Tanaka H, Kim S, Demaine ED, et al. Programmable matter by folding. Proc Natl Acad Sci USA 2010;107(28):12441‒5.
[132]

Felton S, Tolley M, Demaine E, Rus D, Wood R. A method for building selffolding machines. Science 2014;345(6197):644‒6.
[133]

Hu W, Lum GZ, Mastrangeli M, Sitti M. Small-scale soft-bodied robot with multimodal locomotion. Nature 2018;554(7690):81‒5.
[134]

Cianchetti M, Laschi C, Menciassi A, Dario P. Biomedical applications of soft robotics. Nat Rev Mater 2018;3(6):143‒53.
[135]

Yu X, Zhang Y. Sense and avoid technologies with applications to unmanned aircraft systems: review and prospects. Prog Aerosp Sci 2015;74:152‒66.
[136]

Campbell S, Naeem W, Irwin GW. A review on improving the autonomy of unmanned surface vehicles through intelligent collision avoidance manoeuvres. Annu Rev Contr 2012;36(2):267‒83.
[137]

Engelhardtsen Ø. 3D AUV collision avoidance [dissertation]. Trondheim:Norwegian University of Science and Technology; 2007.
[138]

Guanetti J, Kim Y, Borrelli F. Control of connected and automated vehicles: state of the art and future challenges. Annu Rev Contr 2018;45:18‒40.
[139]

Funke J, Brown M, Erlien SM, Gerdes JC. Collision avoidance and stabilization for autonomous vehicles in emergency scenarios. IEEE Trans Control Syst Technol 2017;25(4):1204‒16.
[140]

Bonnal C, McKnight D, Phipps C, Dupont C, Missonnier S, Lequette L, et al. Just in time collision avoidance—a review. Acta Astronaut 2020;170:637‒51.
[141]

Dahl J, de Campos GR, Olsson C, Fredriksson J. Collision avoidance: a literature review on threat-assessment techniques. IEEE Trans Intell Veh 2019;4(1):101‒13.
[142]

Haddadin S, de Luca A, Albu-Schäffer A. Robot collisions: a survey on detection, isolation, and identification. IEEE Trans Robot 2017;33(6):1292‒312.
[143]

Hoy M, Matveev AS, Savkin AV. Algorithms for collision-free navigation of mobile robots in complex cluttered environments: a survey. Robotica 2015;33(3):463‒97.
[144]

Chen Y, Moore KL, Song Z. Diffusion boundary determination and zone control via mobile actuator‍‒‍sensor networks (MAS-net): challenges and opportunities. In: Proceedings of Intelligent Computing: Theory and Applications II; 2004 Apr 12‒16; Orlando, FL, USA. SPIE; 2004. p. 102.
[145]

Dong X, Hua Y, Zhou Y, Ren Z, Zhong Y. Theory and experiment on formationcontainment control of multiple multirotor unmanned aerial vehicle systems. IEEE Trans Autom Sci Eng 2019;16(1):229‒40.
[146]

Dong X, Yu B, Shi Z, Zhong Y. Time-varying formation control for unmanned aerial vehicles: theories and applications. IEEE Trans Control Syst Technol 2015;23(1):340‒8.
[147]

Siegwart R, Nourbakhsh IR, Scaramuzza D. Introduction to autonomous mobile robots. Cambridge: MIT Press; 2011.
[148]

Sun R. Cognitive social simulation incorporating cognitive architectures. IEEE Intell Syst 2007;22(5):33‒9.
[149]

Vernon D. Artificial cognitive systems: a primer. Cambridge: The MIT Press;2014.
[150]

Suárez-Ruiz F, Zhou X, Pham QC. Can robots assemble an IKEA chair? Sci Robot 2018;3(17):eaat6385.
[151]

Yang GZ, Bellingham J, Dupont PE, Fischer P, Floridi L, Full R, et al. The grand challenges of Science Robotics. Sci Robot 2018;3(14):eaar7650.
[152]

Goldberg K. Robots and the return to collaborative intelligence. Nat Mach Intell 2019;1(1):2‒4.
[153]

Miriyev A, Kovacˇ M. Skills for physical artificial intelligence. Nat Mach Intell 2020;2(11):658‒60.
[154]

Hanford SD, Janrathitikarn O, Long LN. Control of mobile robots using the soar cognitive architecture. J Aerosp Comput Inf Commun 2009;6(2):69‒91.
[155]

Fettweis GP. The tactile internet: applications and challenges. IEEE Veh Technol Mag 2014;9(1):64‒70.
[156]

Wang H, Zhao H, Zhang J, Ma D, Li J, Wei J. Survey on unmanned aerial vehicle networks: a cyber physical system perspective. IEEE Comm Surv and Tutor 2020;22(2):1027‒70.
[157]

Ning Z, Huang J, Wang X. Vehicular fog computing: enabling real-time traffic management for smart cities. IEEE Wirel Commun 2019;26(1):87‒93.
[158]

Bekmezci I, Sahingoz OK, Temel S_. Flying ad-hoc networks (FANETs): a survey. Ad Hoc Netw 2013;11(3):1254‒70.
[159]

Mozaffari M, Saad W, Bennis M, Nam YH, Debbah M. A tutorial on UAVs for wireless networks: applications, challenges, and open problems. IEEE Comm Surv and Tutor 2019;21(3):2334‒60.
[160]

Maurelli F, Saigol Z, Insaurralde CC, Petillot YR, Lane DM. Marine world representation and acoustic communication: challenges for multi-robot collaboration. In: Proceedings of 2012 IEEE/OES Autonomous Underwater Vehicles (AUV); 2012 Sep 24‒27; Southampton, UK. New York: 2012. p. 1‒6.
[161]

Rovatsos M. Computational interaction frames [dissertation]. Munich:Technical University Munich; 2004. German.
[162]

Mohr DC, Shilton K, Hotopf M. Digital phenotyping, behavioral sensing, or personal sensing: names and transparency in the digital age. NPJ Digit Med 2020;3(1):45.
[163]

Shmueli E, Singh VK, Lepri B, SensingPentland A., understanding, and shaping social behavior. IEEE Trans Comput Soc Syst 2014;1(1):22‒34.
[164]

Roggen D, Tröster G, Lukowicz P, Ferscha A, Millán JR, Chavarriaga R. Opportunistic human activity and context recognition. Computer 2013;‍46:36‒45.
[165]

Dang S, Amin O, Shihada B, Alouini MS. What should 6G be? Nat Electron 2020;3(1):20‒9.
[166]

Rabaey JM. The human intranet—where swarms and humans meet. In:Proceedings of 2015 Design, Automation & Test in Europe Conference & Exhibition (DATE); 2015 Mar 9‒13; Grenoble, France. New York: IEEE; 2015. p. 637‒40.
[167]

Xu K, Hui P, Li VOK, Crowcroft J, Latora V, Lio P. Impact of altruism on opportunistic communications. In: Proceedings of 2009 First International Conference on Ubiquitous and Future Networks; 2009 Jun 7‒9; Hong Kong, China. New York: IEEE; 2009. p. 153‒8.
[168]

Whitbeck J, Lopez Y, Leguay J, Conan V, de Amorim MD. Push-and-track:saving infrastructure bandwidth through opportunistic forwarding. Pervasive Mobile Comput 2012;8(5):682‒97.
[169]

Zheng X, Chen W, Wang P, Shen D, Chen S, Wang X, et al. Big data for social transportation. IEEE Trans Intell Transp Syst 2015;17(3):620‒30.
[170]

Lu Y, Asghar MR. Semantic communications between distributed cyber‍‒physical systems towards collaborative automation for smart manufacturing. J Manuf Syst 2020;55:348‒59.
[171]

Piyathilaka L, Kodagoda S. Affordance-map: a map for context-aware path planning. In: Proceedings of Australasian Conference on Robotics and Automation (ACRA); 2014 Dec 2‒4; Melbourne, Australia; 2014.
[172]

Varadarajan KM, Vincze M. Afrob: the affordance network ontology for robots. In: Proceedings of 2012 IEEE/RSJ International Conference on Intelligent Robots and Systems; 2012 Oct 7‒12; Vilamoura-Algarve, Portugal. New York: IEEE; 2012. p. 1343‒50.
[173]

Phan N, Dou D, Wang H, Kil D, Piniewski B. Ontology-based deep learning for human behavior prediction with explanations in health social networks. Inf Sci 2017;384:298‒313.
[174]

Alsafi Y, Vyatkin V. Ontology-based reconfiguration agent for intelligent mechatronic systems in flexible manufacturing. Robot Comput-Integr Manuf 2010;26(4):381‒91.
[175]

Paull L, Severac G, Raffo GV, Angel JM, Boley H, Durst PJ, et al. Towards an ontology for autonomous robots. In: Proceedings of 2012 IEEE/RSJ International Conference on Intelligent Robots and Systems; 2012 Oct 7‍‒‍12; Vilamoura-Algarve, Portugal. New York: IEEE; 2012. p. 1359‒64.
[176]

Tchuiev V, Indelman V. Distributed consistent multi-robot semantic localization and mapping. IEEE Robot Autom Lett 2020;5(3):4649‒56.
[177]

Schou C, Madsen O. A plug and produce framework for industrial collaborative robots. Int J Adv Robot Syst 2017;14(4):1‒10.
[178]

Sanz PJ, Ridao P, Oliver G, Melchiorri C, Casalino G, Silvestre C, et al. TRIDENT:a framework for autonomous underwater intervention missions with dexterous manipulation capabilities. IFAC Proc 2010;43(16):187‒92.
[179]

Vernon D, Metta G, Sandini G. A survey of artificial cognitive systems:implications for the autonomous development of mental capabilities in computational agents. IEEE Trans Evol Computat 2007;11(2):151‒80.
[180]

Hsu J. Machines on mission possible. Nat Mach Intell 2019;1(3):124‒7.
[181]

Service RF. Minds of their own. Science 2014;346(6206):182‒3.
[182]

Whaiduzzaman M, Sookhak M, Gani A, Buyya R. A survey on vehicular cloud computing. J Netw Comput Appl 2014;40:325‒44.
[183]

Kehoe B, Patil S, Abbeel P, Goldberg K. A survey of research on cloud robotics and automation. IEEE Trans Autom Sci Eng 2015;12(2):398‒409.
[184]

Garcia Lopez P, Montresor A, Epema D, Datta A, Higashino T, Iamnitchi A, et al. Edge-centric computing: vision and challenges. ACM SIGCOMM Computer Commun Rev 2015;45(5):37‒42.
[185]

Shaik MS, Struhár V, Bakhshi Z, Dao VL, Desai N, Papadopoulos AV, et al. Enabling fog-based industrial robotics systems. In: Proceedings of 2020 25th IEEE International Conference on Emerging Technologies and Factory Automation (ETFA); 2020 Sep 8‒11; Vienna, Austria. New York: IEEE; 2020. p. 61‒8.
[186]

Tanwani AK, Mor N, Kubiatowicz J, Gonzalez JE, Goldberg K. A fog robotics approach to deep robot learning: application to object recognition and grasp planning in surface decluttering. In: Proceedings of 2019 International Conference on Robotics and Automation (ICRA); 2019 May 20‒24; Montreal, QC, Canada. New York: IEEE; 2019. p. 4559‒66.
[187]

Botta A, Gallo L, Ventre G. Cloud, fog, and dew robotics: architectures for next generation applications. In: Proceedings of 2019 7th IEEE International Conference on Mobile Cloud Computing, Services, and Engineering(MobileCloud); 2019 Apr 4‍‒‍9; Newark, CA, USA. New York: IEEE; 2019. p.16‒23.
[188]

Hou X, Li Y, Chen M, Wu D, Jin D, Chen S. Vehicular fog computing: a viewpoint of vehicles as the infrastructures. IEEE Trans Vehicular Technol 2016;65(6):3860‒73.
[189]

Zhou F, Chai Y. Near-sensor and in-sensor computing. Nat Electron 2020;3(11):664‒71.
[190]

Sebastian A, Gallo ML, Khaddam-Aljameh R, Eleftheriou E. Memory devices and applications for in-memory computing. Nat Nanotechnol 2020;‍15(7):529‒44.
[191]

Yang Y. Multi-tier computing networks for intelligent IoT. Nat Electron 2019;2(1):4‒5.
[192]

Reader SM, Laland KN. Social intelligence, innovation, and enhanced brain size in primates. Proc Natl Acad Sci USA 2002;99(7):4436‒41.
[193]

Tenorth M, Klank U, Pangercic D, Beetz M. Web-enabled robots. IEEE Robot Autom Mag 2011;18(2):58‒68.
[194]

Wei R, Zhang Q, Xu Z. Peers’ experience learning for developmental robots. Int J Soc Robot 2020;12(1):35‒45.
[195]

Gorman BL, Resseguie DR, Tomkins-Tinch C. Sensorpedia: information sharing across incompatible sensor systems. In: Proceedings of 2009 International Symposium on Collaborative Technologies and Systems; 2009 May 18‒22; Baltimore, MD, USA. New York: IEEE; 2009. p. 448‒54.
[196]

Saxena A, Jain A, Sener O, Jami A, Misra DK, Koppula HS. Robobrain: largescale knowledge engine for robots. 2014. arXiv:1412.0691.
[197]

Pérez-D0Arpino C, Shah JA. C-LEARN: learning geometric constraints from demonstrations for multi-step manipulation in shared autonomy. In:Proceedings of 2017 IEEE International Conference on Robotics and Automation (ICRA); 2017 May 29‒Jun 3; Singapore. New York: IEEE; 2017.p. 4058‒65.
[198]

Mason W, Watts DJ. Collaborative learning in networks. Proc Natl Acad Sci USA 2012;109(3):764‒9.
[199]

Levine S, Pastor P, Krizhevsky A, Ibarz J, Quillen D. Learning hand‒eye coordination for robotic grasping with deep learning and large-scale data collection. Int J Robot Res 2018;37(4‒5):421‒36.
[200]

Zhang D, Guo B, Li B, Yu Z. Extracting social and community intelligence from digital footprints: an emerging research area. In: Yu Z, editor. Ubiquitous intelligence and computing. Heidelberg: Springer; 2010. p. 4‒18.
[201]

Cao K, Chen Y. Fractional order crowd dynamics. Boston: De Gruyter; 2018.
[202]

Song C, Qu Z, Blumm N, Barabási AL. Limits of predictability in human mobility. Science 2010;327(5968):1018‒21.
[203]

Yan XY, Wang WX, Gao ZY, Lai YC. Universal model of individual and population mobility on diverse spatial scales. Nat Commun 2017;8(1):1639.
[204]

Friedkin NE, Bullo F. How truth wins in opinion dynamics along issue sequences. Proc Natl Acad Sci USA 2017;114(43):11380‒5.
[205]

Proskurnikov AV, Tempo R. A tutorial on modeling and analysis of dynamic social networks. Part I. Ann Revs Control 2017;43:65‒79.
[206]

Proskurnikov AV, Tempo R. A tutorial on modeling and analysis of dynamic social networks. Part II. Ann Rev Control 2018;45:166‒90.
[207]

Murphy RR, Dreger KL, Newsome S, Rodocker J, Slaughter B, Smith R, et al. Marine heterogeneous multirobot systems at the great Eastern Japan Tsunami recovery. J Field Robot 2012;29(5):819‒31.
[208]

Saffiotti A, Broxvall M. PEIS ecologies: ambient intelligence meets autonomous robotics. In: Proceedings of the 2005 Joint Conference on Smart Objects and Ambient Intelligence: Innovative Context-Aware Services: Usages and Technologies; 2005 Oct 12‒14; Grenoble, France. New York: ACM; 2005. p. 277‒81.
[209]

Sanfeliu A, Andrade-Cetto J. Ubiquitous networking robotics in urban settings. In: Proceedings of Network Robot System: Toward Intelligent Robotic Systems Integrated with Environments; 2006 Oct 10; Beijing, China 2006.
[210]

Wang XV, Wang L, Mohammed A, Givehchi M. Ubiquitous manufacturing system based on cloud: a robotics application. Robot Comput-Integr Manuf 2017;45:116‒25.
[211]

Niu H, Hollenbeck D, Zhao T, Wang D, Chen Y. Evapotranspiration estimation with small UAVs in precision agriculture. Sensors (Basel) 2020;20(22):6427.
[212]

Perera C, Zaslavsky A, Christen P, Georgakopoulos D. Sensing as a service model for smart cities supported by Internet of Things. Trans Emerging Tel Tech 2014;25(1):81‒93.
[213]

Alwateer M, Loke SW, Zuchowicz AM. Drone services: issues in drones for location-based services from human-drone interaction to information processing. J Locat Based Serv 2019;13(2):94‒127.
[214]

Rasmussen S, Kingston D, Humphrey L. A brief introduction to unmanned systems autonomy services (UxAS). In: Proceedings of 2018 International Conference on Unmanned Aircraft Systems (ICUAS); 2018 Jun 12‒15; Dallas, TX, USA. New York: IEEE; 2018. p. 257‒68.
[215]

Zhao S, Yu L, Cheng B, Chen J. IoT service clustering for dynamic service matchmaking. Sensors (Basel) 2017;17(8):e1727.
[216]

Lundh R, Karlsson L, Saffiotti A. Autonomous functional configuration of a network robot system. Robot Auton Syst 2008;56(10):819‒30.
[217]

Goodrich MA, Schultz AC. Human‒robot interaction: a survey. Boston: Now Publishers Inc; 2008.
[218]

Belpaeme T, Kennedy J, Ramachandran A, Scassellati B, Tanaka F. Social robots for education: a review. Sci Robot 2018;3(21):eaat5954.
[219]

Lasota PA, Fong T, Shah JA. A survey of methods for safe human‍‒‍robot interaction. FNT Robot 2014;5(3):261‒349.
[220]

Traeger ML, Sebo SS, Jung M, Scassellati B, Christakis NA. Vulnerable robots positively shape human conversational dynamics in a human‒robot team. Proc Natl Acad Sci USA 2020;117(12):6370‒5.
[221]

de Melo CM, Marsella S, Gratch J. Human cooperation when acting through autonomous machines. Proc Natl Acad Sci USA 2019;116(9):3482‒7.
[222]

Haring KS, Tobias J, Waligora J, Phillips E, Tenhundfeld NL, Lucas G, et al. Conflict mediation in human‒machine teaming: using a virtual agent to support mission planning and debriefing. In: Proceedings of 2019 28th IEEE International Conference on Robot and Human Interactive Communication (RO-MAN); 2019 Oct 14‒18; New Delhi, India. New York: IEEE; 2019. p. 1‒7.
[223]

Eißfeldt H, Vogelpohl V, Stolz M, Papenfuß A, Biella M, Belz J, et al. The acceptance of civil drones in Germany. CEAS Aeronaut J 2020;11(3):665‒76.
[224]

Beer JM, Prakash A, Mitzner TL, Rogers WA. Understanding robot acceptance. Report. Atlanta: Georgia Institute of Technology; 2011. Report No.: HFA-TR-1103.
[225]

Turja T, Oksanen A. Robot acceptance at work: a multilevel analysis based on 27 EU countries. Int J Soc Robot 2019;11(4):679‒89.
[226]

De Graaf MMA. Living with robots investigating the user acceptance of social robots in domestic environments [dissertation]. Enschede: University of Twente; 2015.
[227]

Yuen KF, Chua G, Wang X, Ma F, Li KX. Understanding public acceptance of autonomous vehicles using the theory of planned behaviour. Int J Environ Res Public Health 2020;17(12):E4419.
[228]

Nordhoff S, de Winter J, Kyriakidis M, van Arem B, Happee R. Acceptance of driverless vehicles: results from a large cross-national questionnaire study. J Adv Transp 2018;2018:1‒22.
[229]

Shin HS, Callow M, Dadvar S, Lee YJ, Farkas ZA. User acceptance and willingness to pay for connected vehicle technologies: adaptive choice-based conjoint analysis. Transp Res Rec 2015;2531(1):54‒62.
[230]

Lidynia C, Philipsen R, Ziefle M. Droning on about drones—acceptance of and perceived barriers to drones in civil usage contexts. In: Savage-Knepshield P, Chen J, editors. Advances in human factors in robots and unmanned systems. Springer: Cham; 2017. p. 317‒29.
[231]

Marceddu AC, Sini J, Violante M, Montrucchio B. A novel approach to improve the social acceptance of autonomous driving vehicles by recognizing the emotions of passengers. In: Proceedings of Thirteenth International Conference on Machine Vision; 2020 Nov 2‍‒‍6; Rome, Italy. SPIE; 2021. p. 11605.
[232]

Bonnefon JF, Shariff A, Rahwan I. The social dilemma of autonomous vehicles. Science 2016;352(6293):1573‒6.
[233]

Gaudiello I, Zibetti E, Lefort S, Chetouani M, Ivaldi S. Trust as indicator of robot functional and social acceptance. An experimental study on user conformation to iCub answers. Comput Human Behav 2016;61:633‒55.
[234]

Glikson E, Woolley AW. Human trust in artificial intelligence: review of empirical research. Acad Management Ann 2020;14(2):627‒60.
[235]

Eyssel F, Kuchenbrandt D. Social categorization of social robots: anthropomorphism as a function of robot group membership. Br J Soc Psychol 2012;51(4):724‍‒‍31.
[236]

De Melo C, Carnevale P, Gratch J. Social categorization and cooperation between humans and computers. Proc Annu Meet Congi Sci Soc 2014;36(36):2109‒14.
[237]

Walliser JC, de Visser EJ, Wiese E, Shaw TH. Team structure and team building improve human‒machine teaming with autonomous agents. J Cognit Eng Decis Making 2019;13(4):258‒78.
[238]

Poursabzi-Sangdeh F, Goldstein DG, Hofman JM, Vaughan JWW, Wallach H. Manipulating and measuring model interpretability. In: Proceedings of the 2021 CHI Conference on Human Factors in Computing Systems; 2021 May 8‍‒‍13; Yokohama, Japan. New York: ACM; 2021. p. 1‒52.
[239]

Li X, Serlin Z, Yang G, Belta C. A formal methods approach to interpretable reinforcement learning for robotic planning. Sci Robot 2019;4(37):eaay6276.
[240]

Narayanan M, Chen E, He J, Kim B, Gershman S, Doshi-Velez F. How do humans understand explanations from machine learning systems? An evaluation of the human-interpretability of explanation. 2018. arXiv:1802.00682.
[241]

Hoffman G, Breazeal C. Effects of anticipatory section on human‍‒‍robot teamwork efficiency, fluency, and perception of team. In: Proceedings of the ACM/IEEE International Conference on Human‒Robot Interaction; 2007 Mar 10‒12; Arlington, VA, USA. New York: ACM; 2007. p. 1‒8.
[242]

de Visser E, Parasuraman R. Adaptive aiding of human‒robot teaming: effects of imperfect automation on performance, trust, and workload. J Cogn Eng Decis Mak 2011;5(2):209‒31.
[243]

Birnbaum GE, Mizrahi M, Hoffman G, Reis HT, Finkel EJ, Sass O. Machines as a source of consolation: robot responsiveness increases human approach behavior and desire for companionship. In: Proceedings of 2016 11th ACM/IEEE International Conference on Human‒Robot Interaction (HRI); 2016 Mar 7‒10; Christchurch, New Zealand. New York: IEEE; 2016. p. 165‒72.
[244]

Jung MF, Lee JJ, DePalma N, Adalgeirsson SO, Hinds PJ, Breazeal C. Engaging robots: easing complex human‍‒robot teamwork using backchanneling. In: Proceedings of the 2013 Conference on Computer Supported Cooperative Work; 2013 Feb 23‒27; AntonioSan, TX, USA. New York: ACM; 2013. p. 1555‒66.
[245]

Qian X, Yu J, Dai R. A new discipline of science—the study of open complex giant system and its methodology. J Syst Eng Electron 1993;4(2):2‒12.
[246]

Helbing D. Globally networked risks and how to respond. Nature 2013; 497(7447):51‒9.
[247]

Hasselmann K, Ligot A, Ruddick J, Birattari M. Empirical assessment and comparison of neuro-evolutionary methods for the automatic off-line design of robot swarms. Nat Commun 2021;12(1):4345.
[248]

Materializing artificial intelligence. Nat Mach Intell 2020;2(11):653.
[249]

Bongard J, Pfeifer R. How the body shapes the way we think: a new view of intelligence. Cambridge: MIT Press; 2010.
[250]

Clark A. Being there: putting brain, body, and world together again. Cambridge: MIT Press; 2001.
[251]

Sap M, Rashkin H, Chen D, LeBras R, Choi Y. Socialiqa: commonsense reasoning about social interactions. 2019. arXiv:1904.09728.
[252]

Hutson M. AI glossary: artificial intelligence, in so many words. Science 2017;357(6346):19.
[253]

Craig J. Cybersecurity research—essential to a successful digital future. Engineering 2018;4(1):9‒10.
[254]

Khalid A, Kirisci P, Khan ZH, Ghrairi Z, Thoben KD, Pannek J. Security framework for industrial collaborative robotic cyber‒physical systems. Comput Ind 2018;97:132‒45.
[255]

Zhang L, Merrifield R, Deguet A, Yang GZ. Powering the world’s robots—10 years of ROS. Sci Robot 2017;2(11):eaar1868.
[256]

Bayat B, Bermejo-Alonso J, Carbonera J, Facchinetti T, Fiorini S, Goncalves P, et al. Requirements for building an ontology for autonomous robots. Industrial Robot 2016;43(5):469‒80.
[257]

Haller A, Janowicz K, Cox SJD, Lefrançois M, Taylor K, Le Phuoc D, et al. The modular SSN ontology: a joint W3C and OGC standard specifying the semantics of sensors, observations, sampling, and actuation. Semant Web 2019;10(1):9‒32.
[258]

Serano D. Introduction to JAUS for unmanned systems interoperability—joint architecture for unmanned systems. Report. S&T Organization; 2015. Report No.: STO-EN-SCI-271-02.
[259]

Awad E, Dsouza S, Kim R, Schulz J, Henrich J, Shariff A, et al. The moral machine experiment. Nature 2018;563(7729):59‒64.
[260]

Malle BF, Scheutz M, Arnold T, Voiklis J, Cusimano C. Sacrifice one for the good of many? People apply different moral norms to human and robot agents. In: Proceedings of 2015 10th ACM/IEEE International Conference on Human‒Robot Interaction; 2015 Mar 2‒5; Portland, OR, USA. New York: IEEE; 2015. p. 117‒24.
[261]

Rich AS, Gureckis TM. Lessons for artificial intelligence from the study of natural stupidity. Nat Mach Intell 2019;1(4):174‒80.
[262]

Livesey EJ, Goldwater MB, Colagiuri B. Will human-like machines make human-like mistakes? Behav Brain Sci 2017;40:e270.
[263]

Sandoval EB, Brandstetter J, Bartneck C. Can a robot bribe a human? The measurement of the negative side of reciprocity in human robot interaction. In: Proceedings of 2016 11th ACM/IEEE International Conference on Human‍‒Robot Interaction (HRI); 2016 Mar 7‍‒‍10; Christchurch, New Zealand. New York: IEEE; 2016. p. 117‒24.

基金资助

()

AI Summary AI Mindmap
PDF (3164KB)

9070

访问

0

被引

详细
导航
相关文章

AI思维导图

/

〈 〉