由于人工智能的进步，机器人技术正在迅速转变。我们看到的好处是广泛的：我们看到更安全的车辆能够在紧急情况下自动刹车，机器人手臂改变了曾经离岸的工厂生产线，以及新的机器人可以做任何事情，从杂货店到处方药，再到那些自己做不到的人。

但我们对智能、自主机器日益增长的胃口提出了一系列伦理挑战。

但保龄球很有趣！加入我们的鲍勒，阿姆斯特丹最好的网络活动

在11月初，我和我的同事在世界上最大的以自主机器人为中心的研究会议之一——IEEE智能机器人和系统国际会议上见到了这些想法和更多的想法。在那里，学者、企业研究人员和政府科学家介绍了允许机器人自己做决定的算法的发展。

和所有的技术一样，我们的研究的未来用途是很难想象的。考虑到这一领域变化的速度，预测更具挑战性。举个例子，计算机识别图像中物体的能力：2010年，最先进的技术只成功了大约一半，而且它被困在那里多年。然而，如今，最好的算法，如已发表的论文显示，现在的准确率为86%。光靠这一进步就可以让自主机器人了解他们通过相机镜头看到的是什么。它还表明，由于人工智能的发展，过去十年的进展速度很快。

从技术角度看，这种改进是一个真正的里程碑。虽然在过去，人工审查录像片段需要令人难以置信的小时数，但现在这种数据可以通过计算机程序快速、准确地解析。

但这也导致了一种伦理困境。在将人类排除在这一过程之外的过程中，与隐私和安全相关的决策所依据的假设已经得到了根本性的改变。例如，在公共街道上使用相机可能在15或20年前引起了隐私问题，但增加精确的面部识别技术极大地改变了这些隐私影响。

当开发能够自己做出决定的机器时——通常被称为自主系统——所产生的伦理问题可以说比对象识别中的问题更令人关注。人工智能增强的自主性发展如此之快，以至于曾经仅限于高度工程系统的能力现在可以提供给任何拥有家用工具箱和一些计算机经验的人。

没有计算机科学背景的人可以学习一些最先进的人工智能工具，机器人更愿意让你在上面运行你新获得的机器学习技术。有一些在线论坛上挤满了渴望帮助任何人学习如何做到这一点的人。

有了早期的工具，它已经足够容易编程您的最低限度修改的无人机，以识别一个红色的袋子，并遵循它。最近的对象检测技术开启了跟踪一系列类似9000多种不同对象类型的事物的能力。再加上更新的、机动性更强的无人机，不难想象它们能多么容易地装备武器。什么是阻止某人把炸药或其他武器绑在装有这种技术的无人机上？

使用多种技术，自主无人机已经是一种威胁..他们被发现向美军投掷炸药，关闭机场，并被用来暗杀委内瑞拉领导人尼古拉斯马杜罗。目前正在开发的自主系统可能会使进行这种攻击变得更容易，也更具破坏性。

报道说，“伊斯兰国”正在使用现成的无人机，其中一些无人机被用于轰炸。

大约一年前，一群人工智能和自主机器人的研究人员提出了一项承诺，即不开发致命的自主武器。他们将致命的自主武器定义为能够“在没有人类干预的情况下选择和接触目标”的平台。作为一名对开发自主瞄准技术不感兴趣的机器人研究人员，我觉得承诺错过了危险的关键。它掩盖了需要解决的重要伦理问题，特别是那些处于无人机应用广泛交叉处的问题，这些问题可能是良性的，也可能是暴力的。

首先，那些撰写论文和开发软件和设备的研究人员、公司和开发人员通常不会这样做来制造武器。然而，它们可能会无意中使其他人以最少的专门知识制造这种武器。

我们能做些什么来应对这一风险？

监管是一种选择，一种已经被禁止在机场附近或国家公园周围使用的无人机。这些都是有帮助的，但它们并不阻止武器化无人机的创造。传统的武器条例也不是一个充分的模板。他们通常收紧对源材料或制造过程的控制。对于自主系统来说，这几乎是不可能的，在自主系统中，原始材料是广泛共享的计算机代码，制造过程可以在家里使用现成的组件进行。

另一个选择是追随生物学家的脚步。1975年，他们在加州的阿希洛马尔举行了一次关于重组DNA潜在危害的会议。专家们在会上商定了指导今后工作进程的自愿准则。对于自治系统来说，这样的结果在这一点上似乎是不可能的。许多可用于发展武器的研究项目也有和平和难以置信的有用成果。

第三种选择是在组织一级建立自治机构，如机构审查委员会，目前负责监督公司、大学和政府实验室的人文学科研究。这些委员会考虑了参与研究和工艺方法以减轻潜在危害的人群的利益。但他们只能监管机构内部的研究，这限制了他们的范围。

尽管如此，大量的研究人员仍然属于这些委员会的职权范围——在自主机器人研究界，几乎每一位技术会议的主持人都是一个机构的成员。研究审查委员会将是走向自我监管的第一步，并可能标志着可以武器化的项目。

我和我的许多同事对开发下一代自主系统感到兴奋。我觉得善的潜力太大了，不能忽视。但我也担心新技术带来的风险，特别是如果它们被恶意的人利用的话。然而，通过今天的精心组织和知情对话，我相信我们可以努力实现这些好处，同时限制潜在的伤害。