人工智能的演变：从“狭义”到“广义”，再到“通用”

近年来，机器在许多认知任务上达到或超过了人类的表现，人工智能领域一些长期存在的挑战也得到了攻克。现在已有能够解决问题、玩游戏、识别模式、证明数学定理、在环境中导航、理解和使用人类语言的机器，但它们是真正的智能吗？它们能否达到或超过人类的能力？人类在这一演变中处于什么位置？

人工智能从业者群体一致认为，今天人工智能的实际应用属于所谓的“狭义”或“弱”人工智能。狭义人工智能指的是擅长在单一应用领域执行特定任务的计算机系统。举例来说，苹果公司的虚拟助手Siri能够解释语音命令，但Siri背后的算法不能驾驶汽车、预测天气模式或分析医疗记录。其他系统也是如此。工厂机器人、个人数字助理和医疗决策支持系统等的设计目标是执行某一项狭义的任务，如组装产品、提供天气预报、提交购买订单、帮助影像医师解释X光片。在部署后，它们的学习是在该狭义任务的背景下进行的，它们没有能力自行学习其他任务，也不能被用于其他领域。

相比之下，“强”人工智能，也称通用人工智能，是一种假想的人工智能类型。它可以达到人类的智力水平，用这种能力解决任何类型的问题，就像同一个人的大脑可以轻松学会如何驾驶汽车、烹饪食物和编写代码一样。强人工智能包括一个具有综合知识和认知能力的系统，其性能与人类无异。通用人工智能目前尚未实现，而专家们对于它是否有可能实现、可能何时出现以及实现的进路持不同意见。

狭义人工智能和通用人工智能是人工智能演变进程的两端，实现二者之间的演化可能需要数年或数十年的发展。这种演变和中间状态称为广义人工智能，我们将在此概述推动该领域发展的几个关键挑战。

用更少的数据进行学习

最近，人工智能的大部分进展都来源于有监督的机器学习，特别是深度学习的进步。在有监督的机器学习中，系统从输入的案例中学习，识别模式并执行任务，例如对图像进行分类、识别语音或翻译文本。在训练期间，人类以有标记数据的形式向系统输入案例。但是，深度学习网络的一个明显缺陷是，为了达到理想的准确性和性能，它们需要大量的数据来学习。例如，用于视觉物体识别任务的数据库ImageNet包含超过1400万个图片的链接。数据库中的图片带有人工注释，对图片中的物体进行标识。收集这类数据集的标准方法之一就是众包，许多开发者和技术供应商通过众包来收集和创建训练模型所需的大量标记数据集。但是对于许多问题，尤其是企业应用和商业决策方面的问题，众包并不可行，原因或是不存在相应数据，或是问题领域太复杂、不容易标注，或是数据为专有或敏感数据等。

当可用的训练数据量有限，或是测试集与训练集差别很大，或是案例空间太过广泛且前所未见时，深度学习系统的效用就不太理想。因此，系统性能可能随操作环境的微小变化而严重下降。例如，同一个图像识别服务应用在不同的照明条件或视角下收集的图像数据时，它的性能会直线下降；语音识别系统在遇到新的方言或发音时往往会崩溃。

就另一方面而言，人类的学习方式与机器不同。一个孩子只用几个例子就能学会识别一种新的物体或动物，然后把他所看到的东西应用到其他环境中。因此机器学习研究人员普遍认为需要使用更少的数据或无标签的新技术来推动该领域发展，超越狭义人工智能的界限。

学习和推理的互动

自该领域确立以来，人工智能研究人员在学习和推理两种能力的研发方面都取得了巨大进展。然而，这两个领域各自独立发展，生产级的人工智能应用以孤岛的形式完成部署。例子是一个基于规则的客户管理系统与一个深度学习驱动的客户聊天机器人。人工智能领域离通用人工智能还相当遥远的原因之一就是我们无法建立可以互换使用这些机制的系统。先进的学习系统可以很好地从他们输入的数据中学习，但是并不能很好地与先前的知识结合。因此，它们无法处理那些与分类关系不大而与常识性推理关系较大的问题。举例来说，人类不需要任何直接训练就能轻易回答的推论，如“威廉王子和他的小儿子乔治王子谁的身高更高？”“如果你把针插进胡萝卜，洞是在胡萝卜上还是在针上？”这些无法用深度学习回答。这些看似简单的问题需要人类整合来自不同领域的知识，它超过了目前机器深度学习的能力。这表明若要使人工智能达到人类水平的认知灵活性，就需要新型的方法，将机器学习和机器推理相互结合。

人工智能的伦理与信任

今天，由人工智能驱动的系统经常被用来在众多应用中支持人类决策。然而人工智能系统的广泛采用并不仅仅来源于它们的特点和优势。许多扩展的人工智能应用可能会对人、社区或组织产生重大影响，因此我们对人工智能输出的信任至关重要。要信任人工智能系统的决定，我们不只需要知道它能够高度准确地完成一项任务，还需要确信决定足够可靠、公平、可以信赖，且不会造成伤害。用户需要确保决策不会被篡改，且系统本身足够安全。随着我们不断提升人工智能的能力，可靠性、公平性、可解释性和安全性的问题将变得尤为重要。

想要负责任地获得人工智能的助益，我们必须确保创建的模型不会盲目地接受我们自身的偏见和不一致，并通过自动化手段更广泛地将其扩展。在了解偏见如何影响人工智能决策方面，研究界已经取得进展，正在创建方法，以检测并减轻人工智能应用的整个生命周期中的偏见：训练模型、检查数据、算法和服务是否有偏见；如果检测到偏见，则对其进行处理。虽然还需要很多努力，但是我们可以开始在设计、测试、评估和部署人工智能解决方案时将检查和缓解偏见的原则纳入考量。

最近讨论的另一个问题是，人们担心机器学习系统是一种“黑箱”，担心许多最先进的算法产生的决定难以得到解释。大量新的研究提出了一些技术，在不影响“黑箱”模型准确性的情况下为其提供可解释的说明。这些技术包括模型及其预测的局部和全局可解释性、神经网络信息流的可视化，甚至是教学说明。我们必须将这些技术纳入人工智能模型开发工作流程，为开发者、企业工程师、用户和领域专家提供多样化的解释。

事实表明，深度学习模型很容易被愚弄。添加少量的噪声可以使人工智能做出令人尴尬和不正确的决定，而人类往往无法察觉。暴露和修复软件系统的漏洞是技术界的一项重要工作，这项工作也延续到了人工智能领域。最近，这一领域的研究出现了爆炸性增长：人们正在不断发明新的攻防手段，开发新的对抗性训练方法以加强对攻击的防范，以及评估鲁棒性的新指标。我们正在不断接近一个临界点，可以开始将它们整合到通用的人工智能DevOps[3]流程中，形成以保护和保障依赖神经网络的生产级应用程序。

人类对技术的信任来源于对其工作方式的理解以及对其安全性和可靠性的评估。我们驾驶汽车，是因为我们相信踩下刹车踏板会起作用。我们接受眼科激光手术，是因为我们相信系统会做出正确的决定。在这两种情况下，信任来自对系统不会犯错的信心，而信心来源于广泛的培训、详尽的测试、经验、安全措施、标准、最佳实践和对消费者的教育。这些安全设计原则中有许多适用于人工智能系统的设计；有些必须加以调整，而新的原则必须加以定义。例如，我们可以设计人工智能，使其在复杂环境中遇到全新的情况时需要人类干预。而且就像我们阅读药品和食品的安全标签或计算机硬件的安全说明一样，未来我们可能也会通过类似的方法就人工智能服务或解决方案的能力和限制进行沟通。最后，值得强调的是，决定信任谁将负责训练人工智能系统将是我们在所有人工智能项目中做出的最重要的决定。

人工智能在管理中的应用

人工智能将在包括战略规划、兼并和收购、营销和产品设计等各个商业环节中发挥越来越重要的作用。随着人工智能的不断进步，在企业和行业中的应用愈加广泛，其在战略规划方面的应用也将变得更加普遍。战略规划是一种组织管理活动，其目的是确定优先事项、集中资源、加强运营，并根据需要评估和调整战略方向。人类决策并不完美，可能会受到认知偏差和理性差距的影响，从而导致做出并非最优的决策。人工智能可以在多智能体系统内使用，在决策中增强个人或群体的认知。这些系统使人类智能体团队能够共同、更好地完成人类或软件智能单独完成的认知任务，尤其是在高风险的决策领域。这方面的一个例子是IBM公司的认知房间（cognitive room），能够支持并购决策。该人工智能系统允许决策者群体利用语音、手势和数据可视化技术与大量信息进行有效互动，协助评估并购方案的处理。

在产品营销领域，人工智能技术已经获得了巨大的吸引力。人工智能赋能的营销方法寻求利用人工智能提高营销效率和产出。例如，人工智能可以用于评估客户情绪、跟踪购买习惯，从而助力销售和营销。品牌和广告商可以利用这些信息使电子商务更加直观，或将其用于有针对性的促销活动。人工智能还可以用来创造与潜在客户更个性化的沟通。人工智能可用于通过聊天机器人改进与客户的互动，或更好地了解如何将内容与目标用户匹配。人工智能也将在创意产品设计中发挥重要作用。深度学习中的新技术，如生成对抗网络（GANs），不仅能够分析数据，而且可以综合数据。因此我们可以对已有产品进行学习，获得新的创意和想法。今天，这种人工智能能力正被用于创造数字作品，如艺术图片或营销活动的内容。在香水设计等变化多元的领域中，初步成果正在显现。将人工智能应用于生成性任务的趋势还将继续下去，作为一种自动化能力或协助人类创造力的工具，人工智能对于组织十分重要。人工智能还把劳动力管理应用扩展到了招聘和雇用、管理员工流失、确保员工的成长和满意度。人工智能模型还能够挖掘组织内部的数据，指导员工技能提升，寻求在公司内部发展的机会。

人力资源、招聘和决策支持系统等一些关键的管理职能已经受益于人工智能技术的应用。举例来说，IBM公司的沃森（Watson）解决方案已经被部署为允许人类更深入参与的人才解决方案，支持认知过程和认知操作、完成智能探索和发现、承担员工和管理助理职能。它从企业庞大的知识网络中得出关键的见解，为管理层和员工提供支持。沃森还被应用于大量案例，其人工智能技术在为用户提供洞察力方面发挥了关键作用。澳大利亚最大的能源公司伍德塞德公司（Woodside）使用IBM公司沃森留存公司高级专家的知识，使员工能够轻松地找到、分析和学习这些知识。超过80%的员工采用沃森进行日常工作，减轻了高级专家和管理层的负担。员工报告称，之前他们超过四分之三的工作时间都用于研究问题和寻求专家的帮助，而只有不到四分之一的时间用于实际解决问题。沃森已经帮助伍德赛德扭转了这种局面。此外，IBM公司沃森招聘解决方案已被用于帮助管理层评估申请人，预测其在任何特定职位成功的可能性。一家匈牙利初创公司Indivizo一直在帮助企业快速、高效地确定最适合某个职位角色的申请人。它已经成功部署了IBM公司沃森解决方案，以帮助管理层磨炼具有成功技能的合适候选人。

这些只是使用人工智能技术解决特定业务需求的部分案例。随着越来越多的公司采用人工智能技术提升商业价值，更多的案例还将陆续出现，受益于人工智能的业务职能范围也将继续扩大。