AI够聪明了，但够“善良”吗？答案是......

过去二十年，人工智能取得了飞跃式发展，而且发展速度越来越快。AI 绘画、自动驾驶、智能机器人……人工智能正逐渐走向各个领域。人工智能快速发展的同时，人工智能所带来的版权、隐私、伦理等问题也亟待解决。

近年来，一些科技大厂率先启动科技向善相关项目，这些项目旨在用科技解决社会问题，推动社会进步。同时，政府层面也开始积极响应可持续发展战略，以欧盟、美国和中国为代表的国家在数据安全、隐私保护、企业行为倡导、政府支持等方面均有提案或法规颁布。

版权图库图片，转载使用可能引发版权纠纷

在呼吁科技向善的大背景下，如何确保 AI 技术的发展始终遵循“以人为本”的原则，如何始终保持人类的主体地位，成为各行各业在整合 AI 技术的同时努力实现的目标。《AI 向善：以人为中心的人工智能》一书，正是对这一问题的深刻反思和积极探索。本文摘取此书的片段，带领我们管窥“以人为中心的人工智能”这一科技解决方案。

什么是“以人为中心的人工智能”？

“以人为中心的人工智能”（Human-Centered AI，简称 HCAI）为设计师提供了全新的思维方式，即构想一种支持人类实现自我效能、创造力、责任感和社交关系的新策略。该策略更加强调HCAI 将减少人们对人工智能存在威胁的恐惧，并增加用户和社会在商业、教育、医疗健康、环境保护和社区安全方面的利益。

HCAI 定义有很多，但如下两个关键方面值得注意。

1

过程

HCAI 建立在用户体验的基础上，如对用户的观察、利益相关者的参与、可用性测试、迭代改进和持续评估人类在使用人工智能和机器学习的系统中的表现等。

2

产品

HCAI 系统旨在成为放大、增强、赋权和提升人类表现的超级工具。它强调人的控制，同时通过人工智能和机器学习的方式实现高度自动化，例如数码相机和导航系统，它们可被人类操控的同时又具备许多自动化功能。

HCAI 的目标是提高人类的自我效能、创造力、责任感和社交关系，同时降低恶意行为、数据偏差和软件缺陷的影响。

HCAI 的两大目标

史蒂夫·乔布斯（Steve Jobs）曾将计算机描述为“我们头脑中的自行车”，这明确地表明，计算机设计的最佳目标是增强人类的能力，同时确保人类保持控制权。当前的计算机在我们头脑中可能更像是一台哈雷·戴维森摩托车，但有人认为，在未来，计算机将成为我们头脑中由司机驾驶的豪华轿车，自动带领我们到达目的地。

使用 HCAI 框架可以帮助我们理解骑自行车和驾驶车辆之间的不同。人工控制的自行车可能是一种愉快而健康的锻炼方式，但隐喻中的带有司机的自动豪华轿车意味着舒适和安全。

然而，如果在驾驶员对减速或停车的请求没有响应的情况，乘客如何传达他们想去的目的地并对性能产生影响呢？人类的需求是复杂且不断变化的；有时人们更喜欢享受驾驶的乐趣，锻炼自己的驾驶技巧；有时，他们可能会喜欢休息、阅读或与他人讨论。

基于交通运输的隐喻，我们可以把计算机想象成大型的商用飞机，它可以将乘客舒适、快速、安全地带到目的地，而无须让乘客学习如何飞行。受 HCAI 框架右上角象限的启发，在有专业监控性能的空中交通管制员和飞机认证机构的情况下，飞机只需对其指令做出响应。

版权图库图片，转载使用可能引发版权纠纷

读者可能会思考，在自动化的功能以及飞行员、空中交通管制员的监督下，民航飞机是如何保证安全的。

答案是两者都是必需的。自动化功能可以让一架从华盛顿特区飞往法国巴黎的飞机进行例行飞行，同时飞行员能够更密切地监控飞机系统。然而，在数百种潜在问题中，如飞机起火、乘客心脏病发作、鸟类袭击导致的发动机停止等，这些情况都需要熟练的专业人员迅速做出艰难的应对。

虽然所有的隐喻都有其局限性，但它们在传达思想上有其价值，并可以打开思想的大门，迎接新的可能性。HCAI 研究有两个设计目标：

1

科学目标

英属哥伦比亚大学教授戴维·普尔（David Poole）和艾伦·马克沃斯（Alan Mackworth）写道，科学目标是研究“智能行动的计算代理”。他们想“了解使智能行为在自然或人工系统中成为可能的原理……通过设计、构建和实验计算系统来完成通常被认为需要智能才能完成的任务”。科学目标通常基于对人类感知、认知和运动技能的研究，以便工程师可以建立起能够像人类一样或比人类更好地执行任务的系统，例如下棋程序或识别癌症肿瘤的设备。

2

创新目标

开发增强人类能力的计算机，使人们能够自主完成工作。创新目标来自建立广泛使用的产品和服务的研究。普尔和马克沃斯写道，创新“旨在用于应用领域”。成功的案例包括基于地图的导航系统、自然语言翻译和搜索查询。

这两个目标对于思考未来技术的设计隐喻都有价值。然而，其挑战在于了解每个目标在何时达成最佳状态以及如何组合这些目标。有些功能可能最适合自动处理，例如数码相机的对焦和光圈设置，而其他功能可能最适合交给人类控制，例如构图和选择何时进行拍摄——摄影师称之为“决定性时刻”。

这两个目标引导我们对 HCAI 研究进行了四对设计隐喻的描述。所有这些隐喻都是有价值的，但出于不同的原因：高度的计算机自主性允许无人监督的活动，而高度的人工控制允许人类进行干预。

其中一对隐喻是智能代理和超级工具，前者表示机器或系统具备独立行动能力，后者表示在使用机器时的人工控制。第二对隐喻是队友和远程机器人，前者表示将人工智能的动作当作人类的动作，后者表示人类操作。

第三对隐喻是确定的自主性和控制中心，前者通过其设计而保证安全，后者通过人工控制来监控和干预。第四对隐喻是社交机器人和有源设备，前者被设计成像人类一样行动，后者被设计成诸如洗碗机或烘干机式的设备。

这几对设计隐喻通过提出针对不同环境需求的解决方案来改进 HCAI 框架，其中一些支持更多的自动化，另一些则支持更多的人工控制。

一个关键的思想是组合设计，对于可靠执行的任务采用自动化方法，对于用户想要管理的任务采用人工控制的方法。组合设计使得我们能够更加细致地决策哪些功能可以由计算机可靠地执行以及哪些功能是人类想要或需要控制的。

在推荐系统、问答系统和游戏系统中，用户可能会忽略不完美的回应，甚至可能会喜欢偶然的惊喜。然而，在医疗保健、交通或金融系统等涉及重大后果或生命攸关的应用中，正确的回应变得至关重要，可预测的行为在建立信任方面也是至关重要的。

《AI向善》

本书主要介绍了以人为中心的人工智能（HCAI）的理念和方法，旨在为人工智能系统的设计开辟新可能。书中展示了 HCAI 在包括教育、医疗、娱乐、交通等领域中的应用，强调了如何将人工智能与人类价值相结合，以实现更好的人类发展。本书为构建可靠、安全和值得信赖的应用提供了一个全面的指南。

本书深入剖析 HCAI 设计理念，从构建 HCAI 框架到设计隐喻再到管理架构，提供了宝贵的思考和行动指南，让 AI 技术真正服务于人类，提升生活品质，实现人与技术的和谐共生。

第六届

互联网辟谣优秀作品公众投票

开始啦！！！

给“科普中国优秀作品”投上一票吧！

↓↓↓

感谢您对科普中国的每一次支持！！！

策划制作

来源丨图书《AI向善 以人为中心的人工智能》，中国科学技术出版社

作者丨本·施耐德曼（Ben Shneiderman）

译者丨张缦绮

策划丨何通

责编丨何通

审校丨徐来、林林