参考消息网8月20日报道 美国《福布斯》杂志网站7月21日刊登题为《天使式人工智能——设计懂得人性含义的机器》的文章，作者是 Orchestro.ai公司创始人谢卡尔·纳塔拉詹，内容编译如下：

近20年前，当我决定撤掉父亲身上的生命维持设备时，我握住了他的手。没有任何算法可以指导那个时刻。没有任何仪表盘可以衡量其代价。问题不是“我们能不能”，而是“我们应不应该”？在那一刻，我明白了没有道德的智能只是机械的残忍。

后来，作为一名供应链领导者，我观察到物流系统通过对其运行人员的去人性化实现效率的最优化：仓库工人被剥夺如厕的时间、司机因为帮助老年顾客而受惩罚。我看到相同的模式在大规模重复上演。

我们已经构建了痴迷于流程、却对人无动于衷的系统。我母亲的道德准则曾早早向我展示了人类意志和道德的重要性。因此，我开始追问：如果科技能够超越纯粹的理性，如果它们追求人类身上最美好的品格，情况会怎样？

我们应该构建“天使式人工智能”，即在人工智能中嵌入一个“道德脑区”，以便使机器不仅能模仿人类的知识，而且能恪守人类价值观。我们的目标不是让机器更智能，而是让它们变得更有人性。

1.道德脑区层(MCL)

这是一种可编程的伦理引擎，如同人工智能的前额皮质。当决策涉及道德后果时，它会引入伦理减速带，从而迫使系统暂停、反思和论证其选择的合理性，而非急于达成最高效的结果。

例如，想象某个路径算法建议司机跳过最后一单送货以避免超时罚款。那单货物对于客户可能十分重要，收不到货可能产生严重后果。MCL会打断流程，弹出这个决定供复核，并在同情心考量胜过成本考量时允许人工批准作为例外。

其意义在于：多数系统默认采用非此即彼的决定。MCL让人工判断参与决策循环，从而确保人类意图的复杂性(灰色地带)得到尊重并且清晰可见。

2.“关怀网络”(CareNet)：共情即服务

这是一种实时框架，用于捕捉、核实并放大整个系统内的关怀行为。“关怀网络”就像是一种共情手环，将实时收集同伴推荐的关于勇气、关怀和审慎行事的故事。

例如，某个技术员加班帮助一位老年顾客重新连接设备。“关怀网络”非但不把此事视作效率损耗，反而记录为关怀行为。系统识别并记录行为背景，而不只是记录花费的时间。

其意义在于：共情不是一项绩效指标，而是一种人性体验。“关怀网络”确保善意行为不会消失于无形。当同情心变得清晰可见，它将成为文化的一部分，而非异类。

3.人类信号情报(HSI)

这是一个学习模型，用于捕捉那些人类判断凌驾于算法之上并产生更优结果的异常决定。这些信号是去中心化的，富含背景信息，并且常被传统人工智能忽视。

例如，某送货司机未遵循最优路线，以便去探望一位独居顾客。随后该顾客的健康紧急状况被及时发现。HSI捕捉这种偏离，并习得有时候效率必须让位于关怀。

其意义在于：多数人工智能系统把异常行为视作噪声。HSI则把它们当作学习证据。从异常值中学习有助于机器理解让人类无可替代的道德决策模式。

4.道德记忆库

这是一个安全档案库，用于收集和标记道德勇气行为。该档案库作为一个故事引擎，把这些案例反馈至培训、入职引导及领导力发展活动中。

例如，当某个仓库工人违反规程保护同事免受伤害，这一事迹被记录、归档并在整个组织内分享。它将成为塑造未来决策的集体记忆。

其意义在于：文化的根基不是合规手册、而是鲜活的事迹。道德记忆库确保勇气和共情的典范不被遗忘。

5.暂停规程界面

这是一个实时标记工具，赋予一线员工在无需担心报复的情况下挑战人工智能输出的能力。该界面允许任何人在决策发生时暂停、上报或质疑决策。

例如，某个客服智能体收到要求快速结束通话的自动提示。该智能体认为顾客正处于困境，于是启动暂停规程界面以中止脚本，并把问题提交人工复核。

其意义在于：人们常因担忧不安全而保持沉默。暂停规程界面将恢复处置权、保护异议并使系统植根于人性判断。

6.把同情心作为关键绩效指标之一

这是对成功指标的重新定义，以便在速度和业务增长之外，同样奖励同情心、情境考量和关怀，从而帮助协调营运目标与道德结果。

例如，系统不仅测量通话时长或每小时配送量，还引入基于同伴认可和客户影响的同情心评分。细微的善举将在绩效评估中得到考量。

其意义在于：如果你的业务容不下同情心，那么它就不配扩张。平衡效率与共情将确保企业文化在发展壮大的同时不失人性化。

7.以人为本的治理(HCG)

这是一个确保人始终作为自动化系统最终道德裁决者的框架。它包含基于角色的权限、动态防范栏以及我称之为“红色按钮层”的东西，即明确推翻机器决定的权力。

例如，区域经理复核人工智能作出的取消一条关键送货路线以节省成本的决定。借助治理工具，他们暂停行动、收集利益相关方的意见并重新设计流程以保护易受伤害的顾客。

其意义在于：机器不顾及道德，但人类可以。HCG确保不管人工智能变得多么高级，它将始终臣服于人类良知。

天使式人工智能并非试图营造乌托邦幻境。相反，它是对于一个效率正欲吞噬共情的世界的务实回应。

我们不需要能够在模式识别方面击败人类的更聪颖的机器。我们需要的是更富智慧的系统，它们铭记模式至关重要的根本缘由。因为没有良知的智能徒具速度。而在构建未来的竞赛中，我宁愿因为正当的理由放慢速度，也不愿因为谬误的原因一路狂奔。（编译/曹卫国）