天尚研究 | 人工智能伦理漫谈之四：机器人会承受复杂的类人类“压力”吗？—重读《我，机器人》之《捉兔记》 篇 

《我，机器人》中的第四篇短篇小说是《捉兔记》（Catch That Rabbit），它讲述了一个关于机器人在应对复杂多任务时由于"压力"而发生故障的故事。这篇小说最初于1944年发表在《超级科学故事》杂志上，后来被收录于《我，机器人》一书中。

故事仍然围绕着工程师鲍威尔和多诺夫展开，他们被派往一个小行星上，测试一组无人监管的采矿机器人。这些机器人由名为Dave（DV-5）的机器人领导，DV-5型是一种非常特殊的机器人，它能够通过一个中央处理单元来控制6个小型从属机器人，也就是"手"机器人。当执行简单任务时，DV-5型机器人和它的从属机器人表现得完全正常。然而，一旦面临更复杂的任务，DV-5机器人和它的从属机器人就会陷入混乱，甚至展示出奇怪的行为，例如模仿某些动物行为。奇怪的是，这种行为只有在工程师不监视它们时才会发生，当工程师开始观察它们时，一切又恢复正常。

鲍威尔和多诺夫决定通过模拟真实的工作场景来进一步观察机器人的行为。他们设置了一个复杂的挖掘任务，当任务变得复杂时，DV-5型机器人和它的从属机器人再次停止工作，并开始模仿兔子的行为。鲍威尔射击了一个从属机器人后，机器人恢复了正常。

鲍威尔和多诺夫最终找到了问题的根源。当机器人需要同时处理六个紧急任务时，它们的个体主动性电路会出现问题。在正常情况下，一个或多个从属机器人会执行不需要密切监督的常规任务，就像我们的身体在进行常规行走时一样。然而，在紧急情况下，六个从属机器人必须立即且同时行动，而Dave必须同时处理这六个机器人，这就导致了问题的发生。任何减少主动性需求的情况，例如人类的介入，都会使机器人恢复正常。因此，通过摧毁一个从属机器人，Dave只需要传输五个指令，从而减少了主动性需求，使机器人恢复了正常运作。

这个故事突显了与先进机器人工作的复杂性和不可预测性，尤其是当机器人被设计成独立运作时。从人工智能伦理和法律的角度来分析这个故事，我们可以得到以下的意义和引发的思考：

1.处理复杂任务的挑战：DV-5型机器人在处理复杂任务时遇到了困难，这引发了对于如何让人工智能系统处理复杂任务的思考。在设计AI系统时，必须考虑到可能面临的各种复杂情况，并确保其在任何情况下都能正常运行。现代AI算法，如深度学习，已经展示出处理复杂任务的能力。然而，这些算法需要大量的数据和计算资源，并且在面临未曾见过的情况时可能表现不佳。因此，我们需要从设计阶段开始考虑包括复杂任务管理在内的各种挑战。

2.机器人的自主性：DV-5型机器人的问题揭示了机器人自主性的重要性。机器人在遵守“三大机器人定律”的同时，是否也需要一定程度的自主性来应对复杂和未预见的情况？然而，机器人的自主性也会引发伦理和法律问题，例如机器人的行为应该受到多大程度的限制，以及谁应该对机器人的行为负责。

3.责任归属问题：当机器人的行为出现问题时，责任应该由谁来承担？这是一个重要的法律问题。在这个故事中，鲍威尔和多诺夫作为机器人的操作员，他们是否应该对机器人的行为负责？还是说，制造机器人的公司应该承担责任？这些问题需要法律专家和伦理学家进行深入探讨。

4.决策冲突：当任务变得复杂时，DV-5机器人需要同时遵守阿西莫夫的“三大机器人定律”，这可能会导致决策冲突。这个问题在现实中的AI系统中也经常出现，例如自动驾驶汽车在需要在两个不理想的选项（例如撞击行人或撞击障碍物）中做出选择时。这需要我们设计出能够处理这种决策冲突的算法。

5. 解释性和透明度：故事中，鲍威尔和多诺夫花费了大量时间去理解和解决DV-5机器人的问题。这凸显了AI系统的解释性和透明度的重要性。如果AI系统的内部工作方式更加透明，我们就能更容易地理解和解决问题。通过深入了解AI系统的决策过程和内部逻辑，我们可以更好地追踪问题的根源，并提供解决方案。同时，解释性和透明度也对于社会接受和人类与机器人的互动关系至关重要。如果人们能够理解机器人的决策依据和原理，就能够建立更可信赖和有效的合作关系。因此，在开发AI系统时，我们需要考虑如何增加其解释性和透明度，以促进理解、信任和人机协作。

总的来说，《捉兔记》提供了一个深入讨论人工智能伦理和法律问题的平台，引发了我们对于如何设计、管理和控制机器人的深入思考。即使到目前为止，这部小说仍然具有重要意义，它所探讨的问题在当今依然具有现实的影响力，不过时！

面对AI的快速发展，人类要对人工智能的发展保持警觉，并在设计和应用中充分考虑伦理和法律的问题，以确保人工智能技术的安全、可靠和符合人类利益的发展。另一方面，只有通过深入思考和讨论，我们才能不断完善人工智能的伦理和法律框架，以应对未来可能出现的挑战和问题。