“对于机器人，我们需要一个可以打开和检查的黑匣子，”夏基所述。 “如果一个机器人警察有种族主义倾向，我们可以关闭它，把它从街头移除。”
过分依赖机器人
该指南还提出了更加广泛的社会问题，比如“过分依赖的机器人”，但是在这些问题上应该采取怎样的做法，它没有给设计者指出清楚的方针。
“过分依赖机器人的一种形式是自动化偏见，当你和一台机器打交道的时间比较长，它每次都为你提供了正确的答案时，你就会开始信任它，自己不再去验证答案。而在这时，机器人可能会给你提供一些十分愚蠢的答案，”夏基说。
也许以更加长远的目光来看，这份指南提醒我们，流氓机器人“可能会制定出新的或者更改后的行动计划......可能带来无法预料的后果”。
丹•帕尔默（Dan Palmer）是BSI制造业的主管，他说：“使用机器人及自动化技术来提高制程的效率、灵活性和适应性，这是制造业增长的重要组成部分。要让人们接受这种趋势，就必须识别和应对机器人的伦理问题和风险，比如人类变得过分依赖于机器人等等。这份指南提供为机器人和自主系统领域的设计者和用户提供了帮助。”
对经济和就业的影响
温菲尔德认为，机器人对经济的影响绝对是积极的，但围绕机器人和就业机会展开的争论则太过两极分化。他的看法是，简单地说“机器人一定会抢走我们的工作”，或者“新工作一定会比旧工作更多”是没有意义的，这得取决于具体情况，总之这是一个相当微妙的问题。
在影响就业方面，温菲尔德更担心的是AI，而不是有形的机器人。他认为，知识工作者（律师、呼叫中心工作人员、翻译、数据分析师）被AI取代的风险，比体力劳动者被机器人取代的风险更大，因为机器人技术的成熟和部署远远更加困难。而且人们已经发现，在机器人可以发挥优势的地方，都需要人类和机器人并肩工作，因为现在的体力工作无法完全自动化。那些可以完全自动化的体力工作，早就已经自动化了。
温菲尔德认为，机器人可以创造出新的岗位类型。过去20年的数字化经历提供了一个教训：你很难预测这些工作是什么。关键在于，新技术开辟了创造的新途径。我们显然需要更多的人来维护机器人，但是新技术也催生了新的创业领域。比如Open Bionics的 3D打印假肢，当初谁能想到机器人可以用这种方式来使用！随着技术的改进，可穿戴机器人将会变得普遍。不仅是残障人士，老年人也可以用它们来代替轮椅。
关于特斯拉的自主驾驶系统
温菲尔德认为，还需要很长一段时间，我们才会在道路上看到无人驾驶汽车和卡车，因为这项技术还没有做好上路的准备。
一个重要的问题在于：这种车是需要人工辅助，还是应该完全自主驾驶。最近发生的特斯拉事故致死案表明，让人类参与自动驾驶任务是一个非常糟糕的做法。
如果驾驶者在车上无事可干，那么他的注意力就很难集中在道路上，所以，如果你觉得自动驾驶系统一旦遇到问题，驾驶者就可以马上接手，恢复人工控制，这也想得太简单了一些。
特斯拉的事故还说明机器人的感知能力仍不够好。在行驶过程中，机器人有很多时候都不太了解状况，因为它们在感和和认知上存在缺陷。
温菲尔德表示，如果一个公司要想获得成功，他们的目标应该是获得“盖章认定”，证明他们的机器人符合相关标准。
监管是政府给我们提供的一颗定心丸。为什么我们会相信商业客机？因为那是一个高度监管的行业，标准定得非常高。
商用飞机的经验也应该用在机器人领域。特斯拉就是一个需要进行监管的例子。他们的自动驾驶仪没有公布正式的标准，所以不能信他们。（综合/Kathy）
推荐：获取更多人工智能与机器人内容，请关注“AI世代”微信号（tencentAI）。
