许多汽车商都在开发无人驾驶汽车，在不久的未来，无人驾驶汽车必将进入我们的生活。在一些人兴奋地期待之时，另一些人却表示担忧。难道我们真的愿意将自己的生命交给几行代码吗？这些代码到底由谁来控制？英国《卫报》最近刊文对此问题进行探讨，下面是文章节选：

绕不开的有轨电子难题

1967年时，哲学家菲利帕.福特(Philippa Foot)曾提出一个关于有轨电子的伦理学难题：

一个疯子将5个无辜的人绑在轨道上。一辆失控的电车迎面开来，即将碾过这5个人，幸好可以拉下火车的控制杆，将它转向另一个方向。问题在于，在另一条轨道上也有1个无辜的人。拉下控制杆的确可以救下5个人，但会牺牲另外那1个人。你应该怎么做才符合伦理？

这个难题后来还演化出许多版本，比如让你选择撞死5无辜的人，或者将一个胖子推下去阻止电车前进；又比如这个胖子刚好就是将5个无辜者绑在电轨上的人，等等。

同样的，我们可以将类似的争论引入到无人驾驶汽车的讨论中来。讨论的问题可以这样概括：你的无人驾驶汽车即将与一辆巴士相撞，车上全是学生，车子意识到要么牺牲你去挽救一车的学生，要么救你而放弃那些学生，在设计程序时我们应该怎么选择呢？

借鉴iPhone模式能保证无人驾驶汽车安全吗？

我们可以换一个方式来看待这个问题：如果你想设计一辆汽车，让它在特定环境下故意谋杀司机，你如何保证司机不会修改程序让他的汽车无法故意谋杀人？

其实我们已经有了一个明显的答案，那就是借鉴iPhone模式。我们可以设计一辆汽车，只允许它安装运输部（或者制造商）提供的软件，然后制定严格的法规，谁修改软件就处以重罪。这就是目前iPhone王国推行的法规，游戏主机和许多其它设备也都这样做，它们纷纷配上数字锁，即内部人说的“DRM”（数字版权管理）。《数字千年版权法案》（Digital Millennium Copyright Act）等法律禁止人们移除数字锁，防止受版权保护的著作被盗版，如果谁胆敢发布信息帮助他人解除数字锁，同样也逃不过法律的制裁。

自动驾驶汽车程序必须对公路上高速移动的目标负责，尤其是那些脆弱的人类，这似乎是理所当然的，但它会带来一个很大的问题：在现实中根本行不通。

每个被锁定的设备都可以轻易“越狱”。早期的数字锁法规之所以制定，最主要目的并不是为了阻止人们重新配置设备，而是确保没有企业和设备帮助他们破解。给手机解锁并不是什么难事，你可以从网上轻易下载软件解锁手机，也可以让非法破解手机的企业帮你代劳。

没有制造商的允许无人可以重置自动驾驶汽车，如果说这就是确保无人驾驶汽车安全的前提条件，那么无人驾驶汽车将永远不会安全，因为总会有人能破解软件的。

不要忘了是软件就有漏洞！

即使我们可以锁定汽车的设置，它也同样不安全。数字锁会在电脑程序中占据一个特定区域，就连电脑所有者也无法进入。要让数字锁管用，它的相关文件必须连所有者都看不到。当我们命令操作系统列出数字锁所在目录的文件时，系统要掩盖或者忽略数字锁文件，以防止用户删除或者替换它。当我们命令操作系统列出所有运程程序的列表时，数字锁程序也应该被忽略，以防止用户终止程序。

不要忘了，所有的电脑都有漏洞。就算是那些使用多年的软件，它的源代码已经被无数程序员检查过，也存在微小的漏洞。汽车体格庞大，行驶速度快，它的破坏力很大，可以杀死司机及周围的人。如果软件不够安全，攻击者就可以劫持刹车、加速器或转向装置，最终导致悲剧发生。相反，如果我们设计出用户无法修改的无人驾驶汽车，将汽车使用者修改程序视为自私（比如在碰到有轨电车难题时只求自保）的行为，情况会更糟糕。

无论无人驾驶汽车有什么问题，当它将自己的乘客当成敌人时，问题会变得更严重。

执法者留下的漏洞被恐怖分子利用

在连网设备的世界里已经出现“合法拦截”，设备常常留下一些后门供警察监管，这些后门又往往成为安全威胁的根源。尽管如此，执法者仍然希望留下更多的后门。以后的自驾汽车也会留下后门，警察可以向你的车发信号，强迫它停在路边。漏洞会带来更多问题，骗子和杀人犯可以在车中内置相似功能，乘客将成为他们的“礼物”，恐怖分子也可以利用这种功能进行攻击。

问题还不只这些。城市规划者之所以关注自动驾驶汽车，主要是因为它有可能降低路上的汽车数量，将私家车转为公用分享的车，被Uber等企业控制。我们可以乘车，但车不是我们自己的，我们无法修改，上面谈的问题会变得更复杂。Uber等企业会指定第三方来修改。它们也可能会允许用户作出一些修改，比如增加用户控制的紧急刹车功能，它可能会委托给保险商管理，不用想也知道，保险商肯定不希望这样的功能出现。

让我们忘了电车吧，最终无人驾驶汽车会改变劳工关系，增加监听能力，重新分配财富！