当前位置: 华文星空 > 汽车

自动驾驶的人工智能的杀人判断是否存在?

2021-10-13汽车

这个问题在现实生活中很少见。不过这个问题跟AI伦理相关,是个有深度的思辨问题。

我最近在看一本书,叫【How humans judge machines】(这本书也都开源了网页里PDF可以下载),具体分析了人类是如何评判(judge)机器的决策和行为。书中开头举了这个很经典的trolley problem,说的是有辆失控的矿车即将冲入人群杀死4个矿工,现在有个决策是按下轨道变道按钮,使得矿车变道进入另一条只有1个矿工的轨道,而只杀死这1个人。那对于机器和人作为决策者,是不是应该按下这个按钮。

作者把这个情况描述给了很多人,让他们来判断这可能的4种情况孰是孰非,结果发现大家对机器和人来做决策有非常不同的看法:如果是人在做这个决策,大家会谴责人按下变道按钮的行为,因为这是一个变相的杀人行为,这个决策导致了另外一条道上那个无辜矿工的死亡;而如果是机器在做这个决策, 大家会更希望机器按下按钮,因为大家会从更功利的角度(utilitarian)来看,以1人换取了4人的生命,这个决策会解救3条人命,那当然机器应该做出这个决定。书中总结是,People liked utilitarian robots and disliked utilitarian humans。这是个非常有意思的差异性结论。

另外还有些简单的例子,比如说在普通人家里安装监控摄像头,如果是人在背后看这些视频大家一定会觉得很不舒服,如果说这些视频背后并没真人,只是机器算法在背后分析这些视频,可以帮助监控老年人摔倒或者小孩的危险行为,大家是不是心里会舒服一些?

随着人工智能作为一项变革性技术进入人类社会的方方面面,必然会在伦理和道德层面产生很大冲突。这就需要不仅仅是AI技术从业者的更多其他学科如社会学和经济学的学者参与和讨论,兼听则明。