人工智能与法律的对话3
上QQ阅读APP看书,第一时间看更新

三、无意识地操作与统制

(一)对规制的意识

像架构和助推那样对选择环境的操作并非对选择本身的干涉,因此对象个人可能不会意识到的场合,其中的问题恐怕会更为严重。正如莱斯格巧妙地指出,即使小偷意识不到,钥匙也能制约他的开门举动。17可以想象,在现实中受到了架构的特定制约,我们可能意识不到在此被剥夺的可能性,或者说我们不会知悉何人的意图蕴藏在了架构之中。

这让笔者想起,凯尔森所拥护的民主政治其背景在于,将人类设想为本能上嫌恶“他律的痛苦”(Qual der Heteronomie),也就是不喜欢受他人的干涉或强制。他认为,实现了市民自我统治的民主政治,由于它能够最小化被强制选择与自己选择所不同结果的个人数量,理应是最佳的选择。但是,确实法规制只有在明确了禁止内容以及规制对象对此知晓的情况下,才能发挥作用(莱斯格也指出,被统治者对其存在并不知晓的法,则无作用),所以才有可能对此加以批判或反对。如果人们现实地意识到受到了他人的干涉,就有可能会因此产生他律的痛苦。但是,当选择环境在人们难以知晓的方式下受到了操纵,而影响到其人生时,还有可能对此有所意识并将之消除吗?自由和自律在不知情的情况下被侵害,等人们意识到的时候,已经没有办法将之挽回了,这难道不是一种危险吗?

(二)无路可走

桑斯坦的回答恐怕是,即便如此却无能为力。针对主张助推制约了自律性的批判,他回答道,中立的选择环境已不存在。在人们已经认识到可以通过操作选择环境来产生特定倾向的情况下,不这么做并不是一个中立选择项,而是意味着为了某种东西(可能是嫌恶感或自我意识)而牺牲了就此所获得的便益。可以回想,身为宪法学者的桑斯坦曾经批判过下述观点:将现在社会的存在方式视为正当的,以此为前提并提倡变革以使社会变得更好的人,负有举证责任(现状中立性,status quo neutrality)。18现状仅仅就只是现状而已,并不能保证其正当性,需要不断地对其正确性重新审视。同样,针对助推,也不能仅仅以现状的中立性来主张,有必要根据所产生的便益以及社会状况,来检讨合适的方式(也包括“不使用”的选项)。

从这里,桑斯坦找到了某种解决的方向,即由社会来决定助推的范围和程度。即使已经无法再设想完全的自律、自我决定的存在,如果其中发生的干涉和制约是由每一个人来决定的话,即可将全体视为自我决定的结果。这种思考方向,或许可以定位为元(meta)自我决定论。19但是问题恐怕在于,这种元(meta)自我决定是由谁在何种选择环境下来作出,此种自我决定有没有受到架构的制约以及助推?如果说针对元自我决定的元(meta)助推是可能的,那么只要关于范围、程度上没有实施元元(meta meta)自我决定,就不能保障全体的自律性。但是对此如果元元(meta meta)助推有可能的话……

而且,恐怕还要考虑的可能性是,在此种元助推的次元之中的决定者、选择环境的设计者本身就是AI的情况。例如,根据对“推荐”的反馈率、遵守率,来判断是否需要更强的助推,或是否需要提高偶然性的比例。如果AI能够认识考虑到对象者的满足度或幸福感——这恰好对应了功利主义将政策决定的基础理解为偏好满足和快乐,那么这种元助推的适当性将愈发增强。但在那时,是否还存在着能够称为是我们的行为或我们的选择的事态吗?

如果包括偶然邂逅在内的一切,都由AI来计算并在其支配下进行,以使得对自身幸福的选择和社会整体利益一致,那么我们还应该对此产生的事态负责吗?或者反过来说,创造了上述环境的AI背后,确实存在着制造它、操纵它,或是指示它以此种目标为目的而应采取特定价值观的某人,免除他的这种责任具有正当性吗?