齐格蒙特鲍曼说过:当技术理性遮蔽了主体责任,人就丧失了对善恶的感知,“道德消失点”就产生了。
人的道德瓦解时,就是技术利维坦崛起时。在技术利维坦中,人通过分工、集体决策、把责任甩给AI,去消解自己的责任。
他们自己却隐于AI身后,社会进入到一个无责任主体的状态。
二战后审判日本,日本的军部和天皇之间的帅锅接力赛,就体现了“无责任主体”的危害。
因为不用承担主体责任,所以作恶肆无忌惮。
技术利维坦,会加速这种无责任主体状态。
它慢慢让人们相信,技术是不需要承担主体责任的。
很多人说“技术无罪”,这句话当然没错,却无法遏制一个冰冷的技术利维坦的崛起。
法国哲学家,列维纳斯的“他者之脸”,带给我们一种新的启示。
人类的道德只有在与他者的血肉相连的体验中才能重逢。
意思是:我们不能用“琪琪思考代替人的思考”。
不能用”决策和执行的分离“来稀释主体责任。
不能让”流程和分工遮蔽邪恶“。
”他者之脸“直面真实个体的伦理审视,它让决策者看到的不仅仅是一个陌生的ID,一个没有感情的头像,一段抽象的字符。
它要让决策者看到的是一张张真实的脸。
人类的道德隐藏在对同类的悲悯中。
根植于”不可被抽象,不可被概括,不可被遮蔽“的具象的痛苦中。
如果纳粹艾希曼可以看到”奥斯维辛毒气室中每个孩子的脸“,那么他可能就不会签字。
人类的道德要在真实的共情中重生,在近距离的凝视中被激活。
所以,一个算法工程师要自己去跑外卖,才可以理解被算法支配的小哥。
一个车厂的老板,要自己当测试物体,才可以研发出安全的自动驾驶。
一个餐饮店的老板要吃自己的食材,才能保障食品安全。
”他者之脸“给我们的启发是:只有看到”他者之脸“才能理解”他者的苦难“。
对抗技术利维坦,还要让冰冷的”官僚性语言“回归“道德性语言”。
如果一个城市管理者,看到的报告时“驱逐非法占道经营300人”,那么他可能完全无法感同深受。
而如果改为:“谈跑了寒风中卖烤红薯的大爷200人”,“驱散了勤工俭学卖花的小女孩100人”,
那么这些有温度的语言,就可能改变他们的决策。
20世纪的两场世界大战,让鲍曼意识到,在技术异化下,人类作恶的速度远远超越道德进化的速度。
但是这并不是人变坏了,而是因为一个冰冷的技术利维坦遮蔽了人对他者的同情心。
那个技术利维坦看起来公平而高效,但实际上它只是把束缚人的那条铁链,缀满了花环。
--
FROM 218.30.113.*