Select Language

AI社区

数据要素产业

性格能够被识别后,我们究竟失去了哪些权利?

12-08 01:15 TAG: 性格 人工智能

俗话说得好,“性格决定命运。”

性格能够被识别后,我们究竟失去了哪些权利?

性格为什么可以决定一个人的命运呢?在以前,人们认为这是因为思想决定行为,行为决定习惯,习惯决定性格,性格进而决定命运,而到了人工智能兴起的今天,因果关系可要简单得多了。

当你的性格可以被AI一眼看穿,你就必须意识到,你的命运即将开始改变。你的人格魅力、一些古怪的性格特点以及情绪稳定度会被AI数据化,你身边的人都可以根据这一份数据报表来评判你,并决定是否要跟你做朋友,你的老板也可以据此来决定要不要聘用你……

近日,来自墨尔本大学的研究人员就设计了一种AI生物识别镜,可以根据人的脸部照片检测和显示其个性特征和外貌上的魅力,最多可以分析14项性格特征,包括性别、年龄、种族,以及魅力、性格古怪之处和情绪稳定度等。

AI变成了一块魔镜,可以照到每个人性格的“样子”。现实中自然不会有恶毒的皇后给善良的公主喂毒苹果,我们却有点害怕被魔镜否认“你才不是世界上性格最好的人”。用AI分析性格,还是有待商榷。

外貌体现性格?显然是不靠谱的

识别性格的AI镜仅仅由用户的外貌做出估计,它的准确性便会十分有限。数据的一维性会对数据存量产生更多的要求,但这个系统在设计上只参考了相对较小且众包的数据集,所以,仅仅靠外貌就想要得到公平的性格结论显然是不可能的。

除此之外,AI分析性格的系统并非是心理分析仪,而是生物识别,尤其是面部识别系统,在这方面,就难免遭遇人脸识别的通病——在年龄、性别和种族上的歧视。

今年上半年,亚马逊的 Rekognition被许多执法部门采用,但就在近日,美国民权组织使用该系统扫描了所有 535 位美国国会议员的面部照片后,发现其中 28 人竟被识别成了罪犯。而在28 个错误匹配中,有 11 个是有色人种(约占 39%)。要知道,在当前美国国会上,只有 20% 的议员是有色人种。

无独有偶,由IBM、微软和旷视科技(Face++)设计的面部识别算法,与肤色较浅的男性相比,其在检测肤色较深的女性时,出错率也要高出35%。

这显然是个很难解决的问题,当我们默认一个人的外貌与其性格有着强联系时,在“以貌取人”的时代里,再将性格判定权利交给有偏见的AI,这其中的后患是不能低估的,而生物识别镜凸显了算法偏差可能造成的现实后果。

AI性格分析进入市场,会剥夺我们的哪些权利?

退一万步来讲,即使通过面部识别能够分析出某个人的性格特征(毕竟外貌和性格都与遗传有关),新技术的应用可没有想象中那么简单。就智能相对论(ID:aixdlun)分析师颜璇来看,其中隐患至少有三点。

1、性格的“魔镜”变成了父母的“遥控器”

一般来说,性格一经形成便比较稳定,但并非一成不变,而是具有可塑性的。性格不同于气质,更多体现了人格的社会属性,是可以通过习惯化了的行为方式去改变的。

性格的可塑性自然是让父母看到了某种希望——打造一个完美性格的、抑或是父母想要的那种性格的孩子。

最近,台湾上线了一部新剧《你的孩子不是你的孩子》,堪称台湾版《黑镜》,在这部剧中有这样一个故事——一位母亲手中有着一个可以控制儿子时间的遥控器,在母亲的眼里,这个遥控器就是一种“资源”,她可以不断地重复儿子的时间,不断地修正儿子的错误,最后让儿子变得更加完美。

性格的校准器无疑也会成为这样一种“资源”,而这样的资源,你想不想要?人们可以通过这个机器不断地校正,让孩子的性格变得更加讨喜。而到了最后,你的性格究竟还是不是你的性格?这是个值得思考的问题。

2.性格分析系统成了商业信息的靶子

众所周知,智能系统可以从数以亿计的数据中提取用户特征,算法再将大量广告精准投放,引导用户进一步消费,我们的智能手机已然成为了我们的“圆形监狱”。

当AI性格分析开始大范围落地,眼看着有一天,智能产品能够掌握大量人们的性格数据,进化到比人们自己还“懂”自己,在购物和广告这个领域,无法控制的算法可能会为某种性格的你推荐适合的商品,让你毫不犹豫地去消费。

AI分析性格的兴起,使得营销人员能够以前所未有的姿态直接去了解消费者。用户的所有信息指标正在无时不刻地与保险公司或商业公司所共享,这个项目透明化地呈现了这些信息对个人产生的潜在后果。

其结果便是商业信息泛滥,推销广告和商业化营销完美地捏住了用户的“命门”。消费者们毫无抵抗能力,不假思索地产生对商业品牌牢固的忠诚。

3.性格分析剥夺了我们追求进步的权利

目前,已经有许多企业开始利用大数据、AI等技术来招聘人员,通过在职位画像和人才画像之间进行精准匹配,节省了人工筛选简历的环节,有效提高招聘效率。但是,利用AI进行面试,并不能实现机器与人之间的交心沟通,面试者的综合素质究竟如何还是要看HR的判断。

然而,试想一下,你在面试的时候,HR可以通过AI性格分析系统选择一个指标进行了解,比如你的责任感水平, 当HR发现你的责任感并不是这群面试者里最好的,你可能就失去了一个就业机会。

在招聘过程中,当雇主们能够大批次地使用AI来分析应聘者的性格时,那些公众所认为的“性格不好”的人就会面临更加艰难的就业过程,即使他们的能力十分突出。在以后,说不定个人的业务能力也能被AI估值,到了那个时候,用数字评判一切固然是公平的,却剥夺了每个个体追求进步的权利。

我们不能因为时代的高速前进,而忽视自己与周围环境的互动能力,尤其是自己独立思考的能力。法国哲学家勒内·笛卡尔曾经提出,我思故我在。当个人的进步成为时代进步的牺牲品,我们还在吗?

文 | 颜璇

 
更多>数据要素产业相关信息
最新发布
点击排行