-
雁默:AI若无人性,你我只是被任意曲解的数据碎片
关键字: 人工智能算法黑箱欧盟文科生伦理道德【文/ bte365娱乐线专栏作者 雁默】
上一篇谈AI与中国伦理,就AI发展现况看来,似乎是有点遥远的事,毕竟目前仍无法确定通用型AI何时能实现,然而,最近有几则新闻令人警觉,伦理在AI里的应用,可能比我们想像得更急迫。例如英国《金融时报》中文网3月7日的一篇文章“人工智能的算法黑箱与数据正义”。
该文颇长,且充满许多AI专业用语与法律用语,所以对一般读者而言不太容易咀嚼,用最简单的话来描述该文的主旨,就是“AI的判断造成了歧视与不正义,所以其算法需要透明,以确保人权”。论述的出发点,则是针对欧盟可能于5月出台的法案《一般数据保护条例》(GDPR),以及其对AI深层学习所可能造成的负面影响。
以下,我试着将重点做些比较清晰易懂的说明,阐述“为何伦理知识可能要在通用型AI阶段以前就需要用上”,且不是明天,就是现在。
该文作者将具备知觉与自我意识的通用型AI称为“强人工智能”,有限功能的AI则为“弱人工智能”。由于强人工智能尚未出现,所以该文所阐述的“AI之乱”,是针对目前许多已在社会各角落被使用的弱人工智能。
什么是“算法黑箱”?
用一个简单的例子来说明。买新车,许多人会保“车体险”,以期在爱车遭受碰撞时,能取得保险理赔。在台湾,相较于窃盗险或其他,车体险最为昂贵,因为车辆遭受或小或大的碰撞机率,远高于遭窃。车体险的保费并非固定金额,而是随着一些条件的差异而有不同。决定保费的要件如车辆的售价,车辆品牌的理赔率,车主的年龄,性别,肇事纪录等等,甚至车辆的颜色都属于评估范围,因为开红色汽车的年轻男性,发生碰撞的几率较高。
保险金融业,是以精算来生存的,所以引入能精细评估投保者的AI,理所当然。而若使用AI来评估,决定保费的要件,当然会比上述更为细腻。AI会广泛地搜罗保险公司的理赔历史数据,来分析哪一种人或哪一种车的理赔率较高,以作为保费金额的参考。
如果开红车的年轻男性要交比较高额的保费让你觉得有点歧视,试想,如果AI分析得出单亲家庭的成员肇事率较高,所以应该缴交更高的保费时,你服气吗?
问题是,AI如何得知你出身于单亲家庭呢?这么说吧,如果民间征信社可以查出你是否出身单亲家庭,AI当然也查到。我们的个人数据资料,如果没有受到严密的保护,根本无法逃遁于AI的搜查罗网。
这时你会问,谁能决定要将单亲家庭这项条件纳入保费评估的?当然是透过保险公司与AI科技公司的合作,而且保险人恐怕根本不会知道这项条件其实被纳入了考虑。
“单亲家庭”纳入评估,就是一种AI算法,而若只有保险评估单位与AI科技公司知道这种算法,被“算计”的人不知道,就是所谓“算法黑箱”。
如果以传统人工来评估保费,某些算法很可能会受到起码的道德制约,避免这种歧视性的评估。当然,我们也不能对“人性”打包票,即使完全人工设定评估项,这类问题也未必能完全避免,但没有“人性”的AI,很可能会肆意地选择,毕竟它只知如实呈现“客观”的数据分析结果。
与全人工设定相比,了解并参与AI整个分析过程的人更少,这些人完全可能也有更多的机会“放纵”AI。如果需要他们“监管”AI的工作,对其“人性”的要求更高。甚至当AI的“自动化”发展到一定程度,几乎无人能知道“黑箱”内部的情况。所以,保险公司若不将AI算法透明化让大众知晓,就会发生数据不正义的现象。
欧盟的《一般数据保护条例》,就是在限制AI可能造成的人权侵害,它要求所有科技公司对其AI算法的自动决策机制提出解释。而这种法令出台,也等于直接限制了AI的深度学习技术。
说白了,就是重新以“人性”去审视,限制“非人性”的决策模式。而这将使大量依赖深度学习的AI应用不合法。
大数据的阴暗面
《人工智能的算法黑箱与数据正义》一文,也指出了若干已经发生的数据不正义案件,例如美国每周超过1000人被机场AI使用的算法错误辨识为恐怖分子。美国法院用以评估犯罪风险的算法COMPAS,对黑人族群造成系统性歧视。华盛顿特区某个受到普遍认可的教师,被政府的自动化决定程序筛选为表现不佳,而与其他205人一起被解雇。
-
本文仅代表作者个人观点。
- 请支持独立网站,转发请注明本文链接:
- 责任编辑:陈轩甫
-
●  观察者头条  ●风闻 · 24小时最热 查看全部>>最新视频最新闻 Hot
-
请吸毒艺人站台遭抵制,NARS发声明又被批
-
又一家要“倒戈”,这次是美国最大铁钉制造商
-
哈雷“叛逃”后 特朗普破例为郭台铭站台:将出席富士康在美动土典礼
-
梦想成为中国公民的美国人:我发现中国人更善良
-
全美国都在问:她是谁?
-
这国上演近代史上最血腥大选 100多名政客被杀
-
白宫发言人被赶出餐厅后,一万多人怒了…
-
“黑公关”大战中,腾讯推新游戏“逼”你学微积分
-
美国要求所有国家11月停止进口伊朗石油 否则制裁
-
美媒:中国没必要“恢复”任何王朝,现代化也不等同西化
-
特朗普真的怒了:海外建厂将是哈雷的“末日”!
-
英国人请愿:让“特朗普宝宝”飞
-
哈雷生产线要移出本土 特朗普惊了:投降派
-
澳智库称华为是澳高官海外出行最大赞助商,外长在列
-
日本两大航空改标还玩起“小伎俩”
-
日媒找到世界杯对手“强壮的秘诀” 中国网友都说眼熟!
快讯 -