消除AI偏见从数据开始

2022-11-02 16:05:02   来源:商业新知网

“人类的偏见比 AI 的偏见更难消除。”
——普林斯顿大学教授 奥尔加·鲁萨科夫斯基

2014年,一款AI招聘工具在识别招募的软件工程师时被发现歧视女性,该工具随即遭弃用;2016年,某商用AI司法软件在帮助法官作出量刑决定时,被发现对黑人犯罪的可能性存有偏见。随着人工智能在各行各业中大规模开展应用,AI的伦理道德成为人们必须探讨的议题。


(资料图)

AI的伦理道德

01“我的朋友不是‘大猩猩’!”

在遥远的2015年,人工智能刚刚开始加速发展的时候,一位黑人朋友Jacky Alciné曾震惊地发现,自己被某图像识别算法歧视了:他和他的朋友竟被自动分类成“大猩猩”(gorilla)!

错误的图像识别

6年后的今天,机器已经有能力作出可以改变人们日常生活的决定:AI汇集和评估的大量数据,常常超出人力所及的范畴——AI可以在几秒内确定贷款申请人的信用度,也可以预测罪犯再次犯罪的几率。

然而,AI系统能强化它们从现实数据中获得的认知,也存在放大该认知的风险,比如开头提到的种族和性别偏见。在面对不熟悉的场景和存有偏见的数据时,AI还可能作出错误的判断。人们已经开始意识到,在技术投入使用之前,必须把道德关切纳入考量。

02“我们用技术打造的世界,必须让人想要居于其中。”

人们往往将人工智能的伦理道德置于模型本身的角度予以考虑。然而,当我们现在谈及负责任的 AI 时,必须要将整个人工智能生态系统考虑在内。事实上,这些考量不仅与 AI 有关,更与企业的社会责任有关。

在构建合乎道德的 AI 时,需要把AI伦理置于整个过程之中——从模型偏见,到数据安全性,再到可解释性。成功部署之后,还必须考虑到模型将对社会产生什么样的影响。

03 AI伦理道德的四大考虑因素

偏见偏见问题需要在模型构建一开始就保持警惕,否则就可能被引入开发和生产的各个阶段。在数据标注阶段,无论是数据本身还是数据标注者都需要实现多元化。安全性数据安全和隐私是企业面临的另一项挑战。然而数据所涉及的安全性问题又不仅仅是隐私。合格的数据合作伙伴必须得通过严格的安全标准来确保正确处理企业和相关客户的数据。可解释性在我们创建一个 AI 模型时,只有当它能够向客户予以解释、为其理解和信任,才能算创建成功。尽管最先进的 AI 应用很难解释,但我们可以从数据结构、输入、输出等用于开发模型的训练数据中获得一些可解释性。验证和再训练流程则可以让我们更加了解模型预测机制。社会影响在进行任何 AI 尝试之前,团队应该首先提出一些与社会影响有关的 AI 伦理问题:我创建的AI模型将会对我的业务、构建模型的人员、最终用户和整个社会产生什么样的影响?当我的模型做出错误决定时又会发生什么?这类问题的考虑将帮助团队构建出对所有利益关系人都具有积极影响的模型。

04“人类的道德始于情感,人工智能的道德始于数据。”

部署负责任的 AI 必须自始至终应用 AI 道德标准。从部署的一开始,训练数据就要以负责任的方式从多元化的标注员那里获得,才能有效发挥其作用。

其中,偏见最小化应该作为整个模型构建过程之中最重要的考虑因素。定期使用新数据重新训练模型,有助于及时发现偏见,并随着时间的推移保持模型的准确性,以免对企业或消费者造成不必要的负面影响。

人工智能应该使所有人受益,无论其种族、性别、国籍或背景如何。负责任的 AI 不仅仅是一个哲学概念,更是 AI 领域的所有企业都必须采用的方法。好在时间已经为我们证明:以负责任的态度构建的 AI 模型,往往在现实应用中也更为成功。

关键词: 人工智能 伦理道德

上一篇:
下一篇:
精彩阅读

消除AI偏见从数据开始

热点

人类的偏见比AI的偏见更难消除。

全球最新:数据中台的终点是DataOps还是DaaS?

热点

要说近些年企业服务圈的顶流明星,非数据中台莫属。

世界快资讯:关于文本到图像生成式AI :狂野新世界的4 个预测

热点

一种强大的新形式的人工智能突然出现并吸引了公众的想象力:文本到图像的生成式人工智能。

【独家】广电192靓号官方申请攻略来了!“球迷卡”即将上线!

热点

随着2022年卡塔尔世界杯的临近,中国广电方面也针对性的发出了新的广电5G营销推广活动信息。

观察:“葬爱家族”,在小红书重生

热点

“葬爱家族”复活记:铁打的边缘人。

观速讯丨互联网应用软件衰落记:属于超级APP的时代过去了?

热点

日益臃肿的微信也一直被外界吐槽:实际上90%左右的更新都用不到。

世界微头条丨数字经济的强逻辑

热点

人工智能驾驭下的数据,成为推动新一轮经济增长的决定性要素。那么这就是人口结构恶化下的一个强对冲。

天天观天下!红杉资本谈生成式AI:预计AI的杀手级应用将出现,比赛正在进行

热点

生成式AI还很早期。平台层刚刚好,而应用空间几乎还没开始。但预计AI的杀手级应用将出现,比赛正在进行。

前沿热点:解密数据编织—— 2022 数据分析领域十大技术趋势之首

热点

数据问题无疑成为企业数字化转型过程中面临的最严峻挑战。

环球消息!不靠传统业务也能日赚5.08亿元 三大运营商找到了什么新财路

热点

通信行业很能赚钱,这个事现在已经被不少人都知道了。

财富

全球快消息!融资丨「江行智能」完成1.5亿元pre-B轮融资,朗玛峰资本等机构投资

资讯

融资丨「江行智能」完成1 5亿元pre-B轮融资,朗玛峰资本等机构投资,本轮融资将主要用于技术创新、双碳相关解决方案研发、创新应用场景与业务拓

今日看点:融资丨「六方云」完成C1轮2亿元融资,北创投领投

资讯

融资丨「六方云」完成C1轮2亿元融资,北创投领投,六方云将把本轮融资主要用于核心技术及产品上下游产业布局、市场拓展、人才队伍和平台建设等。

融资丨「HealthJoy」获得6000万美元D轮融资,Valspring领投

资讯

融资丨「HealthJoy」获得6000万美元D轮融资,Valspring领投,HealthJoy公司将把这笔资金用于公司持续增长。

蹭韩流起家年入36亿,昔日“第一微商”三战IPO

资讯

蹭韩流起家年入36亿,昔日“第一微商”三战IPO,屡次抓住时代红利的韩束,还能再战吗?

冬日情绪消费:去年热煮红酒,今年围炉烤茶

资讯

冬日情绪消费:去年热煮红酒,今年围炉烤茶,天冷了,需要更多 "温暖 "。

焦点短讯!网球名将威廉姆斯姐妹领投,投资社交平台Shares完成4000万美元融资丨海外邦

资讯

网球名将威廉姆斯姐妹领投,投资社交平台Shares完成4000万美元融资丨海外邦,Williams姐妹也将担任该公司的形象大使。

焦点快报!2022狂赚1.7亿,谷爱凌跻身全球女运动员吸金榜Top5

资讯

2022狂赚1 7亿,谷爱凌跻身全球女运动员吸金榜Top5,谷爱凌过去一年共获得2300万美元的商业代言收入。

环球要闻:奈雪专心搞副业

资讯

奈雪专心搞副业,奈雪的面包生意,越做越上头了。

万元学费,只赚400块,网红副业把我整焦虑了

资讯

万元学费,只赚400块,网红副业把我整焦虑了,“小美”和“大壮”背后的生意经

泡泡玛特回不了暖

资讯

泡泡玛特回不了暖,涨不上去的业绩,留不住的消费者。

全球最新:数据中台的终点是DataOps还是DaaS?

要说近些年企业服务圈的顶流明星,非数据中台莫属。

世界快资讯:关于文本到图像生成式AI :狂野新世界的4 个预测

一种强大的新形式的人工智能突然出现并吸引了公众的想象力:文本到图像的生成式人工智能。

【独家】广电192靓号官方申请攻略来了!“球迷卡”即将上线!

随着2022年卡塔尔世界杯的临近,中国广电方面也针对性的发出了新的广电5G营销推广活动信息。

观察:“葬爱家族”,在小红书重生

“葬爱家族”复活记:铁打的边缘人。

观速讯丨互联网应用软件衰落记:属于超级APP的时代过去了?

日益臃肿的微信也一直被外界吐槽:实际上90%左右的更新都用不到。

苹果举行主题为超前瞻秋季新品发布会 AirPodsPro2正式登场

北京时间9月8日凌晨,苹果举行主题为超前瞻的秋季新品发布会,在此次发布会上,备受关注的iPhone 14系列新机、新款Apple Watch Ultra以

微软正为Windows12开发新驱动框架 提升新老显卡性能

Windows 12系统可能会在2024年到来,按照正常的节奏,其开发工作应该早已秘密进行。日前,有开发者从Windows 11最新预览版Build 25188中

华盛顿地铁站首次亮相为视障人士扩展旅行路线

5月25日消息,一款旨在帮助视障人士或盲人行人使用公共交通工具的应用程序在华盛顿地铁站首次亮相。该应用程序名为Waymap,旨在为盲人和视

2022年情况又要变了!华硕高管:今年PC恐怕要供过于求

这两年来,由于疫情导致的居家办公及远程教育需求爆发,一直在下跌的PC市场枯木逢春,2021年更是创下了2012年以来的最快增长,然而2022年情

垃圾佬的心头好!西数新款固态盘SN740曝光

对于DIY垃圾佬来说,散片、拆机件、工包……这些名词怕是并不陌生。本周,西数推出了主要供应OEM厂商的新款固态盘SN740。SN740升级到了第五

虚假宣传、误导消费者 倍至冲牙器关联公司被处罚

后来者要想在激烈的市场竞争中立足,如果可以背靠巨头享受大树底下好乘凉的红利,那自然是皆大欢喜,没有这个福气,也大可凭借自己一步一个