新疆喜乐彩玩法

AI正学会所有偏见!算法偏见更难辨认也更持久

2019-11-25来源: DeepTech关键字:AI  算法  BERT

人工智能学习人类知识,同时也吸收人类偏见。这种担忧由来已久。但谷歌的一项新发明极大推进了人工智能从文本材料中学习的速度,也使解决机器偏见问题迫在眉睫。

 

10 月 25 日,谷歌宣布利用 BERT 来优化搜索引擎,已经使英语搜索结果的匹配度提高了 10% 左右。未来,谷歌还会推出学习其他语言和国家的算法。

 

BERT 是谷歌在 2018 年开发的一种基于神经网络的 NLP 技术,它能一次接收整句话,而非从左至右(或相反)逐字接收。这使得如果有人要搜“在没有路缘的山坡停车”,BERT 能认出“不要”,从而给出正确的搜索结果。而传统搜索引起只会关注“路缘”和“山坡”,给出与搜索意图相反的结果。

 

新疆喜乐彩玩法图 | BERT 能更好识别“在没有路缘的山坡停车”句子里的“没有”一词,从而理解人类意图(来源:https://blog。google)

 

新疆喜乐彩玩法让人们担忧的是,BERT 的学习材料正来自数字化书籍和新闻文章。在 BERT 学会一切之前,人们没有时间来清理其中根深蒂固的偏见。而这些偏见一旦被算法吸收,将更难辨认,也更难清除。

 

“形象一下在 AI 世界长大的孩子。他们在谷歌搜索 CEO 照片,冒出的大部分是男性。他们又搜索个人助手,大部分是女性。”Kriti Sharma 在一次 TED 相关演讲中说。卡耐基梅隆大学的计算机科学家已研究证实,BERT 倾向于将程序员与男性联系起来。

 

另一位计算机科学家 Robert Munro 发现,展示给 BERT 100 个单词,包含马、婴儿、房子、珠宝等。BERT 会认为大部分与男性有关,仅妈妈是个例外。

 

“BERT 改变了一切,你可以教它所有技巧。”NLP 初创公司 Primer 的科学主管 John Bohannon 说。Munro 则认为,不平等现象一直存在,但有了 BERT,偏见就能够继续存在下去。

 

“是时候把算法当作人类设计的造物了。”人工智能批评人士 Kate Crawford 说,算法经常被看作是不带偏见、不可理解、勿需质疑的对象,但实际它会继承我们的偏见,它只可能跟我们一样好。

 

 

决策黑盒为偏见“藏污纳垢”

 

人们最初确实天真地以为,算法能比人类更能避免偏见。1970 年代,伦敦圣乔治医学院的 Geoffrey Franglen 博士着手编写一个算法来筛选学生的入学申请。他认为,如果所有学生的申请都要遵循完全一样的评估流程,结果就是公平的。

 

算法完成后与人类判断有 90% 到 95% 的一致率,因此被投入使用。但直到 4 年后,调查者才发现:算法会仅仅因为一个候选人没有欧洲名字(可能不是白人),就扣除 15 分。如果申请者是女性,又要被扣掉 3 分。

 

“从深层次看,算法只是在维持招生系统早已存在的偏见而已。”IEEE 的文章评论说,“圣乔治医学院之所以被逮住,是因为他们把偏见供奉到一个计算机程序里面,歧视是调查者可以验证的。”

 

但对于人工智能的黑箱式决策,情况变得更加复杂。性别或出生地在算法中并不对应单一可辨的参数,你很难给机器“定罪”。“在大工业时代,机器以暴露齿轮来展示强大。但如今,齿轮被隐藏起来,融入生活,无处不在,AI 就是这个齿轮。”一篇《福布斯》文章精辟地说。

 

在这种黑箱决策面前,反歧视法案可能也无能为力。Kriti Sharma 认为,如果 AI 帮人事主管寻找一位技术领袖,它会发现主管雇佣的大多是男性,从而以为男人比女人更容易编程。如果人类主管这样做,我们会愤怒,也能够阻止。“人工智能实际已凌驾于法律之上,因为是机器做的决定。”

 

更值得担忧的是,AI 决策可能放大了科技企业和数据标注者的权力,因为无人能监督。一个名为 ImageNet Roulette 的流行应用,曾故意向人们展示这种风险:它曾倾向于将非洲裔美国人标记为“不法分子”“罪犯”,此外还有“失败者”“初学者”“荡妇”这样的标签。

 

图 | ImageNet 展示了为人们打上刻板标签的权力,如何从拿低薪的标注者手中转移到算法上(来源:frieze.com)

 

新疆喜乐彩玩法它的训练数据来自 ImageNet 数据集,包含了 1400 张被标记的照片,而每张标记费用为几美分。因此标签标注者的偏见便被带入数据集,训练出各种算法,应用在形形色色的领域。“如果标注女性照片的人不选非二元人群或短发女性,那最终得到的人工智能就只认长发的女性模特。”

 

在被发现算法存在机器偏见时,谷歌和亚马逊都会承诺迅速解决。“我们发现的明显的偏见,但里面如果还有几个呢?”Bohannon 博士说。如果要依赖这种决策,“正如生物学家努力理解细胞工作原理一样,软件工程师也必须找到理解 BERT 系统的方法。”

 

人人都要学会讨好算法

 

电影《少数派报告》里,汤姆克鲁斯负责抓捕那些被电脑认为“将要犯罪”的人,直到有一天自己也上了抓捕名单。在现实中,类似的系统可能已经上线。

 

据 BBC 报道,2017 年 5 月,英国达勒姆警方启用了一套系统。它学习过警方 5 年关押报告和 2 年定罪报告,来预测嫌疑人犯罪的可能性是低、中、高,以决定是否收押。

 

但使用数年后,评估工具发现,这套系统认为黑人是罪犯的概率是白人的两倍,还喜欢把白人定为低风险、单独犯案。此外,它预测低风险犯罪的准确率为 98%,高风险为 88%,暗示它宁错抓一千、不错放一人。 

 

2016 年 12 月,迪拜警方也启用了一套系统,来预测不同地区犯罪概率,将警力部署在高风险地区加强巡逻。

 

如果说预测犯罪尚遥远,AI 招聘则掌握了你的生杀大权。11 月初,高盛、希尔顿和联合利华等企业都开始使用一种名为 HireVue 的 AI 视频面试系统,并赞赏有加。希尔顿高管说,HireVue 将招聘周期从 6 周缩短到了 5 天。

 

图 | 学会讨好 HireVue 的算法有望成为求职者的必备技能(来源:softwareadvice.com )

 

但它的决策偏好被发现匪夷所思:AI 分不清你皱眉是因为在思考问题,还是情绪不佳(暗示性格易怒)。面试者既担心表现,又不知 AI 如何给自己打分,以至于刻意迎合 AI:在面试全程表情微笑、放慢语速、在摄像头边贴上眼睛贴纸,以维持眼神接触,以及让背后是一堵白墙,防止干扰算法。

 

此外,HireVue 也被认为加强了求职偏见:机器通过学习现有员工来寻找新员工。这意味着如果一个部门所有员工全是白人(即使是巧合),AI 也会不自觉地偏向寻找白人。如果好员工恰都是女性,那么男性面试者也会被降低权重。 

 

“我们迎来了焦虑的一代,要求他们面向屏幕说话,对摄像头回答问题,还不告诉他们如何做得更好。”辅导学生参加 HireVue 面试后,杜克大学经济学教授 Emma Rasiel 表示。不难想象,如果你能骗过 AI 面试,也许会尝试用匪夷所思的举动骗过其他 AI 决策。

  

参考:

 

https://www.nytimes.com/2019/11/11/technology/artificial-intelligence-bias.html?auth=login-email&login=email

新疆喜乐彩玩法https://www。nytimes。com/2019/09/20/arts/design/imagenet-trevor-paglen-ai-facial-recognition。html?action=click&module=RelatedLinks&pgtype=Article

新疆喜乐彩玩法https://blog.google/products/search/search-language-understanding-bert/

https://www.bbc.com/news/technology-39857645

https://www.ted.com/talks/kriti_sharma_how_to_keep_human_biases_out_of_ai/transcript?language=zh-cn



关键字:AI  算法  BERT 编辑:muyan 引用地址:http://news.zjgsmm.com/IoT/ic481053.html 本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有,本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如果本网所选内容的文章作者及编辑认为其作品不宜公开自由传播,或不应无偿使用,请及时通过电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。

上一篇:什么是DNN?它对AI发展意味着什么
下一篇:最后一页

关注eeworld公众号 快捷获取更多信息
关注eeworld公众号
快捷获取更多信息
关注eeworld服务号 享受更多官方福利
关注eeworld服务号
享受更多官方福利

推荐阅读

TCL、华星领跑全球面板,已摆脱“缺芯少屏”局面
前五强。TCL 集团董事长李东生表示,TCL 华星打破境外面板多年的垄断局面,成为中国乃至全球面板产业的一支重要力量。“决定自主建设 TCL 华星项目,以当时 TCL 的体量,投资这个高投入、重技术、长周期的百亿级工业大项目,要冒极高的风险。”TCL 集团董事长李东生不无感慨地说,当时的 TCL 华星还“只是一张张充满梦想的蓝图”。肩负打破“缺芯少屏”格局的使命,TCL 华星仅用 10 年时间,从一片荒芜的荒坡菜地,到总投资达 1381 亿元的大型面板企业;从零生产线,到实现大尺寸液晶面板出货量全球排名第五;从半自动化,到高达 95%的自动化生产线并在业内首创 AI 自动缺陷分类技术的智能制造企业
发表于 2019-11-22
TCL、华星领跑全球面板,已摆脱“缺芯少屏”局面
新疆喜乐彩玩法MediaTek 5G,AI相关论文入选ISSCC 2020
史,是目前全球最权威的固态电路国际会议,堪称“芯片奥林匹克”。峰会录用和发布全球最新、最领先的芯片技术,同时也代表了集成电路产业的发展趋势。在ISSCC会议上发表的论文数量和覆盖领域,反映了在半导体技术领域的地位和发展水平。MediaTek被收录的11篇论文主要聚焦5G和AI在人工智能物联网 (AIoT) 方面的应用。内容涵盖高效能的手机处理器和终端 (Edge) AI 处理器,以及用于加速云端 (Cloud) AI的先进通讯技术, 包括5G、Wi-Fi 6无线射频电路、新一代112Gbps有线数据传输,此外还有高动态范围的车用图像处理器、多功能生物传感器、以及快速充电
发表于 2019-11-22
车联网混战 BAT的战况怎样
月,阿里也对AliOS和斑马智行进行了重组,继续加码车联网。狭路相逢勇者胜。随着百度转舵,BAT同台的景象已不多见,但在车联网领域三者却不可避免地再次狭路相逢。车联网,已经成为兵家必争之地。百度:重AI以搜索引擎起家的百度,在PC时代成为中国互联网的一张名片。然而,在移联网的门槛上跌了一跤后,百度接连错过了团购、网约车、外卖、共享单车、新零售等多个风口,每次都是起个大早,赶个晚集。调头All in AI,追不上风的百度选择等风来。在百度AI布局上,车是一大重头领域。而在这个领域内,百度又分为两条支线齐头并进,分别是车联网和自动驾驶。车联网领域,百度最先落地的是车手互联方案CarLife。车机与手机的互联在2014年左右开始盛行。当时
发表于 2019-11-21
车联网混战 BAT的战况怎样
聚首泉城,广开言路,赋能AI发展
经过60余年的发展,AI在算法、算力和算料(数据)“三算”方面取得了重要突破,处于从“不能用”到“可以用”的技术拐点,但是距离“很好用”还有诸多瓶颈。而这期间也会催生新技术、新产品、新产业、新模式,引发经济结构重大变革,对未来企业的发展带来机遇与挑战。2019中德中小企业合作交流大会·AI分论坛在泉城济南成功举办。本次论坛由济南高新技术产业开发区管委会 、济南市科学技术局、山东国惠安创智能物联发展有限公司主办,安创加速器(Arm Accelerator)、济南高新区齐鲁软件园发展中心承办。 期间在AI分论坛上,聚焦于人工智能和物联网产业的创新创业服务平台“安创加速器”举行揭牌仪式。济南高新区管委会常务副主任寇梅、济南市
发表于 2019-11-20
聚首泉城,广开言路,赋能AI发展
Verint基于AI的云端知识管理解决方案摘取KM Promise大奖
客户交互解决方案提供商,Verint的知识管理解决方案运用其获得专利的AI技术,为企业创造了更自然、更高效的连接人与知识的方式。” Verint知识管理™能够助力客户面向企业的两大目标实现平衡:在交付卓越客户体验的同时,大幅节省成本。该解决方案开箱即用,使用简便,能够通过快速现云端部署为企业带来立竿见影的好处。AI技术为这款解决方案赋予了巨大能量,使它能够理解人们提问方式的细微差别,关注于人们真正想要了解什么,而不仅是在键盘上敲出什么。该解决方案具备强大的认知搜索和自学习能力,运行方式与人类大脑处理知识的方式相同,凭直觉就可以自动理解概念信息,而无须人工介入。 Verint知识管理解决方案能够交付知识访问的灵活性
发表于 2019-11-19
Wayve正在开发人工智能 为自动驾驶汽车赋予更优AI大脑
自于更好的AI大脑,而不是更多的传感器或“手动编码”规则。该公司表示,它使用模拟环境训练其自动驾驶系统,然后将这些知识转移到现实世界中,在其中模拟人类如何实时适应条件。Wayve的系统会从每次安全驾驶员的干预中学习,以了解驾驶员为何要干预,绕过高清地图、激光雷达和其他传感器,而这些传感器已成为迅速发展的自动驾驶汽车的代名词。值得注意的是,如果汽车制造商想要使用Wayve的机器学习算法,那是没有问题的,因为该算法可以与任何硬件或传感器协同工作。但Wayve的中心思想是,自动驾驶汽车应该能够像人类一样学习新的环境。Wayve联合创始人兼首席技术官Alex Kendall表示:“我们的算法正在学习成为超越人类的驾驶员。我们从专心的人类驾驶
发表于 2019-11-18
Wayve正在开发人工智能 为自动驾驶汽车赋予更优AI大脑
小广播
电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2019 EEWORLD。com。cn, Inc。 All rights reserved
新疆喜乐彩走势图 海南4+1玩法 贵州快3走势 北京赛车怎么玩 北京赛车pk10玩法 上海11选5走势 香港开奖结果2019+开奖记录表 海南4+1开奖 皇冠手机网址 聚发彩票投注