乐尚街

宋佩芬:麦克阿瑟“天才奖”得主Trevor Paglen 9月在伦敦佩斯画廊的个展,从AI训练过程出发,探讨AI如何延续种族主义、阶级分化等偏见。

威廉姆斯(Robert Williams)住在底特律郊外,今年6月某天在家被警方逮捕,理由是脸部识别软件认为他涉嫌一起偷窃案——一名黑人闯入珠宝店,偷走了一些手表。闭路电视摄像头只拍到一点点嫌犯,而且非常不清楚。虽然警方知道,他们所使用的脸部识别软件有高达96%的错误率,而且软件也显示,对威廉姆斯只有六七成的把握,警方依旧去逮捕他,而且将之拘留了30个小时,直到他被证明无辜。这个事件曝露了AI的偏差,认为大多数的嫌犯可能是宽鼻梁、低眉毛,从偏见出发,导致脸部识别软件错误百出。

AI怎么可能有偏见?麦克阿瑟“天才奖”得主Trevor Paglen 今年9月在伦敦佩斯画廊(Pace)的个展直接面对这个问题。从AI的训练过程出发,探讨“受训过”的AI如何反映并延续了种族主义、父权制和阶级分化等社会不平等。不论是治安单位,还是大型企业,利用AI做脸部识别以及监控可能导致什么危险。

被Artnet 称为“超级英雄式的实证主义艺术家”,Paglen的专长是透过看得见,来调查看不见的。他不但为了亲眼看到埋在海底的网路电缆而去学潜水,还由于对美国公安局的“深入观察”,参与斯诺登纪录片《第四公民》(Citizenfour)的拍摄。 他在佩斯画廊展览的主题是《盛开》。“这是我在今年春天,当世界充满危机,充满了恐惧悲伤时创作的。疫情不但揭露生命的脆弱,也揭露出制度的脆弱。”Paglen在越洋电话中解释,他所住的纽约虽然像个空城,但春天的花朵压倒性地绽放,呈现出大自然的爆发力。“在艺术史上,花朵代表了多层的意义,既可能象征脆弱,生命的短暂,也能够代表生命的降临。”然而,不像在公园所看到的,展览中花朵看起来相当不自然,尤其是它的颜色。Paglen 解释,花朵的颜色是AI分析了不同的图像之后所生成的,是AI眼中而不是现实生活中的颜色。

训练AI辨识图像,你首先必须为它输入上千万图片。斯坦福大学开发的图片网ImageNet就是采用了文字数据库WordNet上的字条,为每一个字条找到对应的图像来输入AI。帮AI喂食这么多图片之后,接下来的工作是进行分类,像汽车、植物、水果等,来帮AI消化学习。由于WordNet的结构,输入“APPLE”就可能出现苹果、苹果蚜虫、苹果酱、苹果馅饼、苹果天竺葵、苹果果冻、苹果汁、苹果蛆、苹果锈、苹果树、苹果派、苹果酒等结果。“HOT”则会出现热线、热裤、热盘、热锅、热棒、辣酱、温泉、热奶茶、热浴盆、热气球和热水瓶等图片。ImageNet上有大约1500万张图片,被划分成22000个类别。当然了,从植物、水果、电器用品来说,这些分类一目了然。但是在这22000个类别中有2833个是针对人的分类,有直截了当的,如潜水员、啦啦队长等,但也有充满种族主义,和厌恨女性等残忍的类别,如荡妇、坏人、败家子等等。

去年,Paglen和纽约大学教授Kate Crawford利用ImageNet的分类结构,开发了《图像轮盘赌》 (ImageNet Roulette)的APP,你只要上传自己的照片,AI就会用ImageNet分类方式来判断你是什么样的人。《图像轮盘赌》一出现,立刻有成千上万的人要AI帮他们看相,有些人被断定是“成年男子”,或“保姆”,但是有些人获得的评论就相当恶毒,英国《卫报》一位亚裔记者将员工证上传,AI描述她是“斜眼的外国人”,具有“对亚洲人蔑称(特别是对越战中的北越士兵)”的人格!

版权声明:本文版权归FT中文网所有,未经允许任何单位或个人不得转载,复制或以任何其他方式使用本文全部或部分,侵权必究。

‘+n.hot[a].dnewdate+”“+n.hot[a].nickname.replace(/(.+)/g,”$1”)+s+’ ‘+n.hot[a].user_area+”

“+n.hot[a].quote_content+n.hot[a].talk+’

“;for(var u=0;u

“,window.unusedEntryIndex=u;p.innerHTML=r,n.count&&n.count>0||”story”!==o?(init_repeat_cmt(),(n.count>20||n.result.length>20)&&(i=n.count||n.result.length,c=o.indexOf(“story”)>=0?”story”:”common”,l=o.indexOf(“storyall”)>=0?o.replace(/storyall/g,””):1,p.innerHTML+=”‘,document.getElementById(“viewfullcomments”).onclick=function(){d=document.getElementById(“commentsortby”).value,loadcomment(e,t,c+”all”+d)},document.getElementById(“commentsortby”).onchange=function(){d=document.getElementById(“commentsortby”).value,loadcomment(e,t,c+”all”+d)})):p.innerHTML=””}else p.innerHTML=”很抱歉。由于您与FT服务器之间的连接发生故障,加载评论内容失败。请稍后再尝试。“},y.open(“GET”,n,!0),y.send()}function init_repeat_cmt(){for(var e,t=document.querySelectorAll(“.cmt_quote”),o=0;o重复 [ “+e+” ] 条引用已被隐藏,点击展开。”+document.getElementById(n[r].id).innerHTML)}function showcmt(e){document.querySelector(“#”+e.parentNode.id+” .cmt_quote”).style.display=””,e.style.display=”none”}function voteComment(e,t,o){t||(t=”support”===o?”#st”:”#dt”);var n=document.querySelector(t+o[0]+e).innerHTML;n=parseInt(n,10)||0,document.querySelector(t+o[0]+e).innerHTML=n+1,document.querySelector(t+e).removeAttribute(“href”),document.querySelector(t+e).innerHTML=”support”===o?”已支持”:”已反对”;var r=”cmtid=”+e+”&action=”+o,a=new XMLHttpRequest;a.open(“POST”,commentfolder+”/addvote/”),a.setRequestHeader(“Content-Type”,”application/x-www-form-urlencoded”),a.send(r)}function cmt_reply(e,t){var o,n;t=t||””;for(var r=document.querySelectorAll(“.replybox”),a=0;a回复此评论:

‘,document.querySelector(“#nick_namer”).value=document.querySelector(“#nick_name”).value,document.querySelector(“#addnewcommentr”).onclick=function(){n=0;var o=new XMLHttpRequest;o.onreadystatechange=function(){if(4===this.readyState)if(200===this.status){var o=this.responseText;if(“yes”!==o)return void presentAlert(“非常抱歉,现在我们的网站遇到一些技术故障。您的留言可能没有发表成功,稍后请您试着重新发表一次。”,””);document.querySelector(“#re”+t+e).innerHTML=””,presentAlert(“感谢您的参与,您的评论内容已经提交。审核后会立即显示出来!”,””)}else document.querySelector(“#re”+t+e).innerHTML=””,presentAlert(“很抱歉。由于您的网络的连接发生故障,发表评论失败。稍后请您试着重新发表一次。”,””)};var r=”storyid=”+window.readingid+”&topic_object_id=”+window.readingid+”&talk=”+document.querySelector(“#replycontent”).value+”&use_nickname=”+n+”&NickName=”+document.querySelector(“#nick_namer”).value+”&cmtid=”+e+”&type=”+t+”&title=&url=”;o.open(“POST”,commentfolder+”/add”),o.setRequestHeader(“Content-Type”,”application/x-www-form-urlencoded”),o.send(r),this.disabled=!0}):(o=document.querySelector(“#nologincomment”).innerHTML.replace(/username1/g,”username2″).replace(/password1/g,”password2″).replace(/login\(1\)/g,”login(2)”),document.querySelector(“#re”+t+e).innerHTML=o)}function clickToSubmitComment(){document.querySelector(“#addnewcomment”).onclick=function(){var e=document.querySelectorAll(“#name”).checked?1:0;console.log(“clicked comments”),this.value=”正在发布中…”,this.disabled=!0;var t=new XMLHttpRequest;t.onreadystatechange=function(){if(4===this.readyState){if(“yes”!==this.responseText)return void presentAlert(“抱歉,现在我们的网站可能出现了一些小故障.您的留言可能没有发表成功,请您稍后再重新尝试发表一次。”,””);presentAlert(“感谢您的参与,您的评论内容已经发表成功。审核后就会立即显示!”,””),document.querySelector(“#addnewcomment”).value=”提交评论”,document.querySelector(“#addnewcomment”).disabled=!1,document.querySelector(“#Talk”).value=””}};var o;o=/^[0-9]+$/.test(window.FTStoryid)?”storyid=”+window.FTStoryid+”&talk=”+document.querySelector(“#Talk”).value+”&use_nickname=”+e+”&NickName=”+document.querySelector(“#nick_name”).value:”topic_object_id=”+window.FTStoryid+”&talk=”+document.querySelector(“#Talk”).value+”&use_nickname=”+e+”&NickName=”+document.querySelector(“#nick_name”).value+”&type=video”,t.open(“POST”,commentfolder+”/add”),t.setRequestHeader(“Content-Type”,”application/x-www-form-urlencoded”),t.send(o)}}function login(e){function t(e){var t={action:”login”,userId:e};try{webkit?webkit.messageHandlers.login.postMessage(t):Android&&Android.onPageLoaded(JSON.stringify(t))}catch(e){}}var o,n,r;void 0!==e?(o=document.querySelector(“#username”+e).value,n=document.querySelector(“#password”+e).value):(o=document.querySelector(“#username”).value,n=document.querySelector(“#password”).value);var a=document.querySelectorAll(“.statusmsg”);for(r=0;r‘+r.msg+”新闻来源:FT中文网