央廣網(wǎng)北京12月5日消息（記者馮爍）據(jù)中央廣播電視總臺(tái)中國(guó)之聲《新聞縱橫》報(bào)道，隨著智慧城市、智能設(shè)備越來(lái)越多地進(jìn)入到人們的生活中，人工智能在賦能千行百業(yè)的同時(shí)，也帶來(lái)了安全、隱私、公平等問(wèn)題和挑戰(zhàn)。諸如個(gè)人信息泄露問(wèn)題，低俗劣質(zhì)信息精準(zhǔn)推送、“大數(shù)據(jù)殺熟”等算法歧視亂象凸顯出來(lái)。

　　近期，各國(guó)監(jiān)管機(jī)構(gòu)也加大了對(duì)算法不公平的打擊力度。人工智能帶來(lái)了哪些新煩惱？面對(duì)這些煩惱人們真的束手無(wú)策嗎？

　　現(xiàn)如今人工智能已經(jīng)成為一股無(wú)可抵擋的潮流，甚至遍布于各個(gè)行業(yè)之中。然而當(dāng)人工智能越來(lái)越懂人類時(shí)，我們不禁要擔(dān)心：這些人工智能會(huì)不會(huì)哪一天就把我們給“賣了”？

　　以近些年很多小區(qū)安裝的人臉識(shí)別門(mén)禁為例，不少業(yè)主都表示擔(dān)心被采集的人臉信息泄露。

　　各類人臉識(shí)別系統(tǒng)、手機(jī)App等都在廣泛采集用戶人臉、聲紋等具有強(qiáng)個(gè)人屬性的生物特征信息及行為軌跡等數(shù)據(jù)，一旦泄露將威脅個(gè)人隱私。

　　數(shù)據(jù)安全是數(shù)字經(jīng)濟(jì)發(fā)展中最關(guān)鍵的安全挑戰(zhàn)之一，近些年國(guó)際社會(huì)上發(fā)生的數(shù)據(jù)泄露事件也并不少。今年8月，微軟服務(wù)器上約3800萬(wàn)條記錄（包括私人信息）被暴露。此次的數(shù)據(jù)泄露包括用戶的姓名、地址、財(cái)務(wù)信息和新冠肺炎疫苗接種狀態(tài)等，人員涉及美國(guó)航空公司、福特公司以及馬里蘭州衛(wèi)生部和紐約市公共交通系統(tǒng)等公共機(jī)構(gòu)。

　　從我國(guó)法律層面上看，今年11月，個(gè)人信息保護(hù)法正式實(shí)施，針對(duì)人臉識(shí)別等行為作出了明確規(guī)定。至此，連同已經(jīng)實(shí)施的數(shù)據(jù)安全法、網(wǎng)絡(luò)安全法，三者共同構(gòu)成了我國(guó)在網(wǎng)絡(luò)安全和數(shù)據(jù)保護(hù)方面的法律“三駕馬車”。

　　國(guó)家新一代人工智能治理專業(yè)委員會(huì)主任薛瀾表示，新一代人工智能以數(shù)據(jù)為基礎(chǔ)，所以首要挑戰(zhàn)就是怎么樣能夠有高質(zhì)量的數(shù)據(jù)集建設(shè)并對(duì)數(shù)據(jù)進(jìn)行有效管理。

　　在購(gòu)物網(wǎng)站上填個(gè)調(diào)查問(wèn)卷，甚至連問(wèn)卷都沒(méi)填，僅是瀏覽信息，就幾乎看不到一些選項(xiàng)范圍之外的商品廣告信息了；通過(guò)應(yīng)用程序（App）閱讀了一條養(yǎng)生信息，隨后便會(huì)經(jīng)常收到養(yǎng)生知識(shí)、養(yǎng)生產(chǎn)品的廣告推送……這都是“算法歧視”，很多人有切身感受。

　　當(dāng)前，人工智能技術(shù)的發(fā)展正處在關(guān)鍵十字路口。12月4日，2021人工智能合作與治理國(guó)際論壇在京開(kāi)幕，大咖云集。他們?nèi)绾慰创�這個(gè)問(wèn)題？人工智能又應(yīng)該怎樣去踐行“科技向善”呢？

　　今年年初，中國(guó)消費(fèi)者協(xié)會(huì)就消費(fèi)領(lǐng)域不合理的算法現(xiàn)象發(fā)聲，揭露出“大數(shù)據(jù)殺熟”的六種現(xiàn)象，其中就包括大家非常熟悉的“精準(zhǔn)推送”——這是指互聯(lián)網(wǎng)平臺(tái)通過(guò)監(jiān)測(cè)分析消費(fèi)者的消費(fèi)行蹤軌跡，如瀏覽過(guò)的頁(yè)面、廣告、商品服務(wù)、話題等，有針對(duì)性地對(duì)消費(fèi)者進(jìn)行商業(yè)營(yíng)銷。

　　一位來(lái)自南京的消費(fèi)者告訴記者：“比如，我5分鐘之前跟朋友聊到電動(dòng)牙刷，5分鐘后我打開(kāi)某些電商平臺(tái)，它就會(huì)給我推送這種商品，而這種商品是我之前沒(méi)有搜索過(guò)的�！�

　　的確，隨著人工智能技術(shù)的發(fā)展，更精準(zhǔn)地讀懂大家想要什么在一些場(chǎng)合下變得非常方便，但是一旦這種對(duì)信息的收集越了界，將給大家?guī)��?lái)無(wú)盡的困擾。

　　目前我國(guó)已經(jīng)陸續(xù)出臺(tái)了一系列政策，為“大數(shù)據(jù)殺熟”戴上緊箍咒。11月18日，上海率先在電子商務(wù)領(lǐng)域出臺(tái)地方性指引，制定發(fā)布《上海市網(wǎng)絡(luò)交易平臺(tái)網(wǎng)絡(luò)營(yíng)銷活動(dòng)算法應(yīng)用指引（試行）》，明確平臺(tái)經(jīng)營(yíng)者不得利用算法實(shí)施不正當(dāng)價(jià)格行為，不得利用算法對(duì)消費(fèi)者實(shí)施不合理的差別待遇。

　　今年8月，國(guó)家網(wǎng)信辦已經(jīng)出臺(tái)了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見(jiàn)稿）》，要求算法推薦服務(wù)提供者應(yīng)當(dāng)定期審核、評(píng)估、驗(yàn)證算法機(jī)制機(jī)理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等，不得設(shè)置誘導(dǎo)用戶沉迷或者高額消費(fèi)等違背公序良俗的算法模型。

　　不少專家都表示，發(fā)展人工智能，必須堅(jiān)持技術(shù)永遠(yuǎn)服務(wù)人的原則，而不是利用技術(shù)來(lái)窺探人、傷害人。

　　對(duì)此，清華大學(xué)智能社會(huì)治理研究院院長(zhǎng)蘇竣指出：“算法以前所未有的速度和無(wú)與倫比的精度處理數(shù)據(jù)，讓占據(jù)了用戶數(shù)據(jù)和高級(jí)算法優(yōu)勢(shì)的個(gè)體或組織，因此獲取了極大的權(quán)力，形成壟斷性的超級(jí)平臺(tái)，對(duì)市場(chǎng)活動(dòng)中的勞動(dòng)者權(quán)益和消費(fèi)者的福利造成了無(wú)邊界的蠶食。當(dāng)今社會(huì)，每個(gè)人其實(shí)都被困在各式各樣的算法里。”

　　眾所周知，人工智能是在特定模型下自我學(xué)習(xí)形成算法的，訓(xùn)練模型所依據(jù)的數(shù)據(jù)集和模型本身的設(shè)計(jì)都有可能帶來(lái)偏差。而這就會(huì)帶來(lái)歧視問(wèn)題。

　　美國(guó)卡內(nèi)基梅隆大學(xué)學(xué)者就曾經(jīng)用釣魚(yú)軟件模擬普通用戶瀏覽求職網(wǎng)站的實(shí)驗(yàn)，然后統(tǒng)計(jì)谷歌推送“年薪20萬(wàn)美元以上的職位”的廣告數(shù)據(jù)，結(jié)果男性收到1852次推送，女性收到318次。結(jié)果很明顯，平臺(tái)可以通過(guò)后臺(tái)進(jìn)行關(guān)鍵詞設(shè)置，可以“操作”每類人群收到的信息頻率。

　　一位來(lái)自美國(guó)的黑人女士喬伊也曾公開(kāi)表示，在實(shí)習(xí)中她遭遇了這樣一種情況——由于自己是黑人臉龐，所以人臉識(shí)別攝像頭無(wú)法識(shí)別她的面容。

　　對(duì)此，清華大學(xué)人工智能國(guó)際治理研究院學(xué)術(shù)委員龔克表示，人工智能很可能會(huì)導(dǎo)致廣泛的歧視和不公問(wèn)題，這種算法偏見(jiàn)亟待糾偏。

　　“我們現(xiàn)在使用人工智能的時(shí)候，是靠數(shù)據(jù)來(lái)訓(xùn)練模型，而我們從社會(huì)中采集的數(shù)據(jù)帶有了現(xiàn)實(shí)社會(huì)的很多偏見(jiàn)。如果我們沒(méi)有適當(dāng)?shù)募夹g(shù)對(duì)我們的算法進(jìn)行偏見(jiàn)的檢測(cè)、去除，公平無(wú)歧視的原則就會(huì)變得沒(méi)有辦法落地�！饼徔苏f(shuō)。