人工智能何時(shí)會(huì)完全影響搜索算法？
人工智能是個(gè)黑盒子
以一種不太嚴(yán)格但容易理解的方式說(shuō)，深入學(xué)習(xí)是對(duì)現(xiàn)有數(shù)據(jù)(大量數(shù)據(jù))進(jìn)行標(biāo)記，然后系統(tǒng)總結(jié)數(shù)據(jù)和結(jié)果之間的關(guān)系(即標(biāo)記的數(shù)據(jù))，當(dāng)面對(duì)新數(shù)據(jù)時(shí)，它可以根據(jù)自己總結(jié)的規(guī)則給出判斷。對(duì)于圍棋來(lái)說(shuō)，無(wú)論是歷史游戲還是自我游戲，AlphaGo都知道棋盤(pán)和結(jié)果(也是一種標(biāo)簽)。當(dāng)面對(duì)新的棋盤(pán)面時(shí)，系統(tǒng)將總結(jié)規(guī)則并判斷贏得游戲的概率。然而，人工智能系統(tǒng)發(fā)現(xiàn)數(shù)據(jù)的哪些特征和結(jié)果之間的關(guān)系甚至對(duì)創(chuàng)建人工智能的工程師來(lái)說(shuō)都是未知的。因此，目前的人工智能系統(tǒng)是一個(gè)黑匣子。我們知道人工智能的判斷有很高的準(zhǔn)確率，但是我們不知道為什么或者怎么做。
人工智能在搜索算法上也是如此。百度搜索工程師的聲明很少見(jiàn)到，現(xiàn)在只知道百度全在人工智能。谷歌工程師已經(jīng)明確表示，他們不確定RankBrain到底是如何工作的。在這種情況下，在算法中廣泛使用人工智能會(huì)更加麻煩。一旦出現(xiàn)異常結(jié)果，不知道原因是什么就不可能調(diào)試。
我寫(xiě)這篇文章是因?yàn)榍皫滋煳以诩~約時(shí)報(bào)上看到一篇文章，“人工智能能學(xué)會(huì)解釋自己?jiǎn)?？”非常有趣。心理學(xué)家Michal Kosinski將20萬(wàn)個(gè)社交網(wǎng)絡(luò)賬戶(一個(gè)約會(huì)網(wǎng)站)的照片和個(gè)人信息(包括許多內(nèi)容，如性取向)輸入到面部識(shí)別人工智能系統(tǒng)中，發(fā)現(xiàn)人工智能僅在看到照片時(shí)判斷性取向的準(zhǔn)確性很高。通過(guò)照片人工判斷一個(gè)人是不是同性戀的準(zhǔn)確率為60%，比擲硬幣的準(zhǔn)確率高，但人工智能判斷一個(gè)人是不是同性戀的準(zhǔn)確率高達(dá)91%，比判斷一個(gè)女人的準(zhǔn)確率83%低。
從照片上看，沒(méi)有諸如聲調(diào)、語(yǔ)調(diào)、姿勢(shì)、日常行為、人際關(guān)系等信息來(lái)幫助判斷。同性戀者有純粹的面部特征嗎？我個(gè)人的經(jīng)驗(yàn)是，以貌取人是不可靠的。我以前認(rèn)識(shí)幾個(gè)同性戀。他們都很有男子氣概。他們一年到頭都保持健康，禮貌待人，但沒(méi)有女性氣質(zhì)。從外表看不到它們。它還能取決于一些服裝特征嗎？表情？背景？人工智能從照片中看到了哪些我們?nèi)祟?lèi)可能會(huì)忽略的特征，或者是人類(lèi)根本看不到的特征，準(zhǔn)確率為91%。我不知道，但我只知道人工智能看起來(lái)很精確。
不能解釋自己的AI無(wú)法被信任
，一個(gè)黑盒特征，有時(shí)是不相關(guān)的，比如判斷性取向。有時(shí)候你不能這么匆忙，比如去看醫(yī)生。盡管人工智能系統(tǒng)診斷某些癌癥的準(zhǔn)確率已經(jīng)達(dá)到人類(lèi)醫(yī)生的水平，但最終的結(jié)論是醫(yī)生仍然需要這樣做，特別是當(dāng)人工智能不能告訴我們其診斷的原因時(shí)。除非人工智能能解釋它為什么在未來(lái)做出這種診斷，否則對(duì)人工智能100%的信心有一個(gè)很大的心理障礙。就在幾天前，新加坡政府開(kāi)始測(cè)試無(wú)人駕駛公交車(chē)。這顯然是一個(gè)正確的方向，我相信這將在不久的將來(lái)成為現(xiàn)實(shí)。雖然自駕汽車(chē)的事故率比人的事故率低，但我們都知道它實(shí)際上是比較安全的，但過(guò)馬路時(shí)，停在附近的公共汽車(chē)沒(méi)有司機(jī)，我會(huì)不會(huì)有點(diǎn)擔(dān)心，怕它突然啟動(dòng)？開(kāi)車(chē)的時(shí)候，我轉(zhuǎn)過(guò)頭，發(fā)現(xiàn)公共汽車(chē)上沒(méi)有司機(jī)在我旁邊。我會(huì)被嚇一跳，下意識(shí)地遠(yuǎn)離它嗎？至少最初是這樣。和幾個(gè)朋友談?wù)撨@件事既理性又感性。
以前的程序是基于確定性和因果關(guān)系運(yùn)行的，比如搜索算法中的哪些頁(yè)面特征是排名因素，以及每個(gè)特征有多少權(quán)重。這是由工程師選擇和決定的。雖然可以通過(guò)敲打頭部來(lái)決定選擇，但是在監(jiān)測(cè)效果和調(diào)整參數(shù)之后，將會(huì)達(dá)到令人滿意的平衡。人工智能系統(tǒng)并不依賴(lài)于工程師對(duì)因果關(guān)系的判斷，而是更善于發(fā)現(xiàn)概率和相關(guān)性之間的聯(lián)系。對(duì)人們來(lái)說(shuō)，以概率和相關(guān)性為特征的判斷通常很難解釋?zhuān)?，它們看起?lái)是否好，取決于情緒。
要求人工智能系統(tǒng)解釋它的判斷不僅是一個(gè)心理問(wèn)題，而且以后可能成為一個(gè)道德和法律問(wèn)題，就像看醫(yī)生一樣。另一個(gè)例子涉及到用戶的利益，如貸款，人工智能根據(jù)大量數(shù)據(jù)做出拒絕貸款的決定，但銀行不能解釋為什么拒絕，如何為用戶解釋?zhuān)拷衲辏瑲W盟可能會(huì)頒布法規(guī)，要求機(jī)器做出的決定必須得到解釋。這對(duì)谷歌和Facebook等全球企業(yè)來(lái)說(shuō)是一種壓力。在許多領(lǐng)域，比如軍事、法律和金融，所有的決策都需要有人來(lái)承擔(dān)責(zé)任。如果一個(gè)決定不能說(shuō)明原因，恐怕沒(méi)有人敢承擔(dān)責(zé)任。
人工智能需要解釋的另一個(gè)原因是，如前所述，人工智能著眼于概率和相關(guān)性，但著眼于相關(guān)性做出決策有時(shí)會(huì)導(dǎo)致嚴(yán)重的錯(cuò)誤?！都~約時(shí)報(bào)》的文章舉了一個(gè)例子。由數(shù)據(jù)訓(xùn)練的人工智能系統(tǒng)輔助醫(yī)院急診室分診，整體效果良好，但研究者仍不敢真正應(yīng)用，因?yàn)閿?shù)據(jù)中的相關(guān)性可能會(huì)誤導(dǎo)人工智能做出錯(cuò)誤的判斷。例如，數(shù)據(jù)顯示患有肺炎的哮喘患者的最終恢復(fù)情況好于平均水平，并且這種相關(guān)性是真實(shí)的。如果人工智能系統(tǒng)根據(jù)這些數(shù)據(jù)對(duì)患有肺炎的哮喘患者給予較低的治療水平，那么可能會(huì)發(fā)生事故。這些病人最終健康狀況良好的原因是，他們得到了最高的評(píng)分，并在到達(dá)時(shí)得到了最好和最快的治療。因此，有時(shí)真正的原因不能從相關(guān)性中看出。
可解釋人工智能是一個(gè)新興的領(lǐng)域，其目的是讓人工智能解釋自己的判斷、決策和過(guò)程。去年，國(guó)防高級(jí)研究計(jì)劃局(Darpa)啟動(dòng)了由大衛(wèi)葛寧博士領(lǐng)導(dǎo)的XAI計(jì)劃。谷歌仍然是這個(gè)領(lǐng)域的領(lǐng)導(dǎo)者，而深度夢(mèng)似乎是這項(xiàng)研究的副產(chǎn)品：
回到搜索算法和搜索引擎優(yōu)化，搜索引擎仍然不能完全應(yīng)用人工智能的原因之一可能是人工智能的判斷沒(méi)有被解釋或理解。如果該算法使用當(dāng)前的人工智能，一旦排名異常，工程師將無(wú)法知道原因是什么以及如何調(diào)整。
我認(rèn)為自動(dòng)駕駛儀是人工智能付諸實(shí)踐的第一個(gè)領(lǐng)域之一，它與它是否能被解釋有關(guān)。大多數(shù)自動(dòng)駕駛汽車(chē)的決策不需要解釋太多，或者解釋一目了然。它離前車(chē)太近了，不能減速或剎車(chē)。這種判斷不需要進(jìn)一步解釋。
搜索引擎優(yōu)化的人可能也有同樣的疑慮，競(jìng)爭(zhēng)對(duì)手的頁(yè)面看起來(lái)沒(méi)什么特別的，內(nèi)容不太好，視覺(jué)設(shè)計(jì)一般，外鏈常見(jiàn)，頁(yè)面優(yōu)化每個(gè)人都一樣，為什么排名那么好？現(xiàn)在搜索算法也可以探究原因，搜索工程師可能有內(nèi)部工具來(lái)查看排名的合理性。如果搜索工程師看到一個(gè)非常糟糕的頁(yè)面，而且它在最前面，但他們不知道原因，也找不到答案，他們的內(nèi)心可能會(huì)很焦慮。
XAI的研究剛剛開(kāi)始，這給了搜索引擎優(yōu)化研究者最后的緩沖期。從人工智能系統(tǒng)在其他領(lǐng)域粉碎人類(lèi)的表現(xiàn)來(lái)看，一旦將其應(yīng)用于大規(guī)模搜索，作弊和黑帽搜索引擎優(yōu)化很可能會(huì)成為過(guò)去。當(dāng)前常規(guī)的搜索引擎優(yōu)化工作可能變得微不足道。SEOs需要回歸網(wǎng)站的本質(zhì)：沒(méi)有其他方法可以提供有用的信息或產(chǎn)品。
