編者按：

2022年4月，中央網(wǎng)信辦牽頭開展“清朗·2022年算法綜合治理”專項(xiàng)行動。據(jù)悉，上述專項(xiàng)行動是為落實(shí)好《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，繼而深入排查整改互聯(lián)網(wǎng)企業(yè)平臺算法安全問題，并借此督促企業(yè)利用算法加大正能量傳播、處置違法和不良信息、整治算法濫用亂象。

什么是算法？如何正確認(rèn)識算法的作用和意義？又應(yīng)該如何治理算法？財(cái)經(jīng)E法采訪業(yè)內(nèi)權(quán)威專家，探討算法的意義，也對當(dāng)前算法存在的問題和治理理念、方向做出深入思考。

人們喜歡討論算法問題。這似乎不僅僅因?yàn)樗鼛淼男迈r感和科技感，更由于其對人類生活日益強(qiáng)大的滲透力。越來越多的人正在意識到，人們的生活已經(jīng)被算法所包圍。

在這一背景下，如何理解算法制度涉及的一些實(shí)際問題就變得十分重要。個(gè)人隱私和讓渡間看似“不可能”的困境，也是信息化時(shí)代人類與科技相處之道的邏輯演變。

算法推薦技術(shù)能帶來哪些社會福祉？這一技術(shù)一定要以侵害個(gè)人信息和隱私作為代價(jià)嗎？人們在擔(dān)憂什么？App是否會“監(jiān)聽”用戶?算法推薦可能對互聯(lián)網(wǎng)行業(yè)產(chǎn)生哪些影響？

帶著這些問題，財(cái)經(jīng)E法專訪了中國電子技術(shù)標(biāo)準(zhǔn)化研究院網(wǎng)絡(luò)安全研究中心測評實(shí)驗(yàn)室副主任何延哲。

01 算法是一把鋒利的“雙刃劍”

財(cái)經(jīng)E法：有人認(rèn)為，個(gè)性化算法會帶來“信息繭房”現(xiàn)象。也有人認(rèn)為，人的選擇性心理從來就存在， “信息繭房”現(xiàn)象及可能帶來的后果并不足慮，不能因此“因噎廢食”。你怎么看？

何延哲：正如人的欲望不能野蠻生長一樣，個(gè)性化服務(wù)也是如此。我們想一想，如果真的把個(gè)性化服務(wù)做到“飯來張口、衣來伸手”的地步，究竟好不好？我覺得，把一個(gè)人完全扔到這種所謂的“舒適”的狀態(tài)里，對他個(gè)人的發(fā)展成長是不利的——這種不利不僅僅針對未成年人，即使是成年人，也沒辦法完全克服自己各種各樣的欲望。

當(dāng)然，這并不是說互聯(lián)網(wǎng)要為每一個(gè)人負(fù)責(zé)——這太難了，也辦不到。我們真正需要做的，是賦予每個(gè)人更好管理自己自制力的一種能力，也就是個(gè)性化選擇的取舍問題。

任何一個(gè)問題發(fā)展到極致時(shí)，或者當(dāng)他高速發(fā)展時(shí)，都要警惕：人臉識別廣泛鋪開時(shí)，我們要擔(dān)心個(gè)人隱私；直播帶貨突飛猛進(jìn)時(shí)，我們要擔(dān)心商品質(zhì)量。所有的事情都是一樣的。所以我覺得，這不是“因噎廢食”的問題，大家對這個(gè)問題的擔(dān)心是完全可以理解的。

但另一方面，考慮這個(gè)問題絕對不能一刀切，讓算法和算法技術(shù)停滯下來。應(yīng)該充分認(rèn)識到算法在增加人類福祉，促進(jìn)人類社會發(fā)展中的正向作用，要考慮全面發(fā)展、富有人文關(guān)懷的個(gè)性化，替代為了極致滿足個(gè)人欲望的個(gè)性化。

財(cái)經(jīng)E法：在你看來，算法推薦技術(shù)可能帶來的社會福祉有哪些？

何延哲：首先，從個(gè)人方面看，福祉是很明顯的——一個(gè)是方便，一個(gè)是省錢。算法推薦能夠找準(zhǔn)你的需求，讓你花更少的錢和時(shí)間辦更多的事兒，這兩點(diǎn)就足夠有吸引力了。

其次是平臺方面。算法推薦可以顯著降低平臺獲客成本，也就是平臺與消費(fèi)者間溝通的成本。尤其是對一些中小企業(yè)而言，以前要通過大數(shù)據(jù)或廣告營銷渠道找到適合的客戶，對他們來說是一件高成本、低效率的事兒。這也直接導(dǎo)致這類企業(yè)很難做大。有了個(gè)性化推送以后，他們就可以借助大數(shù)據(jù)分析技術(shù)，把自身商品信息送達(dá)至部分可能有潛在需求的客戶。這中間數(shù)據(jù)切切實(shí)實(shí)地發(fā)揮了作用，體現(xiàn)了價(jià)值。

當(dāng)然，精準(zhǔn)的推薦可能會對個(gè)人產(chǎn)生打擾，同時(shí)也帶來了對個(gè)人隱私侵害的擔(dān)憂，但話又說回來，如果不使用這種技術(shù)，廣大的企業(yè)，尤其是中小型企業(yè)、商家沒有足夠的預(yù)算進(jìn)行大規(guī)模廣告投放，那么就只能回歸到撥打電話、發(fā)小廣告、無差別彈窗等更為低效的手段，這個(gè)打擾恐怕更甚。也許，從這個(gè)角度看，算法推薦反而是減少對個(gè)人的打擾。

必須承認(rèn)，尤其對中小企業(yè)而言，算法推薦還是很有效率、性價(jià)比很高的一種普惠措施。

此外，算法決策還催生了諸如自動合成、自動派單、自動計(jì)費(fèi)等新的業(yè)務(wù)模式?？梢哉f，凡是互聯(lián)網(wǎng)公司，或者說在依托網(wǎng)絡(luò)開展業(yè)務(wù)的公司，幾乎都涉及到算法決策。如果從整個(gè)社會發(fā)展角度看，大家可以假設(shè)有一天沒有了算法，我們的生活會有什么樣的變化？如果沒有算法上的創(chuàng)新，我們還能在應(yīng)用層面創(chuàng)新什么？

反過來思考，或許是另外一個(gè)理解算法的意義和價(jià)值的方式。我們之所以還處在數(shù)字時(shí)代，是因?yàn)?strong>算法能夠讓我們掌握更多的數(shù)據(jù)，能夠讓數(shù)據(jù)產(chǎn)生價(jià)值，算法絕對算得上是數(shù)字時(shí)代的基礎(chǔ)設(shè)施。

從更大意義上說，沒有了算法，人類社會將止步不前，失去了對數(shù)據(jù)的計(jì)算力，人工智能時(shí)代無法到來。

02 算法透明化，要探尋一個(gè)可解釋的標(biāo)準(zhǔn)

財(cái)經(jīng)E法：您此前在接受采訪時(shí)曾表示，數(shù)據(jù)本身沒有價(jià)值傾向。治理“大數(shù)據(jù)殺熟”現(xiàn)象，不是要“殺死”大數(shù)據(jù)，而是要把數(shù)據(jù)和算法用在正確的地方。你所說的，“正確的地方”具體指什么？

何延哲：定義“正確”其實(shí)很難。這里我覺得，第一，要有守法的底線思維，這個(gè)自然不用多講，只不過法律法規(guī)的部分要求可能還不夠具體，還需要不斷跟進(jìn)學(xué)習(xí)，關(guān)注。

其次，就是企業(yè)應(yīng)該有著正確的價(jià)值導(dǎo)向，也可以稱之為“道德感”或者“科技倫理”。這個(gè)看似更虛，但其實(shí)所包含的精神內(nèi)核是清晰的，那就是“己所不欲勿施于人”的良知。所以，正不正確，用絕大部分人的價(jià)值觀去衡量也是一種方法。

法律法規(guī)雖然有一定滯后性，仍有相當(dāng)?shù)淖饔煤鸵饬x，對于遏制廣泛、嚴(yán)重的問題，保護(hù)相關(guān)方利益方面來看，是切實(shí)可行和有效的手段，是行業(yè)能夠存在和發(fā)展的根本性保障。

數(shù)據(jù)沒有價(jià)值傾向，但算法就不一定了，比如，當(dāng)算法被用作盈利時(shí)，要更加慎重地去衡量它帶來的負(fù)面作用——算法一定是有負(fù)面作用的，尤其是在商業(yè)運(yùn)營的時(shí)候，這種負(fù)面作用可能被放大。

財(cái)經(jīng)E法：算法推薦規(guī)則掌握在企業(yè)手中。不少人認(rèn)為，應(yīng)當(dāng)允許企業(yè)手握這樣的機(jī)密。你對算法策略披露有何看法或建議？披露應(yīng)該做到什么程度？

何延哲：現(xiàn)在關(guān)鍵的問題在于，規(guī)則披露出來了大家會看嗎？隱私政策都公開了、彈窗了，可是很少有人會細(xì)看，不管怎么說，隱私政策還能看懂一些，那么更為晦澀難懂的算法規(guī)則到底會有多少人看呢？

算法透明制度本身很正確，但是如何讓其發(fā)揮更好的作用，是個(gè)難題，關(guān)鍵原因就是信任的缺失。

我舉個(gè)例子，醫(yī)生給你開了一包保密配方的藥，說吃這個(gè)就能好，你說不放心，要求把保密配方公布出來。為什么沒人這樣要求？因?yàn)榇蠹覍π袠I(yè)認(rèn)可的保密配方是信賴的。但算法就沒這么走運(yùn)了——這是由于這么多年大家積累下來的對算法的不信任導(dǎo)致的。

當(dāng)然，這個(gè)例子可能不是那么恰當(dāng)，因?yàn)樗幙赡鼙仨毜贸?，算法推薦可以選擇不用，但有一點(diǎn)是相同的，配方也好，算法也罷，對于生產(chǎn)商或開發(fā)商來講，都是自己的核心競爭力。要把這個(gè)披露，自然是有所顧慮，也可能產(chǎn)生抵觸心態(tài)，也會有很多搪塞之詞。

因此，對于算法透明制度而言，最為緊迫的是需要一個(gè)可解釋的標(biāo)準(zhǔn)。那就是披露到什么程度，可以為用戶答疑解惑，也不妨礙保護(hù)核心技術(shù)。如果把爭論僅停留在“應(yīng)不應(yīng)該披露”上，恐怕只是推諉扯皮，沒有太大意義。

算法透明制度當(dāng)然是可行的。就比如一瓶飲料上，既披露了主要的配料，但沒有配方一樣?，F(xiàn)在要做的是，盡可能拿出細(xì)則標(biāo)準(zhǔn)、優(yōu)秀案例來做到更好的示范，以個(gè)性化推薦為例，最起碼，畫像的數(shù)據(jù)來源、跨平臺推送的邏輯可以說，個(gè)人信息保護(hù)影響評估可以做，對個(gè)人可能產(chǎn)生的影響和采取的安全措施可以講。

03 算法與隱私需要共存

財(cái)經(jīng)E法：隱私權(quán)與被遺忘權(quán)，是數(shù)據(jù)時(shí)代背景下備受關(guān)注的兩類個(gè)體權(quán)利。權(quán)利讓渡似乎成為一種沒有選擇的選擇——屬于自己的數(shù)據(jù)，保存權(quán)卻不在用戶，用戶本身也無法限制其使用范圍，這是數(shù)字時(shí)代對隱私權(quán)的一個(gè)巨大挑戰(zhàn)。

在你看來，用戶是否應(yīng)該擁有一種“隱身”能力，使自己的數(shù)據(jù)不被他人獲取或存儲，從而在根本上保護(hù)自己？

何延哲：對于用戶的這種想法，第一，法律上肯定支持；第二，個(gè)人通過各種努力可以做到，只是做到后太不方便了，讓人覺得App的什么功能也用不了，這就帶來心理上的抵觸。

既想通過互聯(lián)網(wǎng)帶來便利，又想不讓渡個(gè)人隱私，這是一個(gè)兩難問題，現(xiàn)行條件下很難解決。除非，我們能回到此前那個(gè)僅僅把網(wǎng)絡(luò)看做提高效率的工具，而非智慧生活一部分的年代。

在我看來，對個(gè)人隱私權(quán)的讓渡問題，應(yīng)該用發(fā)展的眼光去看。目前來看可能在觀念上難以接受，但一百年后再來看，也許會是另一種感受也說不定。

財(cái)經(jīng)E法：在算法推薦技術(shù)大行其道的今天，個(gè)人信息和隱私被侵犯是否是個(gè)必然結(jié)果，無法被繞開？

何延哲：大數(shù)據(jù)時(shí)代，要想個(gè)人信息完全不受影響，肯定不現(xiàn)實(shí)。我們現(xiàn)在努力的方向，一是如何讓影響降到最低，二是如何賦予個(gè)人更多的選擇權(quán)。

如果我們對個(gè)人信息的定義仍停留在其舊時(shí)代的原有定義上，那就很難從里面挖掘出新的價(jià)值。你的個(gè)人喜好，以前只能記錄在日記中，現(xiàn)在則可能演變成各種各樣的個(gè)性化推送，幫助你找到更多的朋友、商品——這就是大數(shù)據(jù)的作用，否則它將永遠(yuǎn)存在在日記里。

個(gè)性化算法和個(gè)人隱私事實(shí)上是可以并存的，而且在目前的發(fā)展形勢下，不得不并存。

當(dāng)然，我們希望這種并存，也就是所有的大數(shù)據(jù)使用都是個(gè)人主動選擇且可以接受的。這里我想強(qiáng)調(diào)的是，這里的個(gè)人選擇，一定是真正出于對事情全局了解之后的慎重選擇，而不是一時(shí)的情緒化表達(dá)。

財(cái)經(jīng)E法：互聯(lián)網(wǎng)的免費(fèi)模式其實(shí)離不開商業(yè)化的變現(xiàn)，廣告便是一種典型且成熟的場景，但用戶面對廣告、特別是個(gè)性化廣告卻往往有強(qiáng)烈的抵觸情緒，如何在商業(yè)變現(xiàn)和用戶體驗(yàn)之間取得平衡？

何延哲：用戶對個(gè)性化廣告存在偏見，有兩個(gè)原因。

一是個(gè)性化廣告做得還不夠“個(gè)性化”——真正個(gè)性化是能夠讓用戶完全舒適的。當(dāng)然，這是理想的狀態(tài)，現(xiàn)實(shí)中很難實(shí)現(xiàn)，畢竟，人的想法太多變了，算法很難完全覆蓋；

二是用戶缺少對算法的了解，造成一種對其機(jī)制不全面的認(rèn)知，總以為自己被偷聽就是一種。這其實(shí)不能怪用戶，關(guān)鍵在于互聯(lián)網(wǎng)廠商。一方面，它們在個(gè)性化和跨平臺機(jī)制上追求所謂的“極致”；另一方面，在規(guī)則透明性上、用戶培育上、知識科普上做的顯然不夠。當(dāng)然，現(xiàn)在它們也在反思。

04 成熟的算法需要兼顧個(gè)人權(quán)益和權(quán)利

財(cái)經(jīng)E法：我們在采訪中發(fā)現(xiàn)，很多用戶都對App心存疑慮，總認(rèn)為可能在監(jiān)控自己。App是否真的存在監(jiān)聽用戶的情況？如何界定App使用者合理隱私期待的邊界？

何延哲：其實(shí)這是個(gè)老生常談的問題，但我愿意再講一遍。

第一個(gè)問題，App利用麥克風(fēng)“監(jiān)聽”在技術(shù)層面是可以實(shí)現(xiàn)，比如我們曾經(jīng)在實(shí)驗(yàn)室測試環(huán)境中，利用測試App模擬出了鎖屏后也能持續(xù)錄音一段時(shí)間的情況。但這種做法成本高、效率低、法律風(fēng)險(xiǎn)大，此前了解到的一些檢測結(jié)果中，尚未發(fā)現(xiàn)有App這樣做。當(dāng)然我們也都知道，更為高效、成本低廉的方式就是大數(shù)據(jù)的關(guān)聯(lián)分析而非直接監(jiān)聽。

那么，什么是用戶合理的隱私期待？可以用一句話總結(jié)：當(dāng)平臺完全真誠地向用戶開放了查閱、復(fù)制、撤回同意、刪除、注銷賬號等權(quán)利，而沒有大量用戶去行使上述權(quán)利時(shí)，那便是用戶還愿意使用App所提供的服務(wù)，并達(dá)到了一定程度的隱私期待。

財(cái)經(jīng)E法：你認(rèn)為未來對于個(gè)性化推薦的政策方向是什么？

何延哲：現(xiàn)在這個(gè)階段，其實(shí)大家都在避免使用“鼓勵個(gè)性化推薦”這種表述。我更愿意用“鼓勵更好地應(yīng)用個(gè)性化”這種表述代替。

其實(shí)，個(gè)性化是繞不開的問題。因?yàn)閷τ诤芏嗳藖碚f，所謂的更好，就是人人都成VIP，只有個(gè)性化才能高效、低價(jià)的做到這點(diǎn)，這是大勢所趨。而現(xiàn)在的相關(guān)政策，事實(shí)上已經(jīng)在推動“更好地應(yīng)用個(gè)性化”——比如說，開放選擇權(quán)，也就是提供“關(guān)閉按鈕”，就是更尊重用戶的一種表現(xiàn)。

反過來說，要不是個(gè)人信息保護(hù)和算法管理相關(guān)法律法規(guī)等的推動，有助于隱私保護(hù)的前沿技術(shù)的出現(xiàn)及應(yīng)用恐怕沒那么快，這也就是為什么法律法規(guī)之所以重要的原因。

財(cái)經(jīng)E法：事實(shí)上，按照我們的實(shí)際體驗(yàn)，大部分互聯(lián)網(wǎng)企業(yè)目前都提供了關(guān)閉個(gè)性化推薦的選項(xiàng)，但關(guān)閉之后的用戶體驗(yàn)卻并不好?？雌饋恚珳?zhǔn)的推薦和不精準(zhǔn)的推薦都會遭到用戶的反感，怎么理解這種情況？

何延哲：我認(rèn)為，目前的現(xiàn)狀來看企業(yè)有不作為的成分，也有無奈的成分。

事實(shí)上是，對大多數(shù)內(nèi)容平臺而言，個(gè)性化版塊確實(shí)比非個(gè)性化受歡迎，即便是熱榜這種非個(gè)性化的資訊平臺，那也是有足夠的“爆點(diǎn)”和公眾參與度的大平臺才吸引人，小平臺也就是個(gè)轉(zhuǎn)載，用戶吐槽“刷起來沒勁”“還不如去網(wǎng)上刷劇看爽文”也就不足為奇了，也就導(dǎo)致很多企業(yè)不重視對非個(gè)性化版塊的投入了。

對電商類購物平臺而言，要是撇開個(gè)性化，采用榜單式的展示方式，可能不太好辦——展示賣的最多的？那首頁肯定基本全是九塊九包郵那種商品，不能滿足多樣化需求；什么都展示？那肯定就變成以前百貨商場那種，第一頁展示柴米油鹽，第二頁展示家庭日用品……這樣問題又來了：一家商場還可以這樣干，可是平臺上有上百萬個(gè)商家，展示哪個(gè)好呢？廣告費(fèi)出得最多的嗎？那廣大中小商家、掏不起廣告費(fèi)的如何生存？

咱們每個(gè)人都可以看看自己面前的手機(jī)屏幕。一般來說，也就五六英寸，最大不超過8英寸——手機(jī)屏太小了，可展示的東西太少了。如果平臺的效率提不起來，最后就會被頭部商家把資源全占光，讓所有其他人默默無聞，最終被迅速淘汰，這可能又加劇了壟斷。

可以問大家一個(gè)問題，如果真的關(guān)閉了個(gè)性化推薦，那手機(jī)屏幕到底應(yīng)該展示什么？如果說答案是展示我想看、想要的東西——什么是想要的東西？不還是個(gè)性化嗎？

總之，還是希望讓更好的、更尊重個(gè)人的個(gè)性化機(jī)制滿足絕大部分人的要求，而不是糾結(jié)“個(gè)性化展示什么，非個(gè)性化展示什么”這么一個(gè)可能無解的問題。現(xiàn)有的法律制度對算法推薦已經(jīng)有了規(guī)制，人們對算法推薦也有了警惕心，在這種社會共治的壓力下，算法推薦就更需要與時(shí)俱進(jìn)，以人為本，可以說前景值得期待，創(chuàng)新的空間也有待探索。

本文來自微信公眾號“財(cái)經(jīng)E法”（ID:CAIJINGELAW），作者：劉暢，36氪經(jīng)授權(quán)發(fā)布。（原標(biāo)題：《何延哲：好的算法推薦無需懼怕“關(guān)閉按鈕”》）