從“黑盒”到“手機(jī)爹”，一段人類馴服算法簡史

遠(yuǎn)川研究所·2025-04-30

技術(shù)進(jìn)步的意義，是讓人以相對小的代價(jià)，獲得盡量多的資源。

編者按：本文來自微信公眾號遠(yuǎn)川研究所（ID：YuanChuanInstitution），作者：任彤瑤，編輯：黎錚，創(chuàng)業(yè)邦經(jīng)授權(quán)轉(zhuǎn)載。

技術(shù)進(jìn)步日新月異，但人類的整活能力總在領(lǐng)先一步。

2025年至今簡中互聯(lián)網(wǎng)最火的流行語，一是“國運(yùn)論”，這篇透過deepseek看未來的雄文，后來被證實(shí)是AI生成的內(nèi)容；

二是“手機(jī)爹又把我干哪來了”，表達(dá)一種下滑刷到陌生內(nèi)容的詫異感，延伸出來還有大量表情包，甚至短視頻濾鏡。

每一條火爆全網(wǎng)的內(nèi)容下，都有一群仿佛走錯房間的網(wǎng)友，拘謹(jǐn)又囂張地帶著“手機(jī)爹”的迷茫表情包，光速加入互動：上一秒還在看中科院院士講解黑洞合并，下一秒就被甲亢哥帶著欣賞廣場舞；剛看了兩集《450分鐘深度解讀紅樓夢》，轉(zhuǎn)頭就迷失在修驢蹄子的白噪音中。

硅基大腦能俯仰古今暢聊國運(yùn)，但將“手機(jī)”和“爹”排列組合到一起，是只有碳基大腦能整出的絕活。這背后，是技術(shù)與人的關(guān)系正在悄然改變。

當(dāng)快速更迭的推薦算法，向我們展現(xiàn)出一個更多面的世界，大部分人都愿意放下刻板成見，借助代碼踏進(jìn)未曾想象過的廣闊天地。

最小代價(jià)，最多資源

2007年，亞馬遜的Kindle Store上線，提供超過9萬本電子書。大量暢銷書被定價(jià)在9.99美元，引發(fā)了出版行業(yè)巨震。

貝索斯在后來給股東的信中寫道：“我們的愿景是，讓世界上每一本書，無論語言如何，都能在60秒內(nèi)獲取[1]?！?/p>

這位前世界首富的出發(fā)點(diǎn)顯然沒那么簡單。對電商平臺來說，圖書是不可多得的標(biāo)品品類，電子書更完美解決了唯一不足的庫存負(fù)擔(dān)。

但在商業(yè)回報(bào)之外，電子書的確重塑了人們的閱讀方式，將出版行業(yè)推入去中心化與全球化的新階段——在印刷術(shù)普及之前，書本是奢侈的，因此知識是貴族的特權(quán)。而電子書時代，讀者們坐在沙發(fā)上動動手指，就能擁有一整個圖書館。

從前只有少部分精英所享有的資源、能力和服務(wù)，通過技術(shù)革新進(jìn)入普通人的生活。這正是所有技術(shù)進(jìn)步的特征：它能讓一個人或整個社會，以相對小的代價(jià)，獲得盡量多的所需品。從書籍到電燈、汽車和遠(yuǎn)程診療皆如此。

在互聯(lián)網(wǎng)時代，算法的出現(xiàn)也是一種技術(shù)進(jìn)步。

據(jù)IDC報(bào)告，全球每年產(chǎn)生的數(shù)據(jù)在2025年會增長到175ZB?，F(xiàn)代人每天接收到的信息量是1986年的5倍，相當(dāng)于175份報(bào)紙[2]。

供給極大豐富，知識從未如此唾手可得。九十年代北大保安張俊成能考入北大，是因?yàn)橛薪淌诮o了他兩張聽課證?，F(xiàn)在教授學(xué)者們有自己的內(nèi)容賬號，向公眾講解《紅樓夢》、解答高數(shù)題；不管是務(wù)農(nóng)、送外賣還是羽毛球技巧，數(shù)不清的專業(yè)人士愿意分享經(jīng)驗(yàn)。

但篩選信息、匹配需求的技能，最初卻只有少部分精英掌握。

早期新浪網(wǎng)的首頁編輯部，每天要手動編排上千條新聞標(biāo)題和鏈接，總編陳彤一度被稱為“中國互聯(lián)網(wǎng)新聞把關(guān)人”；搜狐當(dāng)年的“內(nèi)容金字塔”模式中，僅有約5%的內(nèi)容能進(jìn)入首頁流量池。

中心化篩選導(dǎo)致大量長尾、冷門信息被忽視。任何一個人都能通過神奇的互聯(lián)網(wǎng)，從零開始學(xué)會一門編程語言、一種樂器，甚至精通母豬產(chǎn)后護(hù)理。但在浩如煙海的信息里篩選出適合自己的教程、發(fā)現(xiàn)一個自己都不知道的愛好，并不容易。

這是推薦算法出現(xiàn)的契機(jī)，也是從今日頭條、抖音到快手等算法類產(chǎn)品迅速建立用戶規(guī)模的原因。

算法的學(xué)術(shù)定義是“以數(shù)學(xué)方式或者計(jì)算機(jī)代碼表達(dá)的意見”，本質(zhì)上是一種處理信息的新生產(chǎn)力工具。推薦算法的目的是提升供需匹配效率，讓用戶以最短路徑獲得有效內(nèi)容，甚至是潛在感興趣的陌生話題。

抖音的推薦算法已經(jīng)屢次為圖書推廣與銷售帶來新機(jī)會。

新東方老師董宇輝多次推薦遲子建的茅盾文學(xué)獎獲獎作品《額爾古納河右岸》，在抖音直播間做過長達(dá)17分鐘的即興書評分享，甚至要把這本書“刻在墓碑上”。

在抖音懂文學(xué)的不止董宇輝一人。大量文學(xué)愛好者直播、短視頻切片助推下，觀眾們被帶入遲子建的世界，流連在大興安嶺與鄂溫克族聚居地，帶動《額爾古納河右岸》一書銷量從60萬冊躍升到500萬冊，4個月超過了過去17年銷量的總和。

如今人民文學(xué)出版社等抖音官方賬號粉絲數(shù)均超過百萬。他們每個工作日進(jìn)行超過三小時的直播，向讀者介紹世界各地作家與好書。

在隔壁，中科院的科普直播、《博物》雜志的觀鳥指南下，聚集了大量野生物理/生物愛好者。

從前，黑洞合并過程、魏晉文人軼事等知識，只在少數(shù)頂級學(xué)者間傳遞。如今，在算法助推下，它們與普通人只隔了一個下滑屏幕的距離。

在這個意義上，推薦算法沒有造就“信息繭房”，相反打開了無數(shù)通道，幫上億人收獲新的愛好體驗(yàn)。

技術(shù)的問題，是人的問題

技術(shù)哲學(xué)代表人物L(fēng)ewis Mumford，在三十年代大蕭條期間寫過一本流傳甚廣的書《技術(shù)與文明》，其中有一個重要觀點(diǎn)：

技術(shù)進(jìn)步往往會暴露社會在文化認(rèn)同上的深層次沖突。

上世紀(jì)是顯像管技術(shù)的黃金時代。從“宣揚(yáng)暴力”的超級英雄劇集，到“行為不端”的《海綿寶寶》、“過于挑釁”的《南方公園》，痛心疾首的家長和專家們一次次走上街頭抗議，給電視帶了一頂又一頂“大毒草”的帽子。

八十年代波士頓大學(xué)校長甚至斷定，電視會讓美國成為一個“白癡國家”。

美國家長電視委員會（Parents Television Council）早期宣言

如今回看，這些爭議并不是電視技術(shù)帶來的，美國本身就有太多未成年保護(hù)、種族以及暴力的問題，電視只是以更加直觀的方式，將這些懸而未決的社會爭議帶到公眾面前。

工業(yè)革命后，濫用童工、男女同酬的問題逐步出現(xiàn)，背后是傳統(tǒng)社會對兒童與女性權(quán)益長期忽視；智能機(jī)普及后，對老年人跟不上科技變化的擔(dān)憂增多，背后是適老化改造與老年福利保障的結(jié)構(gòu)性問題。

大部分時候，技術(shù)都只是一種中性手段，所謂的技術(shù)問題，其實(shí)是存在已久的社會結(jié)構(gòu)問題，在算法時代也是如此。

2016年，美國發(fā)生過一起著名的Loomis訴維斯康星案。被告Eric Loomis因涉及槍擊事件被判刑，刑事司法風(fēng)險(xiǎn)評估算法COMPAS判斷Loomis存在“高風(fēng)險(xiǎn)”，法院因此拒絕給予緩刑[3]。

不滿結(jié)果的Loomis提出上訴。隨后有調(diào)查機(jī)構(gòu)發(fā)現(xiàn)，COMPAS的算法存在明顯偏見，比如黑人更可能被認(rèn)為有高風(fēng)險(xiǎn)。

COMPAS算法會按“潛在風(fēng)險(xiǎn)”等級為嫌犯打分。來源：Medium

這是因?yàn)樗惴ㄒ姥倪^往判例資料里，底層的傳統(tǒng)法官的確具有判案偏好。算法的“缺陷”，源于美國社會根深蒂固的歧視現(xiàn)象。

基于現(xiàn)實(shí)的數(shù)據(jù)標(biāo)簽構(gòu)成了推薦算法的肌理，縱觀互聯(lián)網(wǎng)的網(wǎng)紅史，就是一部中國社會的心態(tài)史。

研究網(wǎng)紅文化的學(xué)者董晨宇發(fā)現(xiàn)，從中國第一代網(wǎng)紅安妮寶貝、芙蓉姐姐，到后來的羅翔、郭有才和理發(fā)師曉華，中國網(wǎng)民的情緒經(jīng)歷了巨大的變遷。

不是神秘的算法黑盒“點(diǎn)石成金”，砸中了小楊哥和李佳琦們，而是用戶用腳投票選出了熱門內(nèi)容，算法才得以把那些與時代情緒共振的個體推到了臺前。

同時，一個不能忽視的事實(shí)是，網(wǎng)紅賬號的背后往往有MCN的身影。一個成熟的內(nèi)容機(jī)構(gòu)，能把爆款視頻拆解為內(nèi)容腳本、視頻剪輯、推流和社交互動等標(biāo)準(zhǔn)模塊，代入各種細(xì)分品類公式，持續(xù)產(chǎn)出高曝光率的內(nèi)容。

羅永浩直播還完債離開，“交個朋友”依然帶著一批明星活躍在抖音一線；小楊哥不播了，“三只羊”旗下還有無數(shù)徒弟，循著他的風(fēng)格做搞笑測評。

如今我們看見的熱門頭條和網(wǎng)絡(luò)紅人，不是算法技術(shù)的一言堂，而是翻涌的社會情緒、內(nèi)容的工業(yè)生產(chǎn)等諸多復(fù)雜因素共同作用的結(jié)果。

既然技術(shù)的問題，歸根結(jié)底都是人類自身的問題，那么人類社會應(yīng)該如何與算法、與日新月異的技術(shù)共處？

沒有洪水猛獸

工業(yè)革命時期，人類文明的詞典上才有了“安全事故”這個常用詞。

英國曼徹斯特的紡織廠曾因鍋爐故障，炸毀整個廠房。當(dāng)時的工廠大量采用蒸汽機(jī)，但鍋爐設(shè)計(jì)粗糙，經(jīng)常超壓爆炸。危險(xiǎn)并沒有讓人類回退到男耕女織的農(nóng)業(yè)時代，反而是工廠生產(chǎn)安全不斷規(guī)范。

從蒸汽機(jī)到靶向藥，任何新技術(shù)都會帶來新風(fēng)險(xiǎn)。

歷史早已表明，開弓沒有回頭箭。從來不是有了新的危險(xiǎn)之后，就退回到原來的狀態(tài)。人類能做的是找辦法降低風(fēng)險(xiǎn)、讓技術(shù)發(fā)揮更大效用。

19世紀(jì)電線絕緣技術(shù)不完善，電燈走火成為災(zāi)難源頭。但在電路安全不斷完善的今天，點(diǎn)亮一盞燈早已不是危險(xiǎn)的夢魘；自動駕駛的早期版本因算法缺陷導(dǎo)致多起事故，引入多傳感器融合和強(qiáng)化學(xué)習(xí)訓(xùn)練后，自駕事故率已低于人類司機(jī)30%。

歸根結(jié)底，新技術(shù)的發(fā)展不是一步到位的，歷史已經(jīng)用無數(shù)案例表明，保持動態(tài)的眼光、足夠的耐心非常重要。

語言大模型的演進(jìn)過程，就是技術(shù)進(jìn)步需要時間的代表案例。

在GPT-2時代，基本全靠人類直接標(biāo)注數(shù)據(jù)、修正輸出，很難對語言大模型進(jìn)行有效全面的監(jiān)管。后來GPT-3引入了獎勵機(jī)制，輔助監(jiān)督大模型的小模型開始出現(xiàn)。

如今隨著多級監(jiān)督理論不斷進(jìn)化，DeepMind為代表的遞歸獎勵建模（RRM）已經(jīng)能用簡單模型不斷逼近人類復(fù)雜反饋，實(shí)現(xiàn)分層監(jiān)督。通過控制小模型，大模型有機(jī)會始終處于可管控的范圍內(nèi)。

Scalable agent alignment via reward modeling | by DeepMind Safety Research | Medium

簡單的獎勵建模示意圖

對新技術(shù)的監(jiān)管和政策兜底，也一定會經(jīng)歷動態(tài)調(diào)整。

在政府層面，歐盟在2021年提出了全球首個綜合性的人工智能監(jiān)管框架，中美日韓等國，也陸續(xù)出臺了人工智能倫理治理規(guī)范、AI政策框架草案。

在平臺層面，最開始運(yùn)用算法的內(nèi)容推薦平臺已經(jīng)行動起來，抖音逐漸形成了多樣化的推薦機(jī)制與隱私保護(hù)制度。

2025年3月抖音安全與信任中心網(wǎng)站上線試運(yùn)行，面向社會公開抖音算法原理、社區(qū)規(guī)范、治理體系和用戶服務(wù)機(jī)制。詳細(xì)說明了抖音推薦算法的雙塔召回模型（Two-Tower Retrieval Model），以及“推薦優(yōu)先級公式”等細(xì)節(jié)。

抖音不斷迭代，建立了一個復(fù)雜的多目標(biāo)體系。

比如將收藏率納入多目標(biāo)，幫助知識類內(nèi)容推送給有需求的用戶；增強(qiáng)“收藏+復(fù)訪”“關(guān)注+追更”“打開+搜索”等組合目標(biāo)；設(shè)置探索類指標(biāo)，幫助用戶探索可能他們自己都還沒發(fā)現(xiàn)的潛在需求，助力破除信息繭房。

人類對技術(shù)的看法與評價(jià)也會跟隨時代發(fā)展更新。汽車剛面世時英國國會如臨大敵通過了“紅旗法案”，每天開車堵在內(nèi)環(huán)高架的現(xiàn)代人回看此事，只會感到無盡的荒謬。

隨著時間推移，越來越多人意識到算法不是單方面的黑匣子，其實(shí)可以有意識地“訓(xùn)練”它，讓它為自己所用。

順著“手機(jī)爹”的指引，在陌生博主的直播間留下打卡足跡；用指令模板與deepseek斗智斗勇，讓它變成聽話秘書......這些都是普通人面對技術(shù)浪潮，發(fā)揮主觀能動性的細(xì)微例證。