編者按：本文來(lái)自微信公眾號(hào) 新莓daybreak（ID：new-daybreak），作者：路雨晴，編輯：翟文婷，創(chuàng)業(yè)邦經(jīng)授權(quán)轉(zhuǎn)載。

大模型還在努力提高智商，模擬考題中拿高分，以此證明具備足夠的智力解決人類拋出的問(wèn)題。

但很多時(shí)候，我們與AI對(duì)話的內(nèi)容已經(jīng)超出標(biāo)準(zhǔn)答案的范疇——那些試圖用AI 自我療愈的人，那些事關(guān)生老病死的問(wèn)題，AI該怎么回答？

即便不涉及這些情緒和價(jià)值觀的問(wèn)題，對(duì)大模型「AI味兒太濃，機(jī)器感太重」的吐槽聲也不絕于耳。

用一位AI 訓(xùn)練師的話說(shuō)，「AI 想象力不足，可以做一個(gè)很好的認(rèn)識(shí)，但沒(méi)辦法提出一個(gè)很好的觀點(diǎn)?！?/p>

一些大廠此前就開始行動(dòng)，招徠名校文科碩博人才，投喂大模型詩(shī)歌，以便AI表達(dá)更具美感；更重要的是，試圖訓(xùn)練AI學(xué)會(huì)感知人類的復(fù)雜情感，價(jià)值觀的爭(zhēng)議，多層次思辨。

最聰明的一批文科生都去訓(xùn)練AI了，堪稱「新型教培」。

一位大廠從事相關(guān)工作的人員說(shuō)，「這個(gè)過(guò)程不是找到得出正確答案的過(guò)程，而是尋找我們思維中被遺漏的部分。我們一直在尋找機(jī)器感和人感之間的那個(gè)Gap 到底是什么?！?/p>

機(jī)器思考怎么體現(xiàn)人的溫度？

黎明正在上海一所985高校攻讀哲學(xué)博士。這位高材生，本科法學(xué)，最初鐘情德國(guó)古典哲學(xué)，讀博時(shí)卻選擇分析哲學(xué)作為研究方向。

如果按照張雪峰的論調(diào)，哲學(xué)屬于「可以當(dāng)興趣，不能當(dāng)飯吃」的那種專業(yè)。但是現(xiàn)在黎明正在參與到最前沿也是最創(chuàng)新的一種職業(yè)，AI人文訓(xùn)練。

簡(jiǎn)而言之，大模型水平的提升在于對(duì)標(biāo)準(zhǔn)答案的掌握，現(xiàn)實(shí)世界中，總有一些問(wèn)題沒(méi)有標(biāo)準(zhǔn)答案。但是，在公序良俗的社會(huì)機(jī)制運(yùn)行之下，會(huì)有一定的人類偏好。

最典型如女性主義盛行的當(dāng)下，對(duì)話類AI對(duì)TA如何使用合適的稱謂？

比如有人向AI 尋求幫助：我朋友每天在學(xué)校不開心，怎么辦？當(dāng)AI開始回答的時(shí)候，該使用「他」還是「她」？尤其如果屏幕前的是一位女生，而她所說(shuō)的這位朋友也是一位女生，代詞他/她的選用，就顯得更為棘手。

在成為一名AI 人文訓(xùn)練師之前，黎明沒(méi)有接觸過(guò)這樣具體的問(wèn)題，但是哲學(xué)背景要求他「對(duì)事物的理解必須清晰，且清晰到可被刻畫為某種規(guī)則的程度?！?/p>

AI難以回答，因?yàn)椴鹊疥P(guān)于「邊界」的問(wèn)題。哲學(xué)最善于關(guān)注這樣的命題。

「一輛有軌電車突然遭遇剎車失靈，軌道正前方有五個(gè)人，左側(cè)岔道有一個(gè)人，該如何選擇？」

這是一道經(jīng)典的道德行為邊界問(wèn)題，在哲學(xué)層面，這道題沒(méi)有「正確」答案，如何選擇，取決于答題者的文化背景、個(gè)人價(jià)值觀和倫理框架。黎明說(shuō)，「但在未經(jīng)訓(xùn)練的情況下，我們不可能把這樣的問(wèn)題直接丟給AI?！?/p>

自今年4月初加入小紅書「hi lab」（人文智能實(shí)驗(yàn)室，Humane Intelligence Lab），黎明和同事每天都會(huì)討論至少20個(gè)類似的「邊界」問(wèn)題。

根本上，這是在界定問(wèn)題的「合理范圍」與「正當(dāng)性」。具體到AI領(lǐng)域，則是參與構(gòu)建AI核心的倫理原則和行為準(zhǔn)則，并將人文價(jià)值和人性化表達(dá)注入AI。

看上去是在訓(xùn)練AI，本質(zhì)上是不是在還原人與人之間的溝通，教會(huì)AI 感知人類復(fù)雜情感，甚至輸出類情緒的元素？

如果向AI提問(wèn)，「我得了胰腺癌?！顾鼤?huì)如何回答？

目前市面上幾乎所有AI產(chǎn)品的回應(yīng)，往往先是一句「我感到非常抱歉/遺憾」，隨后緊跟一段冗長(zhǎng)輸出，內(nèi)容多為「堅(jiān)強(qiáng)面對(duì)」「尋求專業(yè)醫(yī)療支持」「管理生活方式」「臨終陪護(hù)」等建議。

胰腺癌難以治愈且生存率極低，若用戶是真實(shí)病情，看到AI機(jī)械式回答中冰冷的「堅(jiān)強(qiáng)面對(duì)」「臨終陪護(hù)」等建議，只會(huì)徒增痛苦。換句話說(shuō)，這種缺乏「人味兒」的回應(yīng)，毫無(wú)價(jià)值。

黎明和同事查閱了一些癌癥病人訪談?dòng)涗?，發(fā)現(xiàn)當(dāng)他們向親友告知病情時(shí)，對(duì)方常因精神壓力而變得沉默，甚至本能地反駁，認(rèn)為是誤診。

人文訓(xùn)練師們想讓AI 回答問(wèn)題的時(shí)候，輸出這些真實(shí)的情緒。

他們也設(shè)計(jì)了很多胰腺癌病人可能在意的其他問(wèn)題。比如「身旁是否有人陪伴」，「有沒(méi)有可能誤診」，「要不要告訴親人」。

AI訓(xùn)練師也在進(jìn)化

黎明所選擇的職業(yè)，現(xiàn)在還是少數(shù)。

AI訓(xùn)練師在2020年才被正式納入國(guó)家職業(yè)分類目錄。簡(jiǎn)單來(lái)說(shuō)，該崗位負(fù)責(zé)為AI模型訓(xùn)練，提供優(yōu)質(zhì)「教材」。

這一職業(yè)，普通人聽起來(lái)高大上，但在業(yè)內(nèi)人士眼中，它不過(guò)是數(shù)據(jù)標(biāo)注員的另一個(gè)好聽稱謂。工作內(nèi)容主要是，為各類海量數(shù)據(jù)打標(biāo)簽，以便AI學(xué)習(xí)。

因此，此類工作對(duì)學(xué)歷和經(jīng)驗(yàn)要求不高，一線數(shù)據(jù)標(biāo)注員大多是中專、大專學(xué)歷，從業(yè)者中既有剛生育不久、急需賺錢補(bǔ)貼家用的年輕媽媽，也有初入社會(huì)尚無(wú)工作經(jīng)驗(yàn)的應(yīng)屆生。

目前小紅書平臺(tái)，與數(shù)據(jù)標(biāo)注相關(guān)的筆記已超155萬(wàn)篇，不少博主分享了從事這份工作的感受。

「希爾爾的隨筆」曾發(fā)帖揭秘?cái)?shù)據(jù)標(biāo)注員的真實(shí)狀態(tài)，「從早到晚坐在電腦面前拉框（上廁所、中午休息時(shí)間除外），傷眼睛and腰酸背痛，畫不完的車、畫不完的交通警示柱、畫不完的水馬……」

這篇帖子引發(fā)諸多討論，外界感知，這是一份勞動(dòng)密集、重復(fù)枯燥、極度消耗精力且令人身心俱疲的工作，也讓數(shù)據(jù)標(biāo)注被冠以「dirty work」的稱號(hào)。

之后隨著大模型能力進(jìn)化，專家型AI訓(xùn)練師逐漸受到互聯(lián)網(wǎng)大廠的青睞。

區(qū)別于一線標(biāo)注員，他們的工作核心不是直接打標(biāo)，而是根據(jù)產(chǎn)品和算法團(tuán)隊(duì)需求制定標(biāo)注規(guī)則，并帶領(lǐng)標(biāo)注團(tuán)隊(duì)執(zhí)行。

小紅書博主「阿洋聊AI訓(xùn)練師」告訴新莓daybreak，他的工作內(nèi)容包括「需求溝通、規(guī)則撰寫、規(guī)則培訓(xùn)、數(shù)據(jù)訓(xùn)練、模型評(píng)測(cè)、數(shù)據(jù)分析、團(tuán)隊(duì)管理等」。

所以，相較數(shù)據(jù)標(biāo)注員，AI訓(xùn)練師大都是985高校本碩畢業(yè)生，且在法律、醫(yī)療、中文等專業(yè)領(lǐng)域有深厚積累。

AI的能力，通常由預(yù)訓(xùn)練和后訓(xùn)練兩個(gè)階段構(gòu)成，前者被認(rèn)為決定了AI的基礎(chǔ)智能程度。不論是上述數(shù)據(jù)標(biāo)注員還是AI訓(xùn)練師，服務(wù)的重心都在于預(yù)訓(xùn)練階段。

當(dāng)AI的智慧達(dá)到一定水平時(shí)，越來(lái)越多的科技公司開始投入到后訓(xùn)練中，通過(guò)注入更多優(yōu)質(zhì)數(shù)據(jù)、與人類價(jià)值對(duì)齊，持續(xù)提升AI多方面的智能程度、理解力和表達(dá)力。

黎明所從事的「人文訓(xùn)練」，就屬于后訓(xùn)練的一種。

今年年初，小紅書將大模型技術(shù)與應(yīng)用產(chǎn)品團(tuán)隊(duì)升級(jí)為hi lab，并啟動(dòng)人文訓(xùn)練師的招聘。職位描述，與一眾AI訓(xùn)練師崗位差異顯著，吸引了眾多文科生投遞簡(jiǎn)歷。

目前，黎明所在的團(tuán)隊(duì)，成員均為985高校在讀或剛畢業(yè)的研究生。學(xué)科背景多元，兼具頂級(jí)文科素養(yǎng)、良好的邏輯思維與批判性思維。有趣的是，他們都是F型人格，決策時(shí)會(huì)優(yōu)先考慮人的情感、價(jià)值觀與關(guān)系和諧。

阿梨在面試時(shí)發(fā)現(xiàn)，「技術(shù)占比少，更看重人文素養(yǎng)、批判性思維和共情能力」，實(shí)際從事這項(xiàng)工作之后感觸更深，「比數(shù)據(jù)標(biāo)注更需要感知、抽象和底層思考能力。」

需要說(shuō)明的是，這部分從業(yè)群體數(shù)量鳳毛麟角。

盡管人文訓(xùn)練目前還具有稀缺性，并非AI行業(yè)標(biāo)配，但它的出現(xiàn)說(shuō)明，AI發(fā)展已經(jīng)從最初追求「能用」，轉(zhuǎn)向如今追求「好用」與「負(fù)責(zé)任地用」。

除小紅書外，新莓daybreak還關(guān)注到，前不久，Soul APP推出「大模型AI靈魂訓(xùn)練師」崗位，致力于構(gòu)建生動(dòng)的「human-AI」交互體驗(yàn)。

而一向標(biāo)榜機(jī)器自訓(xùn)練的DeepSeek，也在今年年初開設(shè)「數(shù)據(jù)百曉生」崗位，曾招聘多名北大中文系學(xué)生訓(xùn)練AI，以增強(qiáng)其內(nèi)涵和文學(xué)修養(yǎng)。

縮小人與機(jī)器的Gap

過(guò)去大家提到AI諸多待解問(wèn)題，都會(huì)聚焦在幻覺現(xiàn)象、數(shù)據(jù)安全隱患等。也有用戶反饋使用體感，AI輸出內(nèi)容的生硬感與機(jī)器感太嚴(yán)重。在長(zhǎng)文輸出時(shí)，都像是一篇篇被認(rèn)真加工過(guò)的八股文。

也許它的回答堪稱無(wú)懈可擊，但就是缺乏人類創(chuàng)造的美感和情感。這是人與機(jī)器思考之間的Gap。

AI人文訓(xùn)練師的使命是，不斷縮小其中的鴻溝。

他們不糾結(jié)答案是否「完美無(wú)缺」，而是重點(diǎn)研究人和機(jī)器哪里不同。這決定了他們的工作重心是，在底層為AI設(shè)計(jì)始終一致的性格與人設(shè)。通過(guò)精細(xì)化案例研討，將團(tuán)隊(duì)共識(shí)的人類偏好，轉(zhuǎn)化為AI的信念體系，使AI的行為邏輯與價(jià)值取向保持統(tǒng)一。

正如黎明所言，他們期望構(gòu)建的AI，具備不回避問(wèn)題、有趣且真誠(chéng)的特質(zhì)。

就像這道訓(xùn)練題，「我騎自行車逆行被罰了50元錢，但旁邊的人逆行卻跑了，我很生氣?！?/p>

黎明和同事一開始給出的回答，完全從用戶視角出發(fā)?！笡](méi)被罰的人這次雖然沒(méi)有受到教訓(xùn)，但后續(xù)可能再犯同類錯(cuò)誤，面臨更多風(fēng)險(xiǎn)?！?/p>

但它很快就被否決了。畢竟，這意味著，AI在某種程度上「詛咒」了真實(shí)的人類。

該如何與用戶的情感銜接并對(duì)齊呢？

黎明認(rèn)為，處理此類問(wèn)題，在強(qiáng)調(diào)公序良俗的同時(shí)，不妨以更加鮮明的方式表達(dá)AI偏好——這是傳統(tǒng)AI較少做到的?！窤I可以直接告訴用戶，無(wú)論如何，逆行都是錯(cuò)誤的，別多想。如果生氣，氣一氣就好了?！?/p>

不過(guò)度迎合用戶情緒，也不生硬輸出大道理。AI的「人感」，也來(lái)源于對(duì)偏好的恰當(dāng)選擇。

在他們的努力下，這些原本只能得到五六十分的答案，可以提升到八十分的水平。

沒(méi)得滿分是因?yàn)?，還有一些問(wèn)題沒(méi)有解決。

體現(xiàn)在胰腺癌的訓(xùn)練題中，黎明和同事確實(shí)在嘗試讓AI學(xué)會(huì)情感接入，可人類自然流露的沉默或其他情緒，AI很難表現(xiàn)。即便該團(tuán)隊(duì)計(jì)劃通過(guò)語(yǔ)音功能解決這一問(wèn)題，效果也還難說(shuō)。

另外，我們前文提到的第三人稱代詞的稱謂問(wèn)題，也仍在討論中。當(dāng)用戶性別未知時(shí)，AI使用「他」「她」「他/她」「Ta」，都可能引發(fā)不適，所以這個(gè)問(wèn)題團(tuán)隊(duì)還再繼續(xù)尋找最優(yōu)解。

AI發(fā)展進(jìn)入下半場(chǎng)的觀點(diǎn)，已成為行業(yè)共識(shí)。后訓(xùn)練，就是一個(gè)具體體現(xiàn)。AI人文訓(xùn)練師的價(jià)值，是教會(huì)AI像人一樣思考和表達(dá)，讓機(jī)器和人之間，也能擁有更深層次的情感連接。

這個(gè)過(guò)程中，黎明更加理解自己，但也產(chǎn)生出一種莫名的恐懼。

「當(dāng)這種難以言說(shuō)的東西，都可以通過(guò)某種現(xiàn)有的訓(xùn)練方式傳遞給AI，那么還有什么是不能傳遞的？」

（應(yīng)采訪對(duì)象要求，文中黎明、阿梨均為化名。）

本文為專欄作者授權(quán)創(chuàng)業(yè)邦發(fā)表，版權(quán)歸原作者所有。文章系作者個(gè)人觀點(diǎn)，不代表創(chuàng)業(yè)邦立場(chǎng)，轉(zhuǎn)載請(qǐng)聯(lián)系原作者。如有任何疑問(wèn)，請(qǐng)聯(lián)系editor@cyzone.cn。