“AI已經(jīng)不僅僅停留在‘幫我修改錯別字’的淺層階段了，目前它已經(jīng)成為我的工作伙伴，承做基礎(chǔ)工作，我只負(fù)責(zé)聚焦核心創(chuàng)意與價值判斷。”在北京一家新能源車企就職的新媒體運營專員李思思，從2023年開始嘗試用生成式AI工具輔助工作。
她的日常工作是負(fù)責(zé)官方公眾號、小紅書以及視頻號的內(nèi)容產(chǎn)出，核心需求是每周輸出3篇圖文、2條短視頻腳本，既要兼顧“科技+生活”的品牌調(diào)性，同時也要適配平臺算法、吸引潛在客戶。
而目前，AI工具已經(jīng)成為她“離不開的助理”，引入AI協(xié)作之后，圖文內(nèi)容的初稿、素材的處理、封面設(shè)計的生成等基礎(chǔ)工作都交給AI完成，單篇圖文的產(chǎn)出耗時從3小時壓縮到1.5小時，短視頻腳本+剪輯耗時從6小時縮短到2小時?！懊恐芸梢怨?jié)省下10個小時的工作時間，用來策劃線下的試駕直播、用戶故事征集等內(nèi)容，大大提高了工作效率”，李思思告訴《鋒面》記者。
她說，AI工具目前已經(jīng)告別了只簡單回答問題的階段，會開始主動給自己提供建議，比如“建議穿插其他內(nèi)容平衡賬號內(nèi)容結(jié)構(gòu)”“追問補充信息”“甚至記住常用的字幕字體、轉(zhuǎn)場風(fēng)格”。
在獨立AI開發(fā)者路磊看來，目前在一些領(lǐng)域內(nèi)，AI已經(jīng)能夠進(jìn)化到開始主動協(xié)同。其核心原因是由于技術(shù)迭代，新一代大模型通過億萬級參數(shù)訓(xùn)練，具備了深層以圖感知和長期記憶的能力。
“目前AI已經(jīng)能夠從指令中拆解出核心訴求，還能記住長期協(xié)作中用戶的習(xí)慣偏好。比如通過建立意圖拆解與需求預(yù)判模型，通過關(guān)鍵詞提取和場景關(guān)聯(lián)的算法，提取出用戶的核心需求?！甭防谡f。在醫(yī)療、新媒體等領(lǐng)域里，都已經(jīng)形成了AI承做基礎(chǔ)環(huán)節(jié)+人類進(jìn)行核心把控的固定模式。
但是，現(xiàn)階段的協(xié)同仍然存在一些問題——由于目前的AI尚未實現(xiàn)與人的“深度共生”，人雖然能從機械性的工作中得到部分解放，但是同時面臨著AI能力限制、責(zé)任分配、情感倫理等風(fēng)險——這也是接下來AI在人機協(xié)同中需要逐一解決的重要問題。
“要實現(xiàn)真正的AI與人協(xié)同共生，還有很多問題要解決?！甭防诒硎?。
01
“不敢輕信”
“AI系統(tǒng)引入以后，對標(biāo)準(zhǔn)化病灶的識別率較高，但是面對非典型、復(fù)雜場景時，識別能力就會大幅下降。”張曉華是北京市大興區(qū)某三甲醫(yī)院放射科副主任，從事胸部影像診斷15年。2024年，醫(yī)院引入某知名品牌胸部影像AI輔助診斷系統(tǒng)，初衷是讓AI承接基礎(chǔ)病灶的識別工作，構(gòu)建“AI初篩+醫(yī)生復(fù)核診斷”的人機協(xié)同模式，從以往AI的被動參與，到全程主動介入。
但落地后，這套系統(tǒng)在“協(xié)作”時出現(xiàn)的種種問題，讓張曉華越來越謹(jǐn)慎。
她首先肯定了AI的價值，“對于直徑大于5毫米的典型肺結(jié)節(jié)、大面積肺炎等常規(guī)病變，AI可以快速精準(zhǔn)標(biāo)注，無需排查影像，單份報告基礎(chǔ)閱片時間縮短一半?！?/p>
但是隨著系統(tǒng)的深入應(yīng)用，張曉華發(fā)現(xiàn)所謂的“協(xié)同工作”從“高效減負(fù)”的初衷，漸漸變成了“反復(fù)糾錯+雙重核驗”的復(fù)雜模式。
張曉華對這套系統(tǒng)并不滿意：對于直徑小于3毫米的微小結(jié)節(jié)、靠近胸膜或縱隔的隱匿性病灶，AI漏診率高達(dá)40%；面對鈣化灶與實性結(jié)節(jié)的鑒別、炎性假瘤與腫瘤的區(qū)分等非典型病變，AI常出現(xiàn)誤判，將良性鈣化灶標(biāo)注為疑似惡性結(jié)節(jié)，或把惡性腫瘤誤判為炎癥，“這就需要我逐一對比影像細(xì)節(jié)、結(jié)合臨床經(jīng)驗修正，反而增加了復(fù)核時間?！睆垥匀A說。
但AI算法的“黑箱”又給張曉華的復(fù)核帶來更多麻煩。她告訴記者，目前的AI標(biāo)注系統(tǒng)僅能標(biāo)注病灶位置，無法解釋“為何判定為該病變”，讓醫(yī)生無法快速驗證結(jié)論的合理性。
“我的一位病例在AI預(yù)判時被標(biāo)注‘疑似肺結(jié)核病灶’，但是結(jié)合影像觀察后發(fā)現(xiàn)，其更符合真菌感染的特征。但我無法快速得知AI判斷的邏輯，只能逐一分析影像，查詢患者既往病史、血常規(guī)等結(jié)果，才避免了誤診?！睆垥匀A說。
也正是如此，AI標(biāo)注的病灶，張曉華不敢直接采信，必須重新確認(rèn)每一個細(xì)節(jié)，因為“AI從來不告訴她結(jié)論是怎么下的”，萬一基于錯誤特征判定，“就可能導(dǎo)致嚴(yán)重后果”。
“目前的AI無法像人類一樣整合常識、靈活適配特殊場景?！甭防诮忉尩?，“本質(zhì)上是由于目前的AI仍然處于‘專用智能階段’，難以應(yīng)對高標(biāo)準(zhǔn)、高動態(tài)的任務(wù)需求。一方面是由于數(shù)據(jù)訓(xùn)練不足，動態(tài)數(shù)據(jù)大多缺失?！?/p>
在算法層面，AI本質(zhì)上是“概率統(tǒng)計模型”，其核心是在數(shù)據(jù)中尋找模式并復(fù)刻，路磊說，“而不是理解任務(wù)底層的因果邏輯”。而且由于算法“黑箱”，導(dǎo)致在協(xié)同過程中，仍需要人手動排查。“而且，當(dāng)前AI很難整合多維度的信息，很容易出現(xiàn)‘信息割裂’導(dǎo)致的偏差?！?/p>
02
“人類全責(zé)，AI免責(zé)”
林語涵是某頭部互聯(lián)網(wǎng)平臺內(nèi)容審核部專員，負(fù)責(zé)平臺泛知識領(lǐng)域內(nèi)容的合規(guī)審查，核心工作內(nèi)容是識別色情、低俗、虛假宣傳等違規(guī)內(nèi)容，保障內(nèi)容發(fā)布的安全。2024年第二季度，平臺為應(yīng)對日均百萬級的內(nèi)容量，上線了AI內(nèi)容輔助審核系統(tǒng)，AI會主動篩查違規(guī)內(nèi)容標(biāo)注風(fēng)險，再由人工進(jìn)行審核。林語涵從此開始與“AI成為同事，過上了人機協(xié)同”的生活。
但是，在與AI的合作中，一條有關(guān)美容儀測評的短視頻，在AI初篩評估時判定合規(guī)。林語涵將短視頻上傳至審核系統(tǒng)后，AI在3秒內(nèi)初篩，并未標(biāo)注任何風(fēng)險點。復(fù)核時，她重點關(guān)注了AI標(biāo)注結(jié)果，因此忽略了視頻中“經(jīng)權(quán)威機構(gòu)認(rèn)證”的表述。
參考AI結(jié)果，林語涵在人工復(fù)核環(huán)節(jié)選擇放行。但是，發(fā)布后，有用戶投訴舉報，稱視頻中提及的權(quán)威機構(gòu)為無資質(zhì)第三方，美容儀涉嫌虛假宣傳。經(jīng)平臺核查，視頻博主確存在虛假宣傳，隨即下架了視頻。
但是，在內(nèi)部處理時，林語涵卻成為“唯一責(zé)任人”?！皩T告訴我，因為我是內(nèi)容最終判定人，沒有認(rèn)真核查視頻內(nèi)容的真實性，所以屬于審核不到位。因此給我扣除了績效，同時要求我寫整改報告?！?/p>
AI漏審免責(zé)，人工復(fù)核擔(dān)責(zé)，讓林語涵覺得很不公平。而在路磊看來，責(zé)任認(rèn)定的問題是目前人機協(xié)同的另一大難題。
“一般的AI服務(wù)商會告訴你，AI產(chǎn)品僅僅基于關(guān)鍵詞、內(nèi)容元素進(jìn)行初篩分類，無法解讀事實真實性，與AI技術(shù)無關(guān)?！甭防谡f。
但是，林語涵覺得，AI的疏漏才是漏審的核心——“如果AI提示我‘需核查資質(zhì)’或者‘宣傳功效需佐證’，我就可以進(jìn)一步檢索求證了。但事實上AI并沒有。”
目前，不論是從法律法規(guī)還是行業(yè)標(biāo)準(zhǔn)，AI協(xié)同中各方責(zé)任的邊界規(guī)定還是空白?！八栽趯嵺`中，AI出了問題會被歸咎于‘技術(shù)局限’，人類要承擔(dān)現(xiàn)實中的責(zé)任，這反而成為一種默認(rèn)規(guī)則。特別是在醫(yī)療、金融這樣的高風(fēng)險領(lǐng)域，合理的責(zé)任體系仍然沒有建立起來，我認(rèn)為應(yīng)當(dāng)明確AI服務(wù)商、平臺、使用者的責(zé)任，這樣追溯起來才能有據(jù)可依。”
03
如何更好協(xié)同？
可以看到，當(dāng)前的AI技術(shù)已經(jīng)可以很好地支撐“標(biāo)準(zhǔn)化”場景的主動協(xié)同，比如批量篩查、固定流程輔助等。但是在復(fù)雜場景、深層的情感感知、模糊需求的拆解，仍然需要技術(shù)突破。此外，由于AI介入的程度和范圍擴大，其與人之間的人機信任、責(zé)任劃定問題也開始凸顯。
在開發(fā)者的角度看來，是“AI學(xué)習(xí)不足”的結(jié)果?！懊鎸?fù)雜動態(tài)的環(huán)境，AI需要大量人工干預(yù)才能運作，仍然需要持續(xù)大量地學(xué)習(xí)數(shù)據(jù)、特別是跨領(lǐng)域的數(shù)據(jù)交叉應(yīng)用?！?/p>
關(guān)于責(zé)任界定問題，北京郵電大學(xué)劉偉教授此前表示，應(yīng)當(dāng)明確人機責(zé)任的劃分標(biāo)準(zhǔn)：“價值判斷、因果推斷、海量計算高速對比(責(zé)任)歸機器，保留人類的一票否決權(quán)。”
上海財經(jīng)大學(xué)胡延平教授則給出了時間維度的分析：初期AI錯誤率高，需要人類自行擔(dān)責(zé)；中期錯誤率降低至可接受的范圍，則運營者承擔(dān)部分責(zé)任；后期風(fēng)險可忽略時，形成人機共同擔(dān)責(zé)的模式，但“人類需要始終保有最終接管權(quán)”。
路磊認(rèn)為則需要在算法中嵌入公平校驗機制。從技術(shù)層面校準(zhǔn)AI對倫理、道德等“人性問題”的判斷取向。
而針對算法黑箱的問題，中國科學(xué)院心理研究所胡理團隊發(fā)文指出，應(yīng)當(dāng)在技術(shù)上提升AI的可解釋性(如開發(fā)因果路徑追蹤工具)，在機制上建立動態(tài)校準(zhǔn)模式，從而化解人機信任危機。
未來，技術(shù)優(yōu)化與治理完善，將推動AI與人類走向“深度共生”。多位受訪者表示，相信在解決當(dāng)下人機協(xié)同的問題之后，AI帶來的變革能夠更進(jìn)一步。
于天昊
（責(zé)任編輯：盧相汀）
晉公網(wǎng)安備 14090202000008號 
