員工們被ChatGPT的高效所吸引，用其修復(fù)源代碼錯(cuò)誤、優(yōu)化代碼和整理會(huì)議紀(jì)要，卻無(wú)意中將包括半導(dǎo)體設(shè)備測(cè)量數(shù)據(jù)、產(chǎn)品良率等在內(nèi)的核心機(jī)密變成了OpenAI訓(xùn)練數(shù)據(jù)庫(kù)的一部分。
基于此，大廠“逆行者”的禁令更像是理性的風(fēng)險(xiǎn)規(guī)避，他們充分認(rèn)識(shí)到在第三方AI服務(wù)的數(shù)據(jù)隱私政策、數(shù)據(jù)使用邊界以及安全保障措施沒(méi)有達(dá)到企業(yè)級(jí)信任標(biāo)準(zhǔn)之前，任何形式的“引狼入室”都是一場(chǎng)豪賭。
而對(duì)于GW這樣的內(nèi)容創(chuàng)意公司而言，除了數(shù)據(jù)安全，另一個(gè)致命的風(fēng)險(xiǎn)來(lái)自版權(quán)與合規(guī)的模糊地帶，這也是生成式AI與生俱來(lái)的原罪。
當(dāng)前的生成式AI模型學(xué)習(xí)了互聯(lián)網(wǎng)上數(shù)以萬(wàn)億計(jì)的文本和圖像，其中必然包含了海量受版權(quán)保護(hù)的作品?？葾I生成的內(nèi)容其版權(quán)歸屬如何界定、是否構(gòu)成了對(duì)原作者的侵權(quán)，如果公司使用了AI生成的設(shè)計(jì)是否會(huì)陷入無(wú)窮無(wú)盡的版權(quán)糾紛等問(wèn)題，在當(dāng)前的法律框架下尚無(wú)明確答案。
對(duì)于像GW這樣以視覺(jué)風(fēng)格和世界觀設(shè)定為核心資產(chǎn)的公司而言，這種不確定性是不可接受的。一旦內(nèi)部創(chuàng)作流程被AI“污染”，整個(gè)IP的合規(guī)風(fēng)險(xiǎn)將徹底失控，原創(chuàng)價(jià)值驟降，幾十年來(lái)藝術(shù)家構(gòu)建的知識(shí)產(chǎn)權(quán)大廈就可能因?yàn)锳I工具的使用而毀于一旦。
除了安全與版權(quán)，對(duì)AI輸出結(jié)果可靠性的擔(dān)憂也是“逆行者”們謹(jǐn)慎行事的重要原因。幻覺(jué)是生成式AI廣為人知的問(wèn)題，它會(huì)以極度自信、極具說(shuō)服力的語(yǔ)氣編造出完全錯(cuò)誤的事實(shí)、邏輯或引用。
在日常娛樂(lè)或信息檢索中，這種“一本正經(jīng)地胡說(shuō)八道”或許無(wú)傷大雅，但對(duì)于金融、科技、醫(yī)療、高端制造等容錯(cuò)率極低的行業(yè)，小小的錯(cuò)誤就可能引發(fā)連鎖風(fēng)險(xiǎn)。
復(fù)旦大學(xué)附屬華山醫(yī)院的科主任張文宏也曾在近日公開(kāi)表態(tài)，認(rèn)為如果年輕醫(yī)生過(guò)度依賴AI進(jìn)行診斷，將有可能失去獨(dú)立判斷和識(shí)別AI錯(cuò)誤的能力，在此基礎(chǔ)上一旦AI幻覺(jué)出現(xiàn)，影響的可能就是鮮活的生命。
而在金融領(lǐng)域，摩根士丹利雖然在積極探索AI應(yīng)用，甚至通過(guò)與OpenAI的戰(zhàn)略合作推出一整套生成式AI工具，但其對(duì)AI的使用場(chǎng)景依舊進(jìn)行嚴(yán)格限制。畢竟AI分析模型若應(yīng)用到投資時(shí)產(chǎn)生幻覺(jué)、給出錯(cuò)誤的投資建議，可能瞬間導(dǎo)致數(shù)億甚至數(shù)十億美元的損失。
從游戲、醫(yī)療到金融，不同領(lǐng)域的“逆行者”都認(rèn)識(shí)到了AI的效率必須與責(zé)任相匹配。在AI的可靠性、可解釋性和可問(wèn)責(zé)性得到根本解決之前，將其應(yīng)用于高風(fēng)險(xiǎn)決策環(huán)節(jié)無(wú)異于在沒(méi)有安全網(wǎng)的情況下高空走鋼絲。
不過(guò)盡管觀念與時(shí)代的大趨勢(shì)相反，AI反對(duì)派的行為還是給整個(gè)行業(yè)提供了寶貴的“試錯(cuò)樣本”。
當(dāng)大多數(shù)企業(yè)還在為“要不要用AI”而焦慮時(shí)，這些先行者已經(jīng)開(kāi)始深入思考“如何在合規(guī)、安全的前提下用好AI”，他們的禁令與限制倒逼著整個(gè)AI產(chǎn)業(yè)在狂飆之余，也開(kāi)始認(rèn)真地正視數(shù)據(jù)隱私、版權(quán)歸屬、算法倫理等核心問(wèn)題。
這也意味著，未來(lái)AI能否真正深度賦能千行百業(yè)，其核心或許不在于模型的參數(shù)有多大、能力有多強(qiáng)，更關(guān)鍵的是否能為它建立起一套行之有效的治理體系，讓AI真正安全高效地服務(wù)用戶和社會(huì)。
快報(bào)
根據(jù)《網(wǎng)絡(luò)安全法》實(shí)名制要求，請(qǐng)綁定手機(jī)號(hào)后發(fā)表評(píng)論