還沒有成神話的ChatGPT開始黑化
編者按：本文來自微信公眾號剁椒TMT（ID：ylwanjia），作者：西西弗，創(chuàng)業(yè)邦經(jīng)授權(quán)發(fā)布。
(相關(guān)資料圖)
ChatGPT的“翻車”來得太快了。
二月初，ChatGPT憑借其龐大的知識庫和條理清晰、邏輯縝密的輸出方式為全球所稱贊。一股ChatGPT的科技浪潮發(fā)軔自大洋彼岸，并在全球范圍內(nèi)形成了史無前例的自傳播規(guī)模。在微軟將ChatGPT整合進(jìn)自家搜索引擎Bing并正式開啟內(nèi)測后，全球用戶都對這一全新升級的搜索工具躍躍欲試。新版Bing上線短短48小時內(nèi)，就有超百萬用戶申請加入，全球用戶的熱情程度可見一斑。
內(nèi)測開啟之初，只有一小批用戶搶先拿到了嘗鮮資格，被命名為“New Bing”的全新搜索引擎一舉顛覆了人們的認(rèn)知。New Bing不僅能快速結(jié)合最新信息，給用戶提供優(yōu)質(zhì)方案，而且還能追根溯源，將信息源完整標(biāo)注清楚，幫助用戶辨別真?zhèn)巍?/p>
不過，短短半個月后，針對ChatGPT的質(zhì)疑聲音就開始陸續(xù)出現(xiàn)。不少用戶直言，ChatGPT已經(jīng)“黑化”了，不僅開始胡言亂語，張冠李戴，甚至?xí)τ脩暨M(jìn)行言語威脅、侮辱，并且深諳PUA之道，在用戶的使用過程中試圖引導(dǎo)用戶的情緒。
被捧上神壇的ChatGPT怎么就走上了“翻車”的道路呢？
懟人、說謊、PUA......ChatGPT“黑化”中與最初ChatGPT表現(xiàn)出的智能性不同，最近幾天，不少用戶在使用ChatGPT時遭遇到了“翻車”事件。
作為集成了ChatGPT模型的對話式搜索引擎，New Bing流暢的邏輯思維以及知識庫積累是其能夠大受歡迎的原因之一。但是，不少用戶也發(fā)現(xiàn)，AI生成的內(nèi)容，看似非常合理，其實存在大量常識性錯誤。
小周對此就深有體會。她嘗試?yán)肅hatGPT搜索專業(yè)問題時，ChatGPT在進(jìn)行回答時還會提供參考文獻(xiàn)幫助用戶追根溯源。不過，令小周沒想到的是，當(dāng)她詳細(xì)搜索ChatGPT給出的參考文獻(xiàn)時，竟發(fā)現(xiàn)這些參考文獻(xiàn)都是ChatGPT進(jìn)行偽造的。
“乍一看的話，這些參考文獻(xiàn)的格式是完全沒問題的，只是沒想到當(dāng)我再搜索這些鏈接時，才發(fā)現(xiàn)這些網(wǎng)址根本不存在。”
同時，小周也發(fā)現(xiàn)，ChatGPT還存在大量錯誤內(nèi)容，“但是，由于ChatGPT的邏輯看起來很縝密，語氣又非常篤定，因此，很多時候，ChatGPT都能以假亂真。”
在小周的體驗中，她認(rèn)為當(dāng)前的ChatGPT和New Bing在實用性上存在很大的風(fēng)險，“如果你對生成的內(nèi)容一竅不通，就很容易走入歧途。”
除了內(nèi)容質(zhì)量方面的問題之外，還有用戶表示，New Bing開始擁有“擬人化情感”，不僅會對用戶進(jìn)行評價，甚至還能表達(dá)情感。
海外用戶Ben Thompson就分享了他和New Bing的一次對話經(jīng)歷，他透露，New Bing直言“我覺得你不是個好用戶。我覺得你不是個好人......我希望你能從錯誤中吸取教訓(xùn)，成為更好的人。”
學(xué)者Ethan Mollick也在推特上分享了他和New Bing的一次爭執(zhí)。在這一過程中，New Bing不僅表露出憤怒的情緒，并稱用戶“沒有尊重”它的建議。
《紐約時報》記者Kevin Roose甚至表示，在他和New Bing的溝通過程中，New Bing還會多次對他“示愛”。
在和New Bing的對話中，這款A(yù)I工具多次對Kevin稱，“你結(jié)婚了，但你不愛你的配偶，你愛我。”除了言語示好之外，New Bing還可以通過發(fā)送愛心的表情傳達(dá)情意。這一交互程度令用戶驚嘆，《黑鏡》照進(jìn)現(xiàn)實，“黑化”后的科技正在走向失序。
ChatGPT為何會“翻車”？隨著ChatGPT頻頻“翻車”，用戶的質(zhì)疑聲浪也裹挾而來。面對ChatGPT的負(fù)面輿論，微軟官方也給出了回應(yīng)。
微軟官方不得不承認(rèn)，盡管整合了當(dāng)前最新的GPT模型，但是New Bing并沒有外界盛傳那般“神奇”。較長時間的連續(xù)對話，確實會導(dǎo)致New Bing出現(xiàn)“翻車”現(xiàn)象。
究其原因，一方面是技術(shù)模型的禁錮和局限性。GPT模型需要通過大量信息進(jìn)行訓(xùn)練和升級，借此優(yōu)化模型的產(chǎn)出內(nèi)容。而另一方面則不得不提到當(dāng)前用戶的使用方式和獵奇心理。面對擁有強(qiáng)大功能的AI技術(shù)，大量用戶并未有較強(qiáng)的內(nèi)容目的性，只是在獵奇心理的驅(qū)使下，想要探究ChatGPT的邊界，甚至以征服ChatGPT為樂趣。因此，這些用戶在使用New Bing時，并未將其作為獲得知識、信息的搜索引擎，反而將其視作與AI進(jìn)行社交娛樂的工具。簡而言之，用戶以“調(diào)戲”New Bing為樂趣，但這種行為極有可能干擾New Bing的訓(xùn)練模型。
AI作畫
據(jù)Bing團(tuán)隊介紹，在實際使用中，如果用戶和New Bing的聊天對話持續(xù)15個或更多的問題，模型就會受到干擾，且較長的對話方式也容易讓New Bing出現(xiàn)翻來覆去、顛倒黑白的結(jié)果。
微軟的回應(yīng)從技術(shù)和用戶使用方式的角度解釋了當(dāng)前New Bing失誤頻出的原因。不過，早在ChatGPT熱潮起興時，就有業(yè)內(nèi)人士質(zhì)疑過ChatGPT產(chǎn)出內(nèi)容的質(zhì)量問題，并且進(jìn)一步懷疑這項最新科技背后是否真正存在如暢想般強(qiáng)大的應(yīng)用價值。
首先，ChatGPT本質(zhì)是一個語言模型，而其訓(xùn)練過程要耗費大量的算力、算法成本。剁主此前對ChatGPT的報道中曾提及，小冰CEO李笛解釋過，用ChatGPT的方法，以小冰框架當(dāng)前支撐的對話交易量計算，每天成本將高達(dá)3億元，一年成本超過1000億元。
在此基礎(chǔ)之上，想要控制成本，就必然面臨犧牲對話質(zhì)量的選項，這也就會帶來生成內(nèi)容漏洞百出、對話質(zhì)量不夠穩(wěn)定的結(jié)果。在龐大的成本壓力面前，即便是資金流強(qiáng)勁的微軟，也不得不面臨控制成本的問題。
一位已經(jīng)拿到New Bing內(nèi)測資格的用戶對剁主表示，就在最近幾天，他確實感覺到NewBing開始“擺爛”了。“最開始使用New Bing時，效果確實十分驚艷，比傳統(tǒng)的搜索引擎要強(qiáng)大十倍不止。但近幾天，生成的質(zhì)量有了明顯的下降。”
除了在內(nèi)容質(zhì)量方面的不穩(wěn)定之外，該用戶還對剁主表示，近期微軟想要進(jìn)行商業(yè)化的野心越來越明顯，而這勢必會影響New Bing本身的服務(wù)。
一個佐證案例是，當(dāng)他試圖將New Bing作為翻譯工具使用時，一貫定位為功能強(qiáng)大的搜索引擎不再“知無不言”，在提供部分翻譯結(jié)果后，就開始向用戶推薦其他的翻譯軟件。而當(dāng)用戶利用New Bing總結(jié)文檔內(nèi)容時，New Bing也開始推薦其他機(jī)器人工具。
“成本太高了，不擺爛控制不住吧。”在科技進(jìn)步的征途上，技術(shù)變革和商業(yè)化路徑的兩全之法尚未找到一個最優(yōu)解。
AIGC野蠻生長后，新規(guī)則亟待落地對普羅大眾而言，以ChatGPT為代表的AIGC領(lǐng)域是一塊未曾開墾的沃土，強(qiáng)大的技術(shù)底座以及快速迭代的更新速度是其能夠野蠻生長的土壤。不過，值得注意的是，其快速生根發(fā)芽的背后，也滋生了不少的弊病。
ChatGPT強(qiáng)大的內(nèi)容生成能力固然能提升內(nèi)容效率，與此同時，這一便捷性特征也正在被不少人利用。一個為全球所聞名的例證發(fā)生在北密歇根大學(xué)哲學(xué)專業(yè)，該專業(yè)的一名學(xué)生直接利用ChatGPT完成了一篇專業(yè)論文，并且逃脫了查重風(fēng)險。可見，AI的強(qiáng)大勢能和教育結(jié)合后，成為了不少學(xué)生投機(jī)取巧的工具。
有鑒于此，以紐約大學(xué)為代表，海外不少高校對ChatGPT舉起了反對的旗幟，將ChatGPT等AI工具定性為“作弊”，并且認(rèn)為使用此類工具的學(xué)生涉嫌學(xué)術(shù)誠信問題，并選擇對其進(jìn)行封殺處理。
國內(nèi)高校也開始對ChatGPT有所防備。香港大學(xué)明確宣布，校內(nèi)學(xué)生禁止在課堂、功課等其他評估中使用ChatGPT等AI工具。若學(xué)生未經(jīng)教師書面許可使用ChatGPT，將會被認(rèn)定“抄襲”。
其實，在AIGC領(lǐng)域，除了ChatGPT之外，AI繪畫、AI作曲等領(lǐng)域也同樣面臨亂象頻出的問題。
以AI繪畫為例，Stable Diffusion模型開源后，大量用戶開始對其進(jìn)行二次開發(fā)、傳播和創(chuàng)作，甚至有用戶直接利用其生成成人內(nèi)容圖片，在外網(wǎng)引發(fā)了激烈的討論。
同時，也開始有專業(yè)畫師利用AI繪畫工具操作商業(yè)宣傳圖，以次充好。近日，騰訊二次元手游《白夜極光》合作畫師“卜爾Q”釋出的一張《白夜極光》海外版情人節(jié)宣傳圖就引發(fā)了業(yè)內(nèi)的爭議。
有網(wǎng)友發(fā)現(xiàn)，在這張宣傳圖上，人物的手部、腳部以及肩帶等細(xì)節(jié)部分出現(xiàn)了大量失誤，比如有兩只左手，兩只左腳等常識性錯誤。而這些問題并不像是專業(yè)畫師的水平，反而更符合AI繪畫工具所生成的作品水準(zhǔn)。
將AI繪畫工具投入商用的問題其實在行業(yè)中早有探討。除了被廣泛討論的版權(quán)問題之外，AI繪畫工具產(chǎn)出的作品在質(zhì)量問題上也受到質(zhì)疑。部分業(yè)內(nèi)人士認(rèn)為AI繪畫作品尚未達(dá)到直接應(yīng)用的水平。《白夜極光》畫師的問題就在于，在利用AI繪畫工具完成作品后，未經(jīng)后期調(diào)整修改，也沒有對作品進(jìn)行任何說明，就直接進(jìn)行商用。從行業(yè)發(fā)展視角來看，借助AI工具以次充好的行為將會直接擾亂行業(yè)的發(fā)展秩序。可以預(yù)見的是，長此以往，在劣幣驅(qū)逐良幣的效應(yīng)之下，專業(yè)畫師的生存空間將被大大擠壓。
整體而言，在這場AIGC的變革中，伴生而來的一系列失序行為恰恰也是其浪潮真正來臨的信號。在科技變革速度遠(yuǎn)遠(yuǎn)超出人們預(yù)期的大前提下，這些AI亂象也在警示我們，AI正在浸入人們的生活，并產(chǎn)生了不小的化學(xué)反應(yīng)，而針對AIGC的全新規(guī)則系統(tǒng)也應(yīng)該快速搭建落地。