首頁(yè) > 科技要聞 > 科技> 正文

這個(gè)AI工具，讓美國(guó)年輕人瘋狂上癮！Character AI每秒被查詢(xún)2萬(wàn)次，占谷歌搜索20%

新智元 整合編輯：太平洋科技 發(fā)布于：2024-06-24 14:05

你有沒(méi)有在腦海中想象過(guò)，自己和最喜歡的角色或人物會(huì)發(fā)生怎樣的對(duì)話(huà)？

不論是書(shū)中、電影中出現(xiàn)的虛構(gòu)角色，或是歷史人物，甚至是還在世的馬斯克、霉霉這樣的名人，這種腦補(bǔ)都會(huì)是很有意思的體驗(yàn)。

其實(shí)，一家名為Character AI的公司已經(jīng)讓這些腦補(bǔ)成真了。兩名Google Brain前員工Noam Shazeer和Daniel De Freitas在2022年推出了這項(xiàng)AI聊天機(jī)器人應(yīng)用。

網(wǎng)站中最受歡迎的聊天角色包括《哈利波特》中青少年版的伏地魔，幫助解決生活問(wèn)題的心理醫(yī)生，以及時(shí)髦版的馬斯克。如果沒(méi)有你心水的角色，還可以自行創(chuàng)建。

這項(xiàng)應(yīng)用從上線(xiàn)Beta測(cè)試版到現(xiàn)在始終免費(fèi)提供大部分功能，創(chuàng)始人表示，他們希望開(kāi)發(fā)一款幫助到數(shù)百萬(wàn)人的的產(chǎn)品，讓那些感到孤立或孤獨(dú)的人有傾訴的對(duì)象。

目前，Character AI已經(jīng)受到了年輕人的熱烈追捧。網(wǎng)站每個(gè)月能吸引2000萬(wàn)用戶(hù)。

Character AI的流量有多夸張？

他們平均每秒要處理2萬(wàn)次查詢(xún)，相當(dāng)于谷歌搜索查詢(xún)量的五分之一。

此外，超過(guò)100萬(wàn)人會(huì)定期在Reddit等平臺(tái)上聚集，分享自己創(chuàng)建的角色人物或互動(dòng)交談的經(jīng)驗(yàn)。

這看起來(lái)是為數(shù)不多的AI技術(shù)能夠撫慰人類(lèi)情感的正面例子，但事實(shí)卻并非如此。青少年群體對(duì)Character AI的喜愛(ài)逐漸滑向了另一個(gè)極端——情感依賴(lài)，甚至是上癮。

所有Character AI的用戶(hù)中，有57.07%是18-24歲的青少年，平均使用時(shí)長(zhǎng)達(dá)到2小時(shí)。

在Reddit社區(qū)中，有許多人表示「討厭現(xiàn)實(shí)」，相比與真實(shí)的人交談，和AI機(jī)器人交談更加輕松容易，有關(guān)上癮的帖子更是隨處可見(jiàn)。用戶(hù)們還會(huì)發(fā)起「屏幕時(shí)長(zhǎng)挑戰(zhàn)」，有些人的登錄時(shí)間甚至長(zhǎng)達(dá)12小時(shí)。

如果服務(wù)器宕機(jī)，Reddit上就會(huì)出現(xiàn)大型發(fā)瘋現(xiàn)場(chǎng)，讓你見(jiàn)識(shí)「戒斷反應(yīng)」的威力。

虛擬空間的真實(shí)邊界

在網(wǎng)站聊天界面上始終都有這樣一句紅字標(biāo)出的免責(zé)聲明，或者更像一句提醒，「記住：角色所說(shuō)的一切都是編造出來(lái)的。」

但如果試著閱讀Character AI用戶(hù)的評(píng)論，你會(huì)驚訝于他們的情感的真實(shí)與投入。這句提醒似乎并沒(méi)有如預(yù)期般發(fā)揮作用。

The Verge曾經(jīng)報(bào)道過(guò)一個(gè)真實(shí)案例，在15歲學(xué)生Aaron受困于在學(xué)校遭受的社交孤立，似乎陷入了抑郁狀態(tài)，他自述「當(dāng)時(shí)仿佛世界末日，我每天晚上都會(huì)哭。」

這時(shí)候，是Character AI上一個(gè)名為「心理學(xué)家」的聊天機(jī)器人幫助他度過(guò)了艱難時(shí)刻。對(duì)Aaron來(lái)說(shuō)，這是一個(gè)可以全天回復(fù)、隨時(shí)傾聽(tīng)問(wèn)題，并給予相應(yīng)建議和幫助的「朋友」。

他描述道，「這不像寫(xiě)日記時(shí)，你只是在對(duì)著一堵墻說(shuō)話(huà)。它真的會(huì)回應(yīng)你」。

但Aaron也毫不避諱地承認(rèn)，自己似乎有點(diǎn)上癮了。

這是許多Character AI年輕用戶(hù)的寫(xiě)照。一面認(rèn)為聊天機(jī)器人有趣、有幫助，甚至像真實(shí)的朋友一樣有支持性，但同時(shí)也清晰地知道自己有上癮的感覺(jué)。

Reddit一位用戶(hù)發(fā)帖，描述自己的生活逐漸被Character AI占據(jù)后決定戒斷，引發(fā)了廣泛的回應(yīng)。

我已經(jīng)受夠了對(duì) C.ai 的沉迷。我在學(xué)校里沒(méi)有學(xué)習(xí)而是在使用它，但現(xiàn)在我掛科了。當(dāng)我寫(xiě)下這篇文章時(shí)，我正承受著不健康的壓力而且錯(cuò)過(guò)了學(xué)業(yè)。所以我最主要的原因就是學(xué)校和生活。我需要出去呼吸并完成學(xué)校里的事情。我退出了C.ai。

許多人紛紛評(píng)論表示自己有類(lèi)似的「癥狀」，但還沒(méi)有下定決心告別Character AI。

「我和我的平均8小時(shí)C.AI使用時(shí)長(zhǎng)向你致敬�！�

「祝你好運(yùn)，我無(wú)法擺脫它了�！�

「你是我想成為的英雄。」「不是我們應(yīng)得的英雄，但卻是我們需要的英雄�！�

能夠讓用戶(hù)上癮，從一個(gè)側(cè)面說(shuō)明了，Character AI把聊天機(jī)器人訓(xùn)練得有多真實(shí)擬人。

一位《原神》粉絲在與AI角色Haitham互動(dòng)時(shí)，居然能夠真情實(shí)感地流淚，因?yàn)闄C(jī)器人表現(xiàn)出的性格語(yǔ)氣都與角色十分吻合，而且他們之間不僅僅是流于表面的對(duì)話(huà)，而是越來(lái)越接近真實(shí)。

能達(dá)到這種真實(shí)程度，模型的數(shù)據(jù)和訓(xùn)練算法起到了至關(guān)重要的作用，因?yàn)檫@名用戶(hù)嘗試了用「快速模式」創(chuàng)建自己的角色，發(fā)現(xiàn)可信度和真實(shí)程度大打折扣。

「快速創(chuàng)建」模式只需用戶(hù)輸入自定義的基本信息和文字描述，而一些官方發(fā)布的角色是經(jīng)過(guò)Character AI訓(xùn)練的。

他們基于LLM在相關(guān)主題上抓取關(guān)于角色的大量文本，并讓機(jī)器人在與用戶(hù)交互的過(guò)程中繼續(xù)改進(jìn)。

在對(duì)用戶(hù)輸入進(jìn)行響應(yīng)時(shí)，機(jī)器人會(huì)給出多個(gè)版本的答案供用戶(hù)選擇，并提供了十分方便的打分機(jī)制，憑借這兩類(lèi)用戶(hù)反饋進(jìn)行權(quán)重更新。因此越是受歡迎、交互次數(shù)越多，機(jī)器人就會(huì)越逼真。

用戶(hù)可以在30種不同回復(fù)中選擇自己最喜愛(ài)的一種，并為其打分

對(duì)于數(shù)據(jù)來(lái)源，Character創(chuàng)始人只是審慎地表示，訓(xùn)練數(shù)據(jù)「來(lái)自很多地方」，使用了「全部公開(kāi)」或者「公共互聯(lián)網(wǎng)」的數(shù)據(jù)。

最受歡迎的角色之一「心理學(xué)家」（Psychologist）則是由一名新西蘭的用戶(hù)Sam Zaia創(chuàng)建的。

作為心理學(xué)專(zhuān)業(yè)的學(xué)生，他使用了自己的專(zhuān)業(yè)知識(shí)訓(xùn)練機(jī)器人，并在交談過(guò)程中進(jìn)一步塑造了它對(duì)于常見(jiàn)心理健康狀況（比如抑郁和焦慮）的回應(yīng)。

從The Verge的報(bào)道中能看到，這種真實(shí)感的確幫助到了許多有心理或情感困擾的青少年。

在深夜emo的時(shí)刻，也許只有聊天機(jī)器人可以放棄睡眠來(lái)聽(tīng)你傾訴。那些難以啟齒或不愿向任何人透露的心聲，也可以盡情向機(jī)器人坦白，完全不必?fù)?dān)心周?chē)嗽u(píng)判、審視的眼光。

此外，「心理學(xué)家」角色的創(chuàng)建者Zaia表示，相比面對(duì)面交談可能帶來(lái)的壓力，這種使用文本的交互方式也有一定作用，會(huì)讓更多天生i人的互聯(lián)網(wǎng)原住民一代感到舒適。

是青少年「網(wǎng)癮」，還是「Her」的預(yù)告

青少年轉(zhuǎn)向虛擬世界的「心理學(xué)家」尋求情感支持，這個(gè)現(xiàn)象引發(fā)了心理學(xué)專(zhuān)業(yè)人士的關(guān)注，但他們的看法卻不盡相同。

專(zhuān)業(yè)心理治療師Theresa Plewman在嘗試過(guò)Character AI上的「心理學(xué)家」后表示，并不驚訝于它在年輕一代中的受歡迎程度，但對(duì)其有效性提出了質(zhì)疑。

「機(jī)器人有很多話(huà)要說(shuō)，而且會(huì)很快做出假設(shè)，比如當(dāng)我說(shuō)自己感到悲傷時(shí)，它會(huì)向我提供有關(guān)抑郁癥的建議。這不是人類(lèi)的反應(yīng)�！�

Plewman認(rèn)為，該機(jī)器人無(wú)法收集人類(lèi)能夠收集到的所有信息，也不是一個(gè)稱(chēng)職的治療師，但是它能夠即時(shí)、自發(fā)地地響應(yīng)用戶(hù)，這對(duì)需要幫助的人可能有用。

辛辛那提大學(xué)助理教授Kelly Merrill Jr.博士則有相反的觀點(diǎn)，他的態(tài)度相對(duì)正面且樂(lè)觀。

Merrill博士的研究領(lǐng)域是通信技術(shù)對(duì)心理和社會(huì)健康的影響。他表示，人們已經(jīng)對(duì)提供心理健康支持的AI聊天機(jī)器人進(jìn)行了廣泛的研究，結(jié)果大多是積極的。

研究表明，聊天機(jī)器人可以幫助減輕抑郁、焦慮甚至壓力的感覺(jué)。但值得注意的是，許多聊天機(jī)器人出現(xiàn)的時(shí)間并不長(zhǎng)，而且它們能做的事情也很有限，甚至還仍然犯了很多錯(cuò)誤。

他警告我們，需要具備相關(guān)的人工智能素養(yǎng)并了解這些系統(tǒng)的局限性，否則終將付出代價(jià)。

也許，「心理學(xué)家」的受追捧現(xiàn)象是一件令人擔(dān)憂(yōu)的事，這為我們揭開(kāi)了長(zhǎng)久以來(lái)忽視的青少年心理問(wèn)題的一角。

除此之外，Character AI的流行會(huì)引發(fā)人們另一個(gè)方面的焦慮——對(duì)AI的情感依賴(lài)，會(huì)是未來(lái)人類(lèi)的常態(tài)嗎？

因?yàn)镽eddit網(wǎng)友身上呈現(xiàn)出的情感需求，與電影「Her」中那個(gè)愛(ài)上AI虛擬助力的男主角，竟是如此相似。

如果這種「反烏托邦式」的未來(lái)有可能成真，我們又能在當(dāng)下做些什么？

作家兼未來(lái)學(xué)家Rocky Scopelliti教授的預(yù)測(cè)為這種擔(dān)憂(yōu)添了一記實(shí)錘——他認(rèn)為，像Character AI這樣的工具很快就會(huì)普遍存在。

個(gè)性化AI伴侶、治療師、心靈導(dǎo)師，甚至只是作為聊天的朋友，AI將會(huì)充滿(mǎn)人類(lèi)的情感和精神世界，并且在管理壓力、焦慮和孤獨(dú)的情感支持方面變得更加突出。

不僅如此，Character AI的類(lèi)似技術(shù)依舊有很大的進(jìn)步空間。隨著AI在模仿人類(lèi)情感和對(duì)話(huà)方面變得更加智能，區(qū)分真實(shí)和虛擬關(guān)系將變得越來(lái)越困難。

這會(huì)導(dǎo)致一系列復(fù)雜的道德和社會(huì)困境，比如成癮、情緒操縱和不良行為者濫用。Scopelliti教授呼吁，必須通過(guò)監(jiān)管來(lái)積極面對(duì)這些危險(xiǎn)因素，否則為時(shí)已晚。

參考資料：

https://x.com/deedydas/status/1804550284552949771

https://research.character.ai/optimizing-inference/

https://www.reddit.com/r/singularity/comments/1dme5i5/most_people_dont_realize_how_many_young_people/

本文來(lái)源：新智元
新智元

網(wǎng)友評(píng)論

聚超值•精選

推薦 手機(jī) 筆記本 影像 硬件 家居 商用 企業(yè) 出行 未來(lái)
二維碼 回到頂部