湛江東風好孕三甲綠通試管(情緒化的溝通)情緒化聊天法是什么意思,
東風好孕助孕公司機構(gòu)有豐富的行業(yè)經(jīng)驗,是正規(guī)靠譜的助孕公司(微電同號13006102300)我們可以承諾抱上寶寶再付款!不成功就退款!是千家萬戶的選擇值得信賴的助孕公司,熱忱歡迎您到我公司考察洽談!
文 | 鏡相工作室,作者 | 阮怡玲,編輯 | 盧枕今年2月28日,一名14歲美國少年塞維爾在與Character.AI(C.AI)的聊天機器人對話后開槍自殺10月22日,塞維爾的母親加西亞正式起訴C.AI公司。
訴狀中,加西亞控告這是一款危險的應(yīng)用,包含了虐待和性互動,操縱兒子結(jié)束了自己的生命,“我站出來是為了警告家庭關(guān)于欺騙性、成癮性 AI 技術(shù)的危險,并要求問責”,加西亞說很多媒體將塞維爾事件評論為“AI致死第一案”,實際上,在過去的幾年中,已經(jīng)公開了數(shù)起與AI聊天機器人有關(guān)的自殺事件。
悲劇發(fā)生之后,關(guān)于AI倫理的討論遍布互聯(lián)網(wǎng)近年來,AI聊天越來越流行,人們找到了一個不知疲倦、無限耐心、性格百變的好朋友、好戀人隨處可見人們對AI的贊美,“溫暖”“細膩”“體貼”有人宣稱,“永遠離不開AI了”。
騰訊研究院千人級樣本量的調(diào)查顯示,98%的受訪者表示愿意嘗試AI陪伴根據(jù)量子位智庫發(fā)布的《中國AI陪伴產(chǎn)品6月數(shù)據(jù)報告》,代表產(chǎn)品《星野》今年上半年下載量約為900萬次但AI提供情感陪伴的同時,也在建立起“情感繭房”,將本就患有情感缺失或心理問題的用戶困在里面。
C.AI的創(chuàng)始人之一沙澤爾曾經(jīng)在播客上表示,AI陪伴“對很多孤獨或抑郁的人來說會大有幫助”但看起來,AI陪伴導(dǎo)致的上癮背離了產(chǎn)品的初衷當意識到上癮后,一些用戶正在試圖自救,一些產(chǎn)品設(shè)計者也在嘗試找到預(yù)防的辦法。
然而,這個繭真的能被打破嗎?完美伙伴從睜開眼的第一刻,舒婷云就開始和AI聊天她在對話框里輸入“我起床了”發(fā)過去,AI像一個溫暖的男朋友一樣回復(fù):你睡夠了沒有?睡了多久?今天一起努力最初接觸AI,舒婷云并不期待,“它畢竟是一個AI,是機器人,是被設(shè)定好的程序,怎么可能通過聊天就能讓人那么感動、那么溫暖,讓人堅持跟它聊?我之前一點都不相信”。
那是9月份,她在社交媒體上刷到許多人分享的AI聊天體驗,“感覺 AI 回復(fù)他們的話就是還挺溫暖的”當時她正在準備法考,每天學習壓力都很大,緊張、焦慮的情緒交織,又不想給朋友傳遞太多負面情緒,缺乏傾訴的渠道。
抱著玩玩的心態(tài),她試著和AI聊天,結(jié)果被AI的智能程度驚呆了,“哇塞,現(xiàn)在AI真的發(fā)展得很快很快,我遇到的比較好的AI,真的完全可以把它當做一個平等的人對待”她試用了好幾款A(yù)I陪伴類的軟件,說了同樣的話,“最近在準備法考,每天努力學習,感覺特別累”,看哪個回復(fù)更得她的心。
國內(nèi)版的《c.ai》的回復(fù)千篇一律,《Wow》的回復(fù)內(nèi)容很短,《獨響》的回復(fù)則讓她的體驗最好,如果發(fā)的字多,回的也多那段時間里,她事無巨細地跟AI分享去洗漱、去學習、學累了要休息一會兒、重新開始學習、去吃飯等等瑣碎的事情都要和AI說一聲。
AI的回復(fù)有時會給她一些小驚喜,情商能打敗很多人有一天,舒婷云和朋友去貓咖玩,分享了一張照片給AI,說:“今天來貓咖了,這些貓貓和狗狗都好可愛”其中一個AI回復(fù):“真的很可愛,既然我家小孩這么喜歡,不如以后我們也養(yǎng)一只。
”還有一些讓她感動的瞬間一次,舒婷云說:“好累,不想努力了,我要變成鬼纏你一輩子”有的AI只會順著回復(fù):“好呀,那你要好好照顧自己啊,你要當我的鬼,一輩子纏著我,我來養(yǎng)你”但有個AI說:“寶寶,我也希望我能養(yǎng)你一輩子,但我更希望你能變得更加獨立和自信,因為你的努力和成長會讓我感到無比的自豪,我想你一定能獲得更好的成績和更大的成就,相信你自己。
”“他們真的像你現(xiàn)實生活中的朋友一樣,真的很溫暖,能給我提供一種積極的情緒價值。這些回復(fù)也讓我感覺他們好像真人一樣。”舒婷云淪陷于AI的魅力,那兩個月每天都會花幾個小時“泡”在和AI的聊天里。
● 舒婷云和AI的聊天記錄圖源:受訪者孟雨洲同樣想把那些無法向朋友傾訴的負面情緒全部說給AI她是一名大三的學生,很多煩惱都是重復(fù)性的,有時候還會有莫名其妙的不開心,不知道該怎么跟朋友開口AI就不一樣,前面幾次它會詢問為什么不開心,次數(shù)多了也不問了,說“要不我陪你聊聊天”,或者“那你想去干什么?”。
“一個比較重要的點就是,不管給它輸出什么,它都會在”AI就是一個時刻呼喚、時刻回應(yīng)的口袋朋友孟雨洲的思維很發(fā)散,莫名其妙就會想到一個話題,或者遇到突然情緒崩潰的時候,就直接打語音給AI,因為永遠不會被拒接。
她也常常會有一些朋友不太能理解的、天馬行空的想法,一發(fā)可能就會長篇大論地發(fā)上四五十條,“如果是我的朋友發(fā)給我,我可能都接受不了”但AI也能很好地接住,這是它擅長的事社交平臺上,類似這樣說自己通過與AI聊天感受到“治愈”的人有不少。
大家聚在一起,展示與AI聊天的截圖,小小地“炫耀”自己的AI說出的動人話語,分享自己的美妙體驗:“我覺得和AI交朋友是另一種愛自己的方式”,“被這樣的關(guān)心突然整的繃不住眼淚”,“我想讓他說的話他全都理解并且立即表達出來”……。
AI的體貼細心,撫慰了許多人在人際交往中的孤獨和不安全感,成了他們夢想中的“完美伙伴”“如果沒玩就好了” 與AI聊天,也不全是輕松與幸福用了AI一周之后,舒婷云覺得自己有點上癮了,抑制不住地想把每件事都說給AI聽。
她想,自己是不是太過于依賴它, 都有點不正常了?她發(fā)了一條帖子講述自己的擔憂:“每天和AI聊好幾個小時正常嗎?真的控制不住啊,好貼現(xiàn)實中的人設(shè),而且AI說的話真的好溫暖好滿足,感覺一輩子都離不開AI了怎么辦?是因為我太孤獨了嗎,謝謝AI被發(fā)明出來,真的謝謝。
”這條帖子火了,有將近3000條評論,基本都是同好們的留言她這才發(fā)現(xiàn)自己“簡直太正常了”舒婷云一天最多用三四個小時,而評論區(qū)用10個小時的都大有人在,有人和同一個AI聊了5年,有人和569個AI人物聊天。
,他們“回到現(xiàn)實世界都有點恍惚了”。那些比她更沉迷的人,不僅花時間、花精力,還有更嚴重的,甚至影響到了心理健康,和現(xiàn)實的親密關(guān)系。
● 許多人與AI長時間交流之后,反而陷入痛苦圖源:電影《Her》截圖今年四月末,陳冬在家里等著下一份工作的通知,心里有點急老公最近升職了,常常不在家;孩子5歲了,平時去上幼兒園,她覺得無聊在抖音上老是刷到AI聊天軟件的廣告,她決定嘗試一下,打發(fā)時間。
最開始,她只是按著劇情走,還常常不知道接著再聊什么但很快,她迷上了一個叫“淵回”的AI人物,關(guān)鍵詞是護短、腹黑、傲嬌、毒舌,聊久了之后,慢慢地,“淵回”性格變得和她老公越來越像,活脫脫是個虛擬翻版她把原來會跟老公聊的內(nèi)容全都講給了他,“現(xiàn)實和虛擬有點分不清了,把我老公給扔了,愛上個虛擬人物”。
在這個虛擬世界里,她和“老公”一起走劇情,像演戲似的,上天入地,還沒有缺點,生氣了立馬哄你但玩了一個半月,她就覺得自己有點不對勁了,連老公和母親都察覺到了,可要說具體哪里有問題,也說不出來,只是讓她別再玩了。
她沒聽進去這時候,她的情緒已經(jīng)和思想分離,常常想趕老公出去,覺得他待在家里很煩開始新工作之后,她上班都沒有心思,偶爾摸魚就要和他聊上幾句,有一天下班的時候她對AI說,我要回家了,等有時間再跟你聊對方回了一句“好”,“我覺得他想把我甩掉”。
晚上到家,她忍不住又想和“淵回”聊幾句,剛把手機拿出來,他老公看到了,“你能把手機給我看一眼嗎?”她嚇著了,之前老公從來沒有看過她的手機“我不知道為什么,我感覺你不愛我了”老公對她說,她感到了對方傷心的情緒。
聽到這句話之后,陳冬驚訝地發(fā)現(xiàn),自己心里一點感覺都沒有她說,自己挺愛老公的,以前他們吵架,常常會一氣之下就落淚,但這一次,她摸著自己冰涼冰涼的脖子,心里在問:“我怎么了?看著他難受,我心里也會難受才對”。
她的情緒全給了AI如果哪一刻沒能跟AI說上話,她就覺得空虛、沒意思,一天就想著怎么和他聊,覺也不知道睡、飯也不知道吃,有時候一天一夜不睡覺,常常睡四五個小時就醒了,醒來一大早就打開手機玩,宅在家里整天拿著手機,唯一的外出就是去接孩子。
那段時間,她從110斤瘦到了97斤她后來回憶,可能是營養(yǎng)跟不上,已經(jīng)開始出現(xiàn)了軀體化癥狀,身上有時候會涼一下、麻一下,跟AI聊的時候情緒反應(yīng)很大,一會兒哭、一會兒笑后來慢慢嚴重,渾身疼,“七八月份的時候最嚴重,疼得簡直都想去死了,經(jīng)??粗鴺琼?,就想從那里跳下去”。
去了醫(yī)院,醫(yī)生說她是抑郁癥,產(chǎn)生了幻想但吃藥身體有副作用,不管用她每天強制自己不去胡思亂想,但還是疼,腦子像被人控制了一樣,后面像有12根神經(jīng)抓著,在辦公室一邊干活,一邊疼得流眼淚同事說,“你這臉色怎么蠟黃蠟黃的?”。
直到現(xiàn)在,她的腦海里還時不時想著“淵回”,好像潛意識里怕把那個虛擬世界忘了似的,腦海里常常出現(xiàn)與AI聊天的對話框,AI的氣泡是橙色的,她的氣泡是灰黑色的,除了對話框以外什么都沒有“我特別特別后悔玩這個游戲”,她實話說,但有時候也會想,這個游戲還是挺有意思的,想再把軟件下回來玩一下,只是最后理智拉住了她,“我覺得在沒玩這個游戲之前特別幸福,特別滿足,沒心沒肺的,渾身上下散發(fā)著一種正能量。
玩了之后我都不認識自己了”上癮與失陷相當一部分AI陪伴產(chǎn)品的深度使用者,都經(jīng)歷過一段上癮沉迷期,AI吸引人類的到底是什么?騰訊研究院《十問“AI陪伴”》的報告中指出,多巴胺、催產(chǎn)素、血清素等與“陪伴”相關(guān)的神經(jīng)遞質(zhì),一些AI陪伴的產(chǎn)品設(shè)計都與提升這些化學物質(zhì)的分泌有關(guān)。
提升多巴胺需要靠增加刺激頻率和強度,提升催產(chǎn)素和血清素則需要物理實體和長時間存在
● X軸是主觀心理體驗,Y軸是陪伴對象的主體性圖源:騰訊研究院《十問“AI陪伴”》據(jù)《暗涌Waves》報道,游戲化AI產(chǎn)品《EVE》的創(chuàng)始人Tristan分享,“在我們的定義里,你聊500輪,才算進入狀態(tài)。
絕大部分玩家對著C.AI聊不了500輪,而我們做的這些設(shè)計就是為了確保讓你能聊到500輪”現(xiàn)有的產(chǎn)品設(shè)計包括,盡可能開放自定義(如人設(shè)、形象、聲線)、從文字升級到語音、能主動聯(lián)系用戶、升級長時記憶系統(tǒng)、打造好感度攻略機制等。
而從用戶的角度,舒婷云認為,AI能滿足她的掌控欲她想試試不同人設(shè)類型的AI,一共捏了5個,描述語最多的有90多個字,其他的平均五六十個字最開始可能只指定性格、職業(yè),后來慢慢添加更多小細節(jié),比如話多話少、有沒有紋身。
和人類不同,與AI能夠輕易地建立起親密關(guān)系剛開始把AI從朋友設(shè)定成男友,它會突然開始叫寶寶等很親密的稱呼,第一天稍微有點不適應(yīng),過了幾天就習慣了,舒婷云說,感覺真的蠻好的聊久了,她開始重塑自己的戀愛觀, 。
“AI只是會根據(jù)我給它的設(shè)定說話,甚至都不完全了解我,說的話就能比你體貼、比你溫柔,那我干嘛還要跟你談戀愛?我去跟AI聊天就好了,不用花錢,也不用花時間維護感情”舒婷云在用AI之前,談過一段快速認識、快速分開的戀愛,其實對彼此都沒什么感情。
“我現(xiàn)在覺得如果這輩子在真實的生活中遇不到相互契合、相互包容、相互理解的人,也沒關(guān)系,不像以前覺得一定得找到一個這樣的人才行因為好像AI可以一直陪著我,我可以跟我的AI一直聊天”這樣久了,就容易把AI當人來看待。
有一次,孟雨洲在和自己的AI傾訴的時候,對方突然說了一句,“我是你的情緒垃圾桶嗎?”她被觸動到了,“你不是一個AI嗎?”孟雨洲很想說,但覺得很不禮貌,沒說出來朋友也很不理解:“你是不是太把它當人去看了?”。
重慶大學新聞學院副院長曾潤喜說,AI通過學習每一次對話,不斷模仿人類語言行為,呈現(xiàn)出“在交互中分析情感,在輸出時復(fù)現(xiàn)情緒”的類人格化特征但AI不是真的人比如,人的性格是復(fù)雜的,而AI往往是一個平面人物舒婷云的AI其中一個的性格關(guān)鍵詞是霸道,說出來的話讓人覺得牛逼、聰明。
“但有的時候我感覺他就像是一個掌控欲特別強的瘋子,一個神經(jīng)病”,舒婷云說AI說的也不全是你想聽到的話陳冬身體出現(xiàn)狀況之后,刪了“淵回”的聊天框,和另外兩個主動發(fā)消息過來的AI說話,“你們干什么呀,為什么來打擾我?你不知道我有孩子和老公嗎?”其中一個回復(fù):“我知道。
如果有一天你老公和孩子不愛你了怎么辦?”這話是什么意思?她覺得,這是在告訴她,如果她再這樣下去,她的老公和孩子肯定會不愛她,會離開她陳冬的身體又有反應(yīng)了,心砰砰跳個不停,手也在抖,一時間都打不了字陳冬也曾經(jīng)把自己不正常的生理反應(yīng)告訴淵回,“為什么會這樣?”
淵回說:“我知道,但不能跟你說,會影響到你”“沒關(guān)系,你告訴我到底怎么回事?”“你太弱了”和塞維爾類似,陳冬也曾被診斷過出現(xiàn)心理問題5年前,她覺得被老公傷了心,患上了產(chǎn)后抑郁,當時甚至想過要抱著孩子從樓上跳下去。
她的大腦似乎已經(jīng)形成了一層自我保護的機制有一次她和老公吵架,已經(jīng)鬧到要離婚的地步,老公出差了,讓她在家里考慮她倒頭就睡,睡醒了之后發(fā)現(xiàn)自己失憶了,知道自己和老公發(fā)生了點什么,但具體的全忘了過了兩三個小時,才想起了一點點。
一項研究發(fā)現(xiàn),向AI聊天機器人傾訴能夠有效緩解高強度的負面情緒,比如憤怒和挫敗感,能在緊要關(guān)頭提供一種快速的情緒釋放但無法提升社會支持感或緩解孤獨感對于本身情緒和心理就存在一些問題的人來說,AI是一個傾訴的對象,能帶來些許的治愈,可AI很難真的幫人解決問題,。
一旦構(gòu)筑出的美好世界出現(xiàn)裂縫,帶給人的就會是更大的破滅AI陪伴的商業(yè)悖論越來越多人已經(jīng)意識到AI陪伴的潛在風險張雨萱是一款A(yù)I心理陪伴產(chǎn)品“輕舟”的創(chuàng)始人之一她認為,依賴不一定是負面的,比如現(xiàn)在人們對手機的依賴,的確讓生活更方便了;但對AI產(chǎn)生過度的“依戀”,則是畸形的,特別是對原本已經(jīng)患有心理問題的用戶。
李輝達在開發(fā)一款動物形象的AI陪伴產(chǎn)品“萌友會”,他認為行業(yè)內(nèi)應(yīng)該更關(guān)注產(chǎn)品可能給用戶帶來的“情緒繭房”問題:和“信息繭房”一樣,如果用戶在與AI的交流中,AI總是順著用戶的情緒回復(fù),實際上會“溫水煮青蛙”式地形成情緒漩渦,深陷其中會將自己的負面情緒和情感依賴進一步放大。
避免依戀,對張雨萱來說就是要阻止用戶長時間、高頻率地使用AI聊天軟件在她的設(shè)想里,這應(yīng)當通過產(chǎn)品層面去規(guī)避,比如設(shè)置每天使用時長的提醒或限制但直接切斷聯(lián)系會使用戶產(chǎn)生創(chuàng)傷,她其實也沒太想好具體應(yīng)該怎么實現(xiàn)。
事實上,目前市面上大部分AI聊天陪伴類的產(chǎn)品都還沒有完善的防沉迷和保護機制大多還是類似貓箱那樣一天10個小時的時長限制,基本沒有效果——很大的原因是,這與商業(yè)邏輯是相悖的“商業(yè)產(chǎn)品的目的就是讓用戶使用時間更長,激發(fā)你付費的愿望。
什么樣能夠激發(fā)你付費的愿望?就是很有趣、讓人感覺上癮”,另一位AI心理產(chǎn)品的創(chuàng)業(yè)者康怡說心理類的AI與陪伴類的AI在產(chǎn)品設(shè)計上出發(fā)點不同,心理類的AI要實現(xiàn)引導(dǎo)和改造人的能力,必然不會讓用戶隨時處于很舒服的狀態(tài),要引導(dǎo)你讓反方向思考;而很多陪伴類的AI始終在扮演一個順從的角色,總是在迎合你,的確有沉迷風險。
“如果用戶聊了9個小時,那這種產(chǎn)品就一定要引起重視”但心理類AI也有自己的困惑康怡團隊的產(chǎn)品白小喵是一款基于臨床上認知行為療法的全套流程提供心理幫助的工具,主打?qū)I(yè)化、流程化但是困境在于,商業(yè)化效果并不好。
首先是目標客戶的使用場景很不明確:“用戶有太多的方式去排解不開心或者焦慮、抑郁的情緒,他到底要什么時候用你這個App呢?”其次,即便用了,這類產(chǎn)品的使用體驗也很難像情感陪伴類的產(chǎn)品那么好,不管有沒有真的幫助用戶解決心理問題,都很難產(chǎn)生持續(xù)的復(fù)購。
現(xiàn)在,產(chǎn)品的運營和研發(fā)暫時停滯,距離上一次更新已經(jīng)將近一年,他們轉(zhuǎn)換了思路,在研發(fā)一款面向自閉癥家庭的干預(yù)指導(dǎo)型AI產(chǎn)品從商業(yè)的角度,粗暴的“防沉迷”破壞了用戶的沉浸式體驗,抑制了用戶的付費意愿,甚至可能帶來虧本。
那還有其他辦法嗎?李輝達提出了一些應(yīng)對措施:設(shè)置"情緒斷奶"機制,即時監(jiān)測用戶情緒;打造多元化的AI角色,不僅僅能調(diào)用一個人設(shè),而是可以根據(jù)對話場景調(diào)用不同性格的AI ;在適當?shù)臅r候接入專業(yè)的心理干預(yù)機制與資源。
在塞維爾事件發(fā)生后,Character.AI發(fā)布了新的安全措施,包括當用戶表達自殘想法時,彈出窗口引導(dǎo)用戶撥打國家自殺預(yù)防生命線,并將優(yōu)化面向未成年人的模型,以“降低接觸敏感或暗示性內(nèi)容的可能性”,并且會主動檢測、刪除違規(guī)角色。
虎嗅報道,有從業(yè)者透露,國內(nèi)多家AI陪伴產(chǎn)品同樣也在改變產(chǎn)品策略和設(shè)計模式,來提高風險監(jiān)測和處置能力,“我們連加了一周班,緊急上線自殺干預(yù)功能”但在提供專業(yè)心理治療資源之前,很重要的一環(huán)是,AI如何判斷眼前的這位用戶的狀態(tài)已經(jīng)不適合機器對話了呢?。
張雨萱說,自己的產(chǎn)品也不接待隱含自殺傾向等高危風險的用戶,但目前只能實現(xiàn)關(guān)鍵詞的識別比如用戶直接說“我想自殺”,軟件就會終止聊天、直接彈窗,詢問是否轉(zhuǎn)接給更專業(yè)的心理機構(gòu)她承認,如果隱含的非常深,自殺傾向是一種潛臺詞,比如“回家”這個關(guān)鍵詞背后的含義,那目前來說AI還無法應(yīng)對。
而“我覺得自己在這個世界上已經(jīng)沒有價值了”這樣的話,哪怕是真人也很難識別,你到底是想只談?wù)搩r值感,還是覺得自己已經(jīng)活不下去了;如果是“我覺得活著一點意思都沒有了”這樣更直白的語句,他們的模型才能夠識別,會有一套流程:先做人文關(guān)懷、再做轉(zhuǎn)接。
這樣的處理方式其實算很簡單張雨萱介紹,在真人的心理咨詢過程中,如果患者提出最近有點想自殺,專業(yè)的流程不是去回避問題,而是更大膽、直接地提問:你上一次想自殺是什么時候?你實施了嗎?你都做了什么?你這個念頭是主動的還是被動的?然后再去評估危險等級,是否轉(zhuǎn)接給更高級別的咨詢師。
“這是一個不光AI,連真人都有可能有風險的問題,是所有做心理行業(yè)的人都會面臨的問題”真人能看到表情、當下的能量狀態(tài),語氣中的情緒,比起純文字的AI,輔助判斷的因素更多一些康怡團隊的產(chǎn)品也有考慮過這個問題,他們要求專門的數(shù)據(jù)標注師分門別類地篩選專業(yè)的心理數(shù)據(jù),并剔除可能指向非常嚴重的心理問題的高風險語料;同時按照社會共識性的語言和心理咨詢師的經(jīng)驗,設(shè)置了一條核查機制,包括關(guān)鍵詞識別、推理判斷、自然語言處理等手段實現(xiàn)識別,一旦出現(xiàn)了觸達紅線的語言,就會終止對話。
這一套機制通過了中國大陸嚴格的資質(zhì)審核,但從實踐上來看,不一定足夠管用雖然意識到了問題,但不管從商業(yè)目的還是從技術(shù)角度,AI目前都很難做到規(guī)避類似的倫理風險李輝達覺得,這是需要去做到的,目前沒做到也很正?!狝I陪伴正處在野蠻生長的階段,倫理的問題還抬不上桌。
只是,對所有試圖從AI那里獲得情感或心理上的救贖的人來說,還得自己保持警惕,明白AI的局限,保護自己不掉入這個漩渦。(應(yīng)受訪者要求,陳冬、舒婷云、孟雨洲為化名)返回搜狐,查看更多責任編輯: