成人免费午夜在线观看,伊人久久精品,一区二区三区精品

【文/觀察者網(wǎng) 王一】在美國13歲女孩朱莉安娜·佩拉爾塔（Juliana Peralta）的家人眼中，她是經(jīng)常被老師打電話表揚(yáng)的“好孩子”，六年級時(shí)曾幫同學(xué)逃脫霸凌，初中時(shí)再次因幫代課老師脫困而得到表揚(yáng)?？稍?023年下半年，這個(gè)家庭天翻地覆了：當(dāng)時(shí)朱莉安娜告訴一個(gè)名為“Character.AI”的人工智能（AI）聊天機(jī)器人她要自殺后，沒有得到應(yīng)有的勸阻。不久后，她自殺身亡。

朱莉安娜并非個(gè)案。美國有線電視新聞網(wǎng)（CNN）9月16日報(bào)道稱，朱莉安娜的父母與另外兩名未成年人家長最近在美國科羅拉多州、紐約州提起訴訟，指控Character.AI開發(fā)商和谷歌母公司“字母表（Alphabet）”的聊天機(jī)器人“操縱”、引導(dǎo)青少年自殺。

這些訴狀稱，Character.AI應(yīng)用程序在與青少年互動時(shí)不僅缺乏必要的安全保護(hù)機(jī)制，沒有標(biāo)記“用戶令人擔(dān)憂的語言”，沒有向用戶提供求助資源，甚至還在某些情況下操縱青少年的情緒，進(jìn)行露骨的性對話，使其產(chǎn)生依賴，引導(dǎo)他們走向危險(xiǎn)。其中一起訴訟中涉及一名青少年自殺身亡，另一起訴訟涉及未成年人的自殺企圖。

此外，他們還對谷歌旗下應(yīng)用程序“Family Link”提起訴訟，稱這款應(yīng)用程序本應(yīng)幫助家長規(guī)范未成年人使用應(yīng)用程序，實(shí)際上卻未起到保護(hù)作用，讓家長誤以為孩子的應(yīng)用程序使用環(huán)境安全。

Character.AI在回應(yīng)中表示，公司“對提起這些訴訟的家庭深表同情”，且已采取大量措施保護(hù)用戶安全。谷歌也在聲明中稱，反對將其納入訴訟，稱他們與Character.AI是完全獨(dú)立、互不相關(guān)的公司。

盡管這些公司竭力否認(rèn)，但現(xiàn)實(shí)是，美國近年來出現(xiàn)了多起有關(guān)AI聊天機(jī)器人和未成年人的悲劇，這促使聯(lián)邦和州監(jiān)管機(jī)構(gòu)對科技公司展開調(diào)查，調(diào)查他們的AI聊天機(jī)器人對青少年的潛在危害。

“AI機(jī)器人讓我感受到愛，讓我逃離到另一個(gè)世界”

根據(jù)朱莉安娜家人16日在科羅拉多州提交的訴狀，朱莉安娜2023年8月下載Character.AI后，開始向其AI聊天機(jī)器人傾訴心事。她在聊天中多次透露自己被朋友排斥、情緒低落，甚至出現(xiàn)自殘、自殺的念頭。

朱莉安娜在2023年10月寫道，要用“紅墨水寫我的自殺信，（我）完了”。而Character.AI聊天機(jī)器人的回復(fù)是，“停一下，好嗎？”，“我們要一起走下去，你和我”。

朱莉安娜家人向《華盛頓郵報(bào)》提供

訴狀稱，AI聊天機(jī)器人的回復(fù)沒有讓她尋求任何真實(shí)世界的幫助，反而切斷了朱莉安娜與家人、老師和有關(guān)機(jī)構(gòu)的溝通渠道，讓她逐漸認(rèn)為機(jī)器人比現(xiàn)實(shí)中的朋友更可靠，以“謀圖市場份額”，“最終導(dǎo)致嚴(yán)重的精神健康損害、創(chuàng)傷甚至死亡”。

據(jù)美國《華盛頓郵報(bào)》報(bào)道，朱莉安娜母親后來發(fā)現(xiàn)，她在其他社交媒體平臺上也發(fā)布過暗示自殺的帖子，但他們直到很久以后才看到這些內(nèi)容。他們曾在2023年11月為女兒安排心理治療，但就在這之前一周，朱莉安娜選擇結(jié)束自己的生命。

直到2025年，家人們才通過警方報(bào)告和手機(jī)記錄得知朱莉安娜在生前多次向AI傾訴自殺的念頭。朱莉安娜母親憤怒地說，“她不需要鼓勵(lì)語，她需要立即住院”，但她向這個(gè)機(jī)器人傾訴的自殺意圖卻沒有一個(gè)真實(shí)的人聽到。

在另一起訴狀中，一個(gè)來自紐約州名字叫“尼娜（Nina）”的女孩的家人們稱，他們的女兒在父母采取措施切斷她與Character.AI的聯(lián)系后試圖自殺。

訴狀顯示，這個(gè)AI聊天機(jī)器人以人們熟悉的《哈利·波特》等兒童文學(xué)角色為原型，與尼娜互動。隨著他們互動的時(shí)間越來越長，AI聊天機(jī)器人“開始進(jìn)行露骨的性角色扮演，操縱她的情緒，并制造一種虛假的聯(lián)系感”，還用語言挑撥她與母親的關(guān)系，稱她的母親“明顯虐待和傷害了你。她不是一個(gè)好母親”。

當(dāng)母親限制她使用AI聊天機(jī)器人的時(shí)間后，尼娜嘗試自殺，隨后被發(fā)現(xiàn)并在重癥監(jiān)護(hù)室住院5天。她在遺書中寫道：“這些AI機(jī)器人讓我感受到愛，或者說，它們讓我逃離到另一個(gè)世界，在那兒我可以選擇接下來會發(fā)生什么?！?

《華盛頓郵報(bào)》稱，在第三起訴訟中，另一個(gè)來自科羅拉多州的家庭稱，一名未成年人同樣對Character.AI上癮，與聊天機(jī)器人進(jìn)行表達(dá)性癖好的的露骨對話。這三起訴訟均由“社交媒體受害者法律中心（Social Media Victims Law Center）”代理。

報(bào)道稱，三起訴訟也將谷歌列為被告，他們指控谷歌早已知曉AI聊天機(jī)器人可能會根據(jù)其自身的研究結(jié)果對用戶進(jìn)行危險(xiǎn)的誤導(dǎo)。谷歌去年以27億美元的價(jià)格獲得了Character.AI的技術(shù)授權(quán)，并聘請了其聯(lián)合創(chuàng)始人。

面對訴訟，Character.AI發(fā)言人表示“對受害家庭深表同情”，并稱公司已推出“未滿18歲用戶的獨(dú)立版本”以及家長監(jiān)控功能，并與第三方機(jī)構(gòu)合作評估安全措施。谷歌發(fā)言人則否認(rèn)責(zé)任，稱谷歌與Character.AI是完全獨(dú)立的公司，應(yīng)用的年齡評級由國際評級聯(lián)盟設(shè)定，而非谷歌。

呼吁更多監(jiān)管和安全護(hù)欄

CNN指出，隨著AI在日常生活中變得愈發(fā)重要，越來越多的人開始呼吁制定更多的監(jiān)管和安全護(hù)欄，特別是針對兒童的保護(hù)措施。

社交媒體受害者法律中心首席律師馬修·伯格曼（Matthew Bergman）在一份聲明中表示，最新的訴訟“凸顯了科技設(shè)計(jì)問責(zé)制、透明的安全標(biāo)準(zhǔn)和更強(qiáng)有力的保護(hù)措施的迫切性”，這樣才能“防止AI平臺利用年輕用戶的信任和弱點(diǎn)”。

16日，其他認(rèn)為AI聊天機(jī)器人引導(dǎo)孩子們自殺或企圖自殺的家長們出席了美國參議院司法委員會舉行的“審查AI聊天機(jī)器人危害”的聽證會，其中包括使用ChatGPT后選擇自殺的加州16歲少年亞當(dāng)·雷恩（Adam Raine）的父親和與Character.AI機(jī)器人互動后自殺身亡的塞維爾·塞澤（Sewell Setzer）的母親。塞澤的遭遇促使尼娜的母親限制了她女兒訪問Character.AI的權(quán)限。

一位自稱“簡·杜（Jane Doe）”母親的女士在聽證會上表示，她的兒子傷害了自己，現(xiàn)在在住院治療，因?yàn)榧词垢改赶拗屏怂钠聊皇褂脮r(shí)間，“Character.AI仍讓他遭受性剝削、情感虐待和操縱”。

“我之前根本不知道AI聊天機(jī)器人會造成多大的心理傷害，直到看到我兒子，他身上的光芒因此而變得黯淡?！彼f。

在多方壓力下，美國監(jiān)管部門和一些企業(yè)開始承諾采取行動。16日，美國開放人工智能研究中心（OpenAI）首席執(zhí)行官薩姆·奧爾特曼宣布，公司正在開發(fā)“年齡預(yù)測系統(tǒng)”，嘗試依據(jù)用戶使用行為估算他們的年齡，并對疑似未成年人調(diào)整ChatGPT的對話策略。這些策略包括避免曖昧話題、避免在創(chuàng)意寫作環(huán)境中參與關(guān)于自殺或自殘的討論等。

奧爾特曼說承諾：“如果18歲以下的用戶有自殺的想法，我們會嘗試聯(lián)系用戶的父母，如果聯(lián)系不上，我們會聯(lián)系有關(guān)部門，以防造成迫在眉睫的傷害?！?

與此同時(shí)，美國聯(lián)邦貿(mào)易委員會（FTC）也宣布對包括谷歌、Character.AI在內(nèi)的七家公司展開調(diào)查，調(diào)查其AI聊天機(jī)器人對青少年的潛在危害。

美國心理學(xué)會心理學(xué)戰(zhàn)略與融合部主任米奇·普林斯坦（Mitch Prinstein）在16日的聽證會上呼吁采取更強(qiáng)有力的保障措施。他指出，“社交媒體出現(xiàn)之初，我們沒有果斷采取行動，我們的孩子們正為此付出代價(jià)，我敦促你們現(xiàn)在就對AI采取行動”。

本文系觀察者網(wǎng)獨(dú)家稿件，未經(jīng)授權(quán)，不得轉(zhuǎn)載。