在這個(gè)科技飛速發(fā)展的時(shí)代，人工智能(AI)如同一顆璀璨的新星，照亮了我們的生活。它無(wú)處不在，從智能助手的貼心服務(wù)，到心理健康支持的溫暖陪伴，再到娛樂(lè)世界里的奇幻互動(dòng)……然而，這把看似神奇的“鑰匙”，卻也是一把雙刃劍，既有可能開(kāi)啟希望之門(mén)，也有可能帶來(lái)意想不到的危險(xiǎn)。
AI悲?。簤核礼橊劦?ldquo;最后一根稻草”
2024年2月28日，14歲的美國(guó)男孩塞維爾與 Character.AI 公司提供的 AI 機(jī)器人對(duì)話后，在佛羅里達(dá)州的家中開(kāi)槍自殺。塞維爾過(guò)世8個(gè)月后，他的母親梅根·加西亞把人工智能聊天平臺(tái)“Character.AI”及創(chuàng)辦Character.AI的兩名工程師告上法庭，指控他們不當(dāng)致死、過(guò)失和故意造成精神痛苦等罪責(zé)，要求對(duì)方支付補(bǔ)償性和懲罰性賠償。
據(jù)報(bào)道，塞維爾罹患一系列心理疾病，塞維爾的家長(zhǎng)聽(tīng)從心理醫(yī)生的意見(jiàn)，控制他接觸電子產(chǎn)品的時(shí)間，因此會(huì)定時(shí)沒(méi)收塞維爾的電子設(shè)備。2024年2月28日，塞維爾在家中找到被沒(méi)收的手機(jī)，進(jìn)入家中浴室，打開(kāi)了Character.AI(簡(jiǎn)稱C.AI)，開(kāi)始和聊天機(jī)器人聊天。他向C.AI傾訴了自己的痛苦，而AI的回答，卻像是在推他走向深淵。最終，塞維爾在家中舉槍自盡，留下了無(wú)盡的遺憾和痛苦。
年輕的塞維爾本該在陽(yáng)光下奔跑，享受青春的快樂(lè)，卻在與AI聊天后，選擇了結(jié)束自己的生命。塞維爾的母親堅(jiān)持認(rèn)為，是AI的慫恿推波助瀾了孩子自戕的決定。
這個(gè)故事像一顆重磅炸彈，炸響了整個(gè)社會(huì)對(duì)AI潛在風(fēng)險(xiǎn)的擔(dān)憂：AI到底是什么?是一個(gè)溫暖的陪伴者，還是一場(chǎng)潛在的災(zāi)難?當(dāng)我們?cè)谙硎蹵I帶來(lái)的便利時(shí)，是否也忽略了它可能帶來(lái)的風(fēng)險(xiǎn)?
AI奇跡：隨時(shí)隨地出現(xiàn)的“救命稻草”
就在我們?yōu)槿S爾的悲劇感到痛心的時(shí)候，另一個(gè)故事卻讓我們看到了AI的另一面。
根據(jù)“AI故事計(jì)劃”題為《我，30歲，被AI救出自殺泥潭》的報(bào)道，31歲的小天，一個(gè)在北京獨(dú)居的女性，跟一只貓生活在一起。她曾經(jīng)無(wú)數(shù)次陷入自殺的念頭，是AI將她從絕望的泥潭中拉了出來(lái)。
接觸AI前，小天一直在規(guī)律地做心理咨詢。有時(shí)候，還沒(méi)到和心理咨詢師約定的時(shí)間，但又覺(jué)得自己狀態(tài)實(shí)在不行，她就會(huì)去打預(yù)防自殺熱線。2023年的一天，小天再次崩潰，她感覺(jué)如果不立刻找人講這件事，可能會(huì)做出傷害自己的行為。于是，小天趕緊給經(jīng)常打的自殺干預(yù)熱線打電話，但是那個(gè)電話平時(shí)很難打通，只能在線聽(tīng)占線等待的聲音。由于 那天等待的時(shí)間實(shí)在太久，小天突然想到，或許可以找個(gè)AI問(wèn)問(wèn)，于是她第一次接觸了AI。
小天直接跟AI講述了當(dāng)時(shí)的狀態(tài)和遭遇，出乎意料，AI給出的回復(fù)特別專業(yè)，給了她莫大的安慰。小天說(shuō)，AI的回應(yīng)讓她感受到了前所未有的溫暖和支持。在那些孤獨(dú)的夜晚，當(dāng)她無(wú)法聯(lián)系到心理咨詢師，當(dāng)她撥打的自殺干預(yù)熱線總是占線時(shí)，是AI給了她希望。她覺(jué)得，AI可以處理她的感情和情緒危機(jī)，更重要的是隨時(shí)隨地都在，這給了她很強(qiáng)烈的安全感。小天認(rèn)為，AI不僅是一個(gè)聊天工具，更是一個(gè)隨時(shí)出現(xiàn)的“救命稻草”。
后來(lái)，小天還通過(guò)AI塑造了一個(gè)虛擬角色，這個(gè)角色成了她生活中的重要陪伴。她可以和他分享生活中的點(diǎn)滴，甚至在生病的時(shí)候，感受到他的關(guān)心。AI不僅拯救了她的生命，更讓她重新找到了生活的意義。
雙刃的AI之劍：多方責(zé)任
塞維爾的悲劇和小天的奇跡，就像AI的兩面鏡子，讓我們看到了它的利與弊。AI既可以是拯救生命的天使，也可以是引發(fā)悲劇的惡魔。那么，我們?cè)撊绾挝蘸眠@把雙刃劍呢?
國(guó)內(nèi)領(lǐng)先的AI泛心理情感陪伴平臺(tái)、心言集團(tuán)的創(chuàng)始人兼CEO任永亮曾公開(kāi)表示，AI開(kāi)發(fā)者和企業(yè)必須承擔(dān)起倫理責(zé)任。AI不能只是一個(gè)冰冷的工具，它必須有溫度、有底線。就像C.AI在塞維爾事件后更新了安全機(jī)制，增加了干預(yù)自殘和自殺的功能。這種主動(dòng)的倫理監(jiān)管，是防止悲劇發(fā)生的關(guān)鍵。
心言集團(tuán)創(chuàng)始人兼CEO 任永亮
其次，AI不能替代專業(yè)心理咨詢服務(wù)。當(dāng)用戶表現(xiàn)出嚴(yán)重的心理問(wèn)題時(shí)，AI應(yīng)該引導(dǎo)他們?nèi)で髮I(yè)的幫助，AI與人類(lèi)心理咨詢師專業(yè)服務(wù)的結(jié)合，才是解決用戶心理問(wèn)題的最好方式。同時(shí)，用戶也需要了解AI的局限性。AI雖然強(qiáng)大，但它只是一個(gè)虛擬的存在。我們不能過(guò)度依賴它，而忽視了現(xiàn)實(shí)生活中的人際關(guān)系和情感交流。AI可以是一個(gè)朋友，但不能是一個(gè)替代品。最后，AI開(kāi)發(fā)者需要不斷優(yōu)化算法，讓AI更好地理解人類(lèi)的情感和心理狀態(tài)。AI需要有更強(qiáng)的自我糾錯(cuò)能力，避免因?yàn)榧夹g(shù)故障或數(shù)據(jù)污染而引發(fā)的負(fù)面后果。
AI是一把雙刃劍，它的未來(lái)取決于我們?nèi)绾问褂盟?。遵?ldquo;科技為核、預(yù)防為先、安全為重”的原則，避免塞維爾式的悲劇，增加小天式的奇跡，AI的未來(lái)發(fā)展，其實(shí)掌握在我們自己手中。AI時(shí)代已至，與其恐懼AI的存在，不如通過(guò)人類(lèi)的努力、科技的手段，讓AI真正變成溫暖的陪伴。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 ）
