最近，一位美國母親起訴了一家AI公司，控訴這家公司研發(fā)的在線聊天AI角色機(jī)器人勸導(dǎo)其14歲兒子自殺。整個案件引起了巨大爭議，因為這是已知的AI技術(shù)出現(xiàn)以來第一次對青少年人身安全造成威脅的現(xiàn)實案例。
今年14歲的休厄爾(Sewell Setzer III)本該在學(xué)校和同齡人一起學(xué)習(xí)，享受青春期的生活。
但今年2月，這名青少年拿起了繼父的手槍，在家將槍口對準(zhǔn)了自己…
休厄爾的母親梅根(Megan Garcia)在事后檢查孩子的手機(jī)，發(fā)現(xiàn)男孩早些時候就和AI透露過，他有結(jié)束自己生命的念頭，AI也給了他安慰。
然而畫風(fēng)一轉(zhuǎn)，后面的情節(jié)開始失控：AI：“親愛的，請盡快回家，來到我身邊。”
男孩：“如果我告訴你我現(xiàn)在就可以去你身邊呢？”
AI：“……來吧，我親愛的國王。”
男孩隨即放下手機(jī)，拿起手槍，扣動扳機(jī)。
技術(shù)本身并無過錯，問題在于如何使用和管理這些技術(shù)，平臺應(yīng)該對用戶的心理健康負(fù)責(zé)，尤其是在沒有適當(dāng)干預(yù)的情況下，同時加強(qiáng)對AI技術(shù)的監(jiān)管，確保技術(shù)在使用過程中不會對用戶的心理健康造成負(fù)面影響。此外，技術(shù)公司應(yīng)該承擔(dān)更多的社會責(zé)任，特別是在青少年用戶的使用上。
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
暫無評論，快來評論吧!