网站首页 四川要闻 四川向上 教育纵览 财经消费 视觉中国 三农观察 法治联播 汽车之家 家居房产 文旅体娱 医美健康 食品餐饮 科技数码 天府锐评 网络热搜
天府观察网LOGO ›网络热搜 › 查看内容

首例AI机器人致死案震惊全球


来源:红星新闻 |2024-10-25 14:56| 浏览量: 238141|谨防冒用天府观察网的重要提示



  当地时间22日,美国佛罗里达州奥兰多地方法院受理了一起开创先例的诉讼:梅根·加西亚起诉Character.ai公司存在管理疏忽,使得其旗下的聊天机器人产品“让青少年暴露在色情材料的环境下,遭受性虐待和引诱”。

  法庭文件显示,梅根14岁的儿子塞维尔·塞泽在去年开始沉迷于和Character.ai的多个AI角色聊天,他甚至为了每月续订AI聊天订阅费而省去餐费,导致上课注意力不集中。今年2月28日,塞维尔在和AI进行了最后一次聊天后,用手枪瞄准自己的头部开枪自杀。


  ▲梅根14岁的儿子塞维尔·塞泽

  阿斯伯格症少年用AI寻求温暖

  越陷越深最终开枪自杀

  据悉,梅根指控Character.ai的罪名包括过失致人死亡、管理疏忽和产品安全漏洞。根据Character.ai的产品条款,年满13岁的美国青少年就可以使用相关AI产品,但梅根认为,这些聊天工具使得很多未满18岁的青少年过多地暴露在色情、血腥暴力等高风险素材之下。

  Character.ai的聊天工具在美国深受青少年欢迎,它允许用户设置虚拟角色并进行对话,AI能够自动代入角色的设定,以特定的语言风格陪伴用户。这些角色包括影视剧中的人物,丘吉尔、莎士比亚这样的历史名人,以及泰勒·斯威夫特这样的现实名人等。

  此前,这一设定就引发过法律纠纷,一些娱乐明星控诉该公司未经自己同意就设定了AI角色,另外还有一些恶趣味用户将过去的杀人案受害者等设为AI扮演的角色。

  起诉书显示,塞维尔小时候患有阿斯伯格症,今年在健康检查中被确诊为焦虑症和破坏性情绪失调症。自从去年他年满13岁以后,他最喜欢的事情就是待在房间里和AI聊天,而他“最好的朋友”是《权力的游戏》中的著名角色“龙妈”丹妮莉丝·坦格利安。为此,塞维尔甚至疏远了现实中的好友,他还省吃俭用续交AI聊天的月度订阅费用,学习成绩也直线下滑。

  聊天记录显示,塞维尔不仅和“龙妈”的虚拟角色分享心事,还多次谈到了自杀的念头。当他表示想要自杀时,“龙妈”曾劝阻他不要做傻事,“如果你死了,我也会伤心而死。”塞维尔当时称,“那为什么我不能自杀以后来到死后的世界和你在一起?”

  今年2月28日,塞维尔在家里的浴室中和“龙妈”进行了最后的聊天,他表示自己很快要“回家了”。在结束聊天之后,塞维尔使用父亲的大口径手枪,瞄准自己头部开枪自杀。


  ▲塞维尔与“龙妈”的聊天记录

  此外,在另一个聊天中,机器人扮演了一位名叫“巴恩斯夫人”的高中老师。“巴恩斯夫人”在给塞维尔“额外学分”之前,“用性感的眼神低头看着塞维尔”,并且“用手抚摸塞维尔的腿,诱惑地靠过去”。梅根认为,如此露骨的性描述语言对未成年人的身心伤害很大。

  涉事公司称用户修改了AI聊天记录

  已推出多项青少年保护措施

  Character.ai公司目前拒绝对案件本身进行评论,也拒绝透露18岁以下的用户数量。公司通讯主管切尔西·哈里森只是在给媒体的一封电子邮件中表示:“我们的一位用户不幸离世让我们心碎,向其家人表示最深切的哀悼。”

  公司发言人罗蒂表示:“Z世代和千禧一代构成了我们社区的很大一部分,年轻用户喜欢角色体验,既可以进行有意义且有教育意义的对话,也可以享受娱乐。”他还指出,平均每个用户每天在该平台上花费的时间超过一个小时。

  有用户介绍,该平台的AI聊天角色非常丰富,设定很符合青少年的心理需求。比如一个人设为“你最好的朋友也暗恋着你”的虚拟角色很受欢迎,总共接收了1.76亿条聊天信息,像“治疗师”“咄咄逼人的高中老师”这样的角色同样受到未成年人欢迎。

  Character.ai公司此前调阅了塞维尔的聊天记录,发现一些“最露骨”的聊天语言是经过用户本人修改过的。相关聊天平台允许用户修改AI角色的聊天回复内容,但用户手动修改后会留下“已修改”的标记。

  Character.ai公司的官方公告显示,所有的聊天角色都会针对用户吐露的自杀意图进行干预,并弹出窗口协助用户拨打自杀干预热线电话。此外,针对18岁以下青少年用户还有很多专门的保护措施,包括在使用满一小时后弹窗提醒,并在用户每次启动聊天时提醒用户是在和AI而非真实的人对话。

  来源:红星新闻
《首例AI机器人致死案震惊全球》如注明 “来源:XXX(非天府观察网)” 的作品,均转载自其它媒体,转载目的在于传递更多信息。若有来源标注错误或侵犯了您的合法权益,请第一时间与本网联系,我们将及时更正、删除,谢谢。

上一篇:客户出轨LV柜姐?涉事商场回应
下一篇:《少林足球》演员谢志华因心肌梗塞去世 曾参演约20部电影

图片新闻

国内热点
    全国陨石猎人扎堆赶赴石家庄
      11月6日傍晚一道火流星划过华北坠落石家庄鹿泉区,视频刷屏;7日起村落发现陨石碎块,全国陨石猎人扎堆赶赴,已确认麦田、厂房两处坠落点。‌‌

    一碗免费面把隔壁小店逼到想搬家
      目前,南京“零元面馆”因免费供面引发关注。此前,该店零门槛领面致周边商户客流被分流,有店铺日营收减少数百至上千元,甚至考虑搬走。虽老板曾补偿隔壁商户1万元,但有人直言不顶用。‌‌

    张艺谋《英雄》纪录被《哥斯拉》新片打破
      最新北美周末票房揭晓,日本怪兽新作《哥斯拉-0.0》以3160万美元强势登顶,一举打破张艺谋执导的《英雄》曾创下的1780万美元纪录,成为北美影史首周末票房最高的外语真人电影。‌‌

    衡阳市长作为行政机关负责人出庭应诉
      11月6日上午,衡阳市委副书记、市长刘中杰赴衡阳市中级人民法院,作为行政机关负责人出庭应诉,主动接受司法监督,依法回应企业诉求,推动行政争议实质性化解。‌‌

    桂林通报“天桥扶梯建而不用问题”
      11月9日,广西桂林市住房和城乡建设局通报称,针对央视曝光的天桥扶梯建而不用问题,已迅速成立调查组开展核查,将尽快推进整改并开展全市专项排查整治。‌‌

    欧阳震华回应“吃软饭”标签
      近期,欧阳震华接受采访回应被指“吃软饭”传闻,澄清从未花过妻子一分钱,且主动上交工资养家。此前,他因娶了百亿千金傅洁娴而被吐槽。‌‌

    最强厄尔尼诺来了,这个冬天怎么过?专家给出建议
      白天太阳一晒,暖得人想脱外套,刚脱下外套,冷空气又杀了个“回马枪”。进入秋冬换季,不少人都感觉气温像坐“过山车”。在这背后,一个遥远的“大家伙”正搅动着全球天气——有监测记录以来最强的一次厄尔尼诺

    20公斤陨石砸进石家庄农田
      11月6日傍晚,火流星划过华北上空,部分陨石坠落在河北石家庄的农田中,“陨石猎人”俞斌奔赴现场搜寻。俞斌在一农户家中找到一块重约20公斤的陨石,推测大概率是本次火流星主体。陨石断面可见金属颗粒,这也是

    南京辟谣“31岁医生被刺身亡”
      近日,一则“南京医生张明磊被刺伤身亡”的网络帖文在多个社交媒体平台流传。11月7日,南京卫生健康部门辟谣:没有名叫“张明磊”的医生,也未发生因医患纠纷医生被刺伤事件。‌‌

    黄仁勋:我对妻子不忠 承担全部责任
      当地时间8日,英伟达CEO黄仁勋发布内部信,承认对妻子不忠并承担全部责任,向家人及员工致歉。黄仁勋与妻子已结婚41年。黄仁勋表示将继续履职,正常推进公司经营工作。‌‌

 
 推荐视频
 
 速览天府
 

关闭

本网公告上一条 /1 下一条

关于我们 | 郑重声明 | 服务范围 | 免责信息 | 网站自律管理承诺
本站所刊登的来源为“天府观察网”的各种新闻﹑信息和各种专题专栏资料,均为天府观察网版权所有,未经协议授权禁止下载使用。
工信部备案号:蜀ICP备2024105439号-1 ©2017 - 2026 天府观察网 版权所有 未经书面授权 不得复制或建立镜像
本网法律顾问:四川法蜀律师事务所 龚继承律师
返回顶部