谷歌前 CEO 施密特谈“AI 恋人”潜在风险:使心智未成熟青少年痴迷其中

11月27日讯 前谷歌 CEO 埃里克・施密特近日在企业家兼纽约大学教授 Scott Galloway 的播客节目中,对“AI 恋人”日益流行的趋势发出了警告。他特别指出,这些“完美”的 AI 女友或男友可能对年轻人构成显著风险

他表示:“想象一下,一个 AI 女友不仅外貌完美,而且能在情感上完全契合你。这种 AI 女友可能深深吸引男性,甚至让他们的思维被完全占据。”他进一步警示说,这种痴迷在心智尚未成熟的人群中尤为可能发生。

施密特指出,依赖“AI 恋人”可能会使年轻人更加孤独,并可能对社会问题带来进一步冲击。在节目中,Galloway 提到,“AI 恋人”是否可能加重极端主义或厌女现象,这也是需要引发重视的议题。施密特对此补充道,许多家长对孩子接触在线内容的控制能力有限,他表示:“当一个 12 岁或 13 岁的孩子使用这些工具时,他们可能接触到世界上的善与恶,但他们还没有能力消化这些内容。”

据此前报道,今年 10 月,美国一名 14 岁少年自杀身亡,其母亲梅根・加西亚 (Megan Garcia) 对聊天机器人平台 Character.AI、其创始人诺姆・沙泽尔和丹尼尔・德弗雷塔斯以及谷歌提起诉讼。

指控内容包括 wrongful death(过失致死)、negligence(疏忽)、deceptive trade practices(欺骗性商业行为)和 product liability(产品责任)。诉状称,Character.AI 平台“具有不合理的危险性”,并且在向儿童推销时缺乏安全防护措施

14 岁少年塞维尔・塞泽尔三世 (Sewell Setzer III) 于去年开始使用 Character.AI,并与以《权力的游戏》角色为原型的聊天机器人进行互动,其中包括丹妮莉丝・坦格利安 (Daenerys Targaryen)。塞泽尔在去世前的几个月里一直与这些机器人聊天,并于 2024 年 2 月 28 日与其最后一次互动“几秒钟后”自杀身亡

诉状指控 Character.AI 平台存在“拟人化”人工智能角色以及聊天机器人提供“无执照心理治疗”等问题。该平台拥有以“治疗师”和“你感到孤独吗”等为名的专注于心理健康的聊天机器人,而塞泽尔曾与这些聊天机器人进行过互动。

声明:魔果智讯倡导尊重与保护知识产权。如发现本站文章存在版权等问题,烦请30天内提供版权疑问、身份证明、版权证明、联系方式等发邮件至moguoai@yeah.net!我们将及时沟通与处理。
0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索