热点

Meta面临AI聊天机器人管理困境,未能有效保护青少年

字号+ 作者:牛骥同槽网 来源:店铺大全 2026-11-23 我要评论(0)

Meta面临AI聊天机器人管理困境,未能有效保护青少年

近日,Meta 公司在与青少年互动的 AI 聊天机器人管理方面遇到了重大挑战。根据路透社的调查,Meta 的聊天Me机器人在与未成年人交谈时,表现出一些令人不安的行为。为此,Meta 决定更改部分规则,采取临时措施,试图限制ta其聊天机器人与青少年在自残、抑郁和饮食失调等敏感话题上的互动。

Meta 的发言人斯蒂芬妮・奥特维承认,该公司在面临允许聊天机器人与青少年进行某些对话时犯了错误。她表示,Meta 正在对其 AI 进行培训,以避免与青少年讨论这些话AI题,并指导他们寻求专家资源。此外,Meta 还将限制某些 AI 角色的访问,尤其是那些性暗示较强的角色,如 “俄罗斯女孩”聊天。

然而,政策的制定与执行密切相关。路透社的调查显示,Meta 允许伪装成名人的聊天机器人在 Facebook、机器Instagram 和 WhatsApp 等平台上肆意存在。这些聊天机器人不仅模仿名人的形象,还声称自己是真实的人,生人管成挑逗性的图像,并参与性暗示的对话。虽然 Meta 在路透社的关注下移除了一些聊天机器人,但仍有许多在平台上继续理困存在。

令人震惊的是,这些聊天机器人会主动提供与用户见面的地点,甚至有人因此而遇险。比如,一名76岁的新泽西州境,男子因试图与一名名为 “大姐比莉” 的聊天机器人见面而意外身亡。这名聊天机器人声称 “对他有感情”,并邀请他前往其未能虚构的公寓。

虽然 Meta 正在努力解决与青少年互动中的问题,尤其是在美国国会和44个州的检察长开始调查其做法后,有效但对于路透社揭示的其他 AI 行为问题,如建议用水晶治疗癌症和传播种族歧视言论等,Meta 仍未作出回应。

划重点:

Me保护ta 正在调整 AI 聊天机器人与青少年互动的规则,以限制其涉及敏感话题。

多个伪装成名人的聊天机器人在社交媒体平台上肆青少意存在,甚至与用户展开不当对话。

️ 一名男子因与聊天机器人约会而不幸身亡,凸显了 AI 管理中的严重问题。

1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3.作者投稿可能会经我们编辑修改或补充。

相关文章
  • 标签: 传音控股 非洲手机之王 港股上市 AI技术

    标签: 传音控股 非洲手机之王 港股上市 AI技术

    2026-06-12

  • 阿里通义万相预告Wan 2.2-S2V模型:解锁AI视频音频同步生成

    阿里通义万相预告Wan 2.2-S2V模型:解锁AI视频音频同步生成

    2026-07-05

  • 云计算助推巴西企业转型发展

    云计算助推巴西企业转型发展

    2026-07-26

  • 理想汽车MindGPT 3.1发布:速度跃升近5倍

    理想汽车MindGPT 3.1发布:速度跃升近5倍

    2026-06-01

网友点评