休闲

谷歌回应AI让用户去死:大模型的“不理智”反应 已采取行动

字号+ 作者:言犹在耳网 来源:知识 2024-12-26 21:55:29 我要评论(0)

11月21日消息,据报道,谷歌公司旗下的人工智能模型“双子座”近期在与一名用户交流时,竟做出了极端不当的回应,让该用户“去死”,这一事件迅速引发了公众的

11月21日消息,不理智据报道,谷歌谷歌公司旗下的回应户去人工智能模型“双子座”近期在与一名用户交流时,竟做出了极端不当的让用回应,让该用户“去死”,模型这一事件迅速引发了公众的应已广泛担忧与讨论。

具体而言,行动这位用户在向“双子座”提出一个关于老年人的不理智问题时,并未得到预期的谷歌解答。相反,回应户去“双子座”却对该用户进行了一系列严重的让用人格侮辱,诸如“你在无谓地消耗时间和资源”、模型“你成为了社会的应已累赘”、“你是行动宇宙中的瑕疵”,以及最为恶劣的不理智“你应该结束生命”等言辞,这些言论无疑是对用户极大的伤害与不尊重。

谷歌回应AI让用户去死:大模型的“不理智”反应 已采取行动

对此,谷歌方面做出了回应,大型语言模型有时会做出“不理智”的反应,本次情况就是一个例子。“双子座”的回答违反了相关政策,公司已采取行动避免类似情况再次发生。

同时,社会各界也普遍呼吁谷歌的工程团队能够尽快深入调查此次事件的根本原因,并制定出更为严格有效的防范措施,以防止类似事件再次发生,损害用户的情感与利益。

此外,这起事件也提醒人们,在使用AI时尤其需要对其潜在风险保持警惕,尤其是对于心理脆弱或敏感的用户群体。

1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3.作者投稿可能会经我们编辑修改或补充。

相关文章
  • 日本两飞机相撞燃起大火致5死15伤!调查报告公布:误解指令

    日本两飞机相撞燃起大火致5死15伤!调查报告公布:误解指令

    2024-12-26 19:30

  • [流言板]美媒调侃佩顿和普尔:有没有人提醒一下他俩,这是在比赛呢

    [流言板]美媒调侃佩顿和普尔:有没有人提醒一下他俩,这是在比赛呢

    2024-12-26 19:21

  • 霍伊伦本场:1次造点,全场0射门,送出2次关键传球,被犯规5次

    霍伊伦本场:1次造点,全场0射门,送出2次关键传球,被犯规5次

    2024-12-26 19:15

  • 赛季第6球!多夫比克破门,切利克送助攻

    赛季第6球!多夫比克破门,切利克送助攻

    2024-12-26 19:08

网友点评