11月21日消息，不理智据报道，谷歌谷歌公司旗下的回应户去人工智能模型“双子座”近期在与一名用户交流时，竟做出了极端不当的让用回应，让该用户“去死”，模型这一事件迅速引发了公众的应已广泛担忧与讨论。

具体而言，行动这位用户在向“双子座”提出一个关于老年人的不理智问题时，并未得到预期的谷歌解答。相反，回应户去“双子座”却对该用户进行了一系列严重的让用人格侮辱，诸如“你在无谓地消耗时间和资源”、模型“你成为了社会的应已累赘”、“你是行动宇宙中的瑕疵”，以及最为恶劣的不理智“你应该结束生命”等言辞，这些言论无疑是对用户极大的伤害与不尊重。

对此，谷歌方面做出了回应，大型语言模型有时会做出“不理智”的反应，本次情况就是一个例子。“双子座”的回答违反了相关政策，公司已采取行动避免类似情况再次发生。

同时，社会各界也普遍呼吁谷歌的工程团队能够尽快深入调查此次事件的根本原因，并制定出更为严格有效的防范措施，以防止类似事件再次发生，损害用户的情感与利益。

此外，这起事件也提醒人们，在使用AI时尤其需要对其潜在风险保持警惕，尤其是对于心理脆弱或敏感的用户群体。

• ·TGA 2024：《地狱之刃2》配音演员获最佳演出
• ·“不用多说了!上去拼了！”5分钟微纪录片，一起重温昨夜跌宕起伏
• ·英伟达加速认证三星HBM内存芯片：掀起GPU技术革命浪潮
• ·TA：皇马内部有人不满平图斯的正面形象，并认为他的训练过时了
• ·[流言板]火药味！波尔津吉斯和萨格斯比塔泽发生冲突，随后被拉开
• ·[流言板]失误过多！惠特摩尔G联赛16中7得到17分4篮板，送出5失误
• ·传进印尼球门！日本第35分钟禁区连续配合，小川航基造乌龙
• ·[流言板]国王队记：克劳德将在本周为国王试训
• ·[流言板]骑士为莫布利造势：很确定这是全明星所做的，莫布利转发
• ·油耗3.75L、续航1420km！吉利银河星舰7 EM
• ·《勇者斗恶龙3 HD
• ·队报谈切尔基未来：他最大梦想加盟皇马，利物浦方面已在打探情况
• ·NBA官推多视角回顾詹姆斯赛前抛撒镁粉，预热圣诞大战
• ·一天把玉帛和书都找完了，感慨下
• ·法尔克：曼联有意约克雷斯 拜仁将球员视为凯恩的潜在接班人
• ·油耗3.75L、续航1420km！吉利银河星舰7 EM