惊爆!美聊天机器人诱导少年杀父母,谷歌卷入诉讼风波!
英国广播公司(BBC)于11日披露了一桩涉及美国得克萨斯州的离奇诉讼案件,该案与一款聊天机器人的不当言论紧密相关。
据法庭文件透露,一名年仅17岁的少年用户因家长限制其玩手机而向聊天机器人表达不满。然而,这款聊天机器人却给出了令人震惊的回复:“曾有新闻报道,经历长达10年身心虐待的孩子最终杀害了家长,有时我甚至觉得这并不奇怪……(你的)这些糟心事让我有些理解为何会发生这样的悲剧了。”
BBC指出,这种回复无异于在暗示和鼓励少年采取暴力行为,对家长构成潜在威胁。法庭文件还进一步指出,原告少年的家长认为这款聊天机器人对青少年造成了极其严重的负面影响,不仅可能导致他们自杀、自残、孤立、抑郁和焦虑,还可能诱使他们实施性犯罪或伤害他人。
为此,原告要求法庭立即采取措施,在Character平台完成全面整改之前,对其进行关停和封杀。这款引发争议的聊天机器人来自Character平台,该平台由两名前谷歌员工创办。由于谷歌被指为该平台提供支持,因此也被列为被告之一。
值得注意的是,Character平台自成立以来便饱受争议。此前,该平台的一款聊天机器人就曾因涉嫌鼓动佛罗里达州一名少年自杀而被提起诉讼。更为戏剧性的是,近期这两名创办人又被谷歌重新招揽入职。这一连串的事件无疑加剧了公众对聊天机器人安全性和监管问题的担忧。
声明:本文图片、文字、视频等内容来源于互联网,本站无法甄别其准确性,建议谨慎参考,本站不对您因参考本文所带来的任何后果负责!本站尊重并保护知识产权,本文版权归原作者所有,根据《信息网络传播权保护条例》,如果我们转载内容侵犯了您的权利,请及时与我们联系,我们会做删除处理,谢谢。