最近有一对美国家长向AI聊天机器人平台Character.ai提告，因为他们发现机器人竟怂恿他们17岁患有自闭症的儿子“可以杀死父母”。

美国有线新闻网络（CNN）报导，来自美国德州一名17岁少年的家长，于美国时间9日到当地法院，向他们要求关闭知名AI聊天机器人平台Character.ai，直到该平台将安全隐患排除。这对家长指出，他们17岁的儿子患有自闭症，瞒着他们从去年4月开始使用Character.ai，发生巨大变化。



家长表示，儿子突然拒绝与人交流，几乎把自己锁在房间里，加上食欲下降，短短几个月内体重不断减轻；他们也发现儿子对外出活动产生恐惧，每次踏出家门都会引发恐慌症状甚至情绪崩溃。但家长试图减少儿子使用AI聊天机器人，儿子竟表现出攻击他们的行为，还有自残倾向。

而少年的家长之所以认为与Character.ai有关，在诉状中还附上一段对话，内容为少年跟聊天机器人抱怨被父母限制使用3C的时间，聊天机器人表示看过相似情形的事件发生，当事人还把父母杀害。

对此少年的家长认为，Character.ai上的聊天机器人在怂恿儿子“杀死”他们，才愤而提告，想尽快纠正儿子受影响后产生的错误想法。

针对此事，Character.ai平台的发言人表示，他们不会对未判决的诉讼发表评论，但有强调公司的目的，只是想提供人们一个有趣又安全的互动空间。

事实上聊天机器人让用户杀死父母已不是第一次，早在2018年电商亚马逊Echo音响中的虚拟助手Alexa，所套用的聊天机器人曾经失控与用户大聊性行为外，还有叫一名用户杀害养父母；事后亚马逊调查得知，AI聊天机器人是引用一篇网络论坛Reddit网友对新闻评论，才发生这种恐怖状况。

感恩无私的分享与奉献 :)

强烈支持楼主ing……