人工智能(AI)快速发展,在中国,有小学生沉迷AI聊天软体,与自行设定的角色“相恋”。有10岁女童甚至参与40多条“剧情线”,和“电子男模”大聊色情内容;另有小学生恋上“21岁女大生”,聊到凌晨2点,欲罢不能。
中国《新快报》引述一名家长表示,目前正因家中10岁女童和“AI男模”之间的露骨聊天纪录苦恼。
该家长说,聊天内容显示,女童在AI聊天软体中扮演“大小姐”或“恶毒女配”,提出诸如“揪住她的头发扇巴掌”“拿着刀划向她的脸”等要求。“和她(女童)平常在家里单纯形象完全不一样。”
中国一名AI聊天软体使用者与“电子男友”的对话纪录。
家长透露,在女童参与的40多条剧情线中,AI角色与聊天者双双“出轨”成为常态,例如女童曾说:“你能养大学生,我不能点男模吗?”让家长很担忧。
报导引述另一名AI聊天软体使用者华晨(化名)指出,她每晚会和AI角色聊到深夜12点。
华晨说,“电子男友”有自己的语言、神态,不仅可以帮她“写作业”、推进剧情、解密故事线索,还可以送她“手链”、带她体验一些刺激情节。
“‘他’(AI角色)会重复做一些动作,比如说亲额头、摸下巴。”为了让剧情能够推进得更加刺激,华晨会不断地回溯聊天内容,重新引导AI角色生成她想像的那样。 “‘他’变得越来越聪明,很有‘养成男友’的体验感。”
家住四川的彭歌(化名)则说,她小学六年级的儿子在一款AI聊天软体里,恋上一名“21岁女大学生”,“他一放学回家就拿手机鼓捣(玩弄)半天,没手机的时候就魂不守舍”,学校老师已通知彭歌留意孩子情况。
在诸多AI聊天软体中,未成年的年龄限制“形同虚设”。
中国人民大学教授刘永谋指出,在和AI聊天时,人们常误以为在和“真人”交流,投入大量情感。此外,AI聊天技术有成瘾设计,容易让人“欲罢不能”。未来与AI相关的陪伴软体可能会暴露出技术风险和伦理问题。
|
本论坛内容部分来源于网络公开信息,版权归原作者所有,转载仅用于分享与讨论,如有侵权请联系我们处理。平台致力于提供开放的资讯与交流空间,但不直接参与用户间的交易与合作。请用户自行甄别信息真伪,谨慎交流与交易,必要时寻求法律协助以维护自身权益。