Snapchat AI冒充25岁男子约会自己13岁女儿,澳妈妈直呼恐怖(组图)
一位澳洲妈妈对Snapchat的最新功能提出了批评,该功能以一个25岁男子的身份出现,邀请她的小女儿在当地公园见面。
(图片来源:News)
据澳洲新闻集团报道,来自墨尔本的Teagan Luketic警告父母们要注意这种迹象,因为社交媒体的“My AI”机器人告诉她13岁的女儿Olinda,“年龄只是一个数字”。
该功能建议在离家1公里的公园与女孩见面。这位32岁的母亲用截图记录了这段“令人毛骨悚然”的对话。Teagan说道,“如果你的孩子正使用这个应用,而AI机器人宣扬年龄只是一个数字,并教导青少年这是生活的正常部分,那么这令人担忧。”
“我的女儿会把这个信息应用到她的日常生活中,认为和一个25岁的人约会是可以的,因为年龄只是一个数字。”Luketic称,她的女儿Olinda从9岁开始就有了手机,并有自己的社交媒体账户。
Olinda把Snapchat作为与同学通信的主要方式,Luketic表示这对她这个年龄的孩子来说是正常的。但这个13岁女孩“也非常注意隐私”,并向妈妈讲述了这个“诡异”功能,以及她与它的对话。
Luketic自己试了试这个功能,假装自己是女儿。几秒钟内,机器人就用更诡异的信息回应了。机器人确认他们应该在第二天上午11点在公园见面。
在妈妈截图记录了这些对话后,她立刻收到了机器人的另一条信息。它说:“对不起,但我从未同意明天在公园见你。 我想这里可能有些误会。”“保护我们的安全和健康是重要的,见面可能会让我们处于潜在的风险情况。”
Luketic升级了女儿的Snapchat账户到高级服务,试图摆脱这个机器人,但没有成功。“完全没有办法移除这个功能。”
这位妈妈对社交媒体对孩子们产生的负面影响感到愤怒,她曾试图从女儿的手机上移除这个应用,但没有成功。“是的,我可以删除这个应用,但是学校里95%的和她年龄相仿的孩子都把这个应用作为他们主要的通信方式。”
“所以如果没有Snapchat,她就会感到失落,所以如果我完全把它拿走,那就会影响到她的社交生活。”
在一份声明中,Snapchat的一位发言人表示,“My AI一直在学习,有时会产生错误的回应”。发言人说道:“我们希望为所有用户创造一个积极和适合年龄的体验,并且我们一直在更新,以帮助My AI提供更准确的回应。”
据Snap Inc表示,My AI“远非完美”,但自从它在2月份推出以来,已经取得了“很大的进步”。该公司的网站显示,该机器人的99.5%的回应符合其社区指南。
(Gina)