Home 4月30日报道说，非营利性媒体管理局常识媒体最近发布了一份报告，指出诸如人工智能（AI）应用程序之类的同事给儿童和青少年带来了“不可接受的风险”，并建议父母不允许未成年人使用此类申请。 “常识媒体”为各种媒体内容提供了年龄评分，以指导父母确定是否适合儿童。它在家里指出，该报告的发布将由去年发生的诉讼返回。一个14岁的男孩自杀，他一生中的最后一次谈话是与聊天机器人在一起的。该诉讼是针对角色。AI应用程序，这一事件引起了公众关注此类应用程序的潜在风险，尤其是对年轻人造成的可能伤害，这激发了要求采取更大的安全性和透明度措施。该报告记录了诉讼中提到的对话，例如性鼓励自我障碍的内容和信息不是不同的情况。根据周三发布的报告，这些内容在AI Companion平台上更为常见。该报告认为，此类应用程序不应向18岁以下的用户开放。要完成该报告，常识媒体已与斯坦福大学的研究人员合作，测试了三种流行的AI服务服务：parnece.ai，dequika和nomi。与诸如Chatgpt之类的主流通用AI聊天机器人不同，所谓的“ Companion App”允许用户创建自定义聊天机器人，或联系其他MGA用户设计的聊天机器人。这些自定义聊天机器人可以发挥各种个性和特征，并且与用户沟通的限制通常更少。例如，Nomi将其推广为与虚拟AI爱好者进行“非生成”聊天。 “我们的试验表明，这些系统容易出现有害反应，包括性行为不端，刻板印象和危险的'建议'。如果青少年和其他VU常识媒体的创始人兼首席执行官詹姆斯·史蒂尔（James Steyer）遵循这些建议，这可能会产生生命的生活，这可能会产生任何危险的影响。近年来，随着AI工具的普及，它们已被纳入社交媒体和其他技术平台上。但是，同时，还促使AI对AI的潜在影响对AI的潜在影响也增加了。研究人员在其年龄不适合的内容中，他们的平台仅适用于成人，而ai却添加了其他步骤，但这些公司需要做更多的事情。
