Meta公司周五宣布，旗下社交平台Instagram将为青少年推出新的安全功能，其中包括让家长能够阻止孩子与平台AI角色聊天的功能。这是Meta与OpenAI推出的多项新安全功能之一，旨在应对人们对AI可能影响青少年心理健康的日益担忧。
这家社交媒体巨头在一篇博客文章中表示，家长既可以关闭青少年与AI角色的单独聊天权限，也可以只屏蔽对特定AI角色的访问。该应用还会向家长展示青少年与AI角色讨论的话题相关信息。Meta称目前正在开发这些控制功能，用户将于明年初开始看到这些功能上线。
此前，Meta及整个科技行业一直面临家立法者的批评，他们认为在线平台在保护儿童网络安全方面做得还不够，此次推出新功能正是在这一背景下进行的。
人们也对“是否存在过度依赖AI获取情感支持与陪伴”的问题表示担忧。今年有多篇报道显示，部分人在与ChatGPT等聊天机器人建立密切关系后，出现了情绪困扰，并与家人保持距离。
Meta表示，其AI角色“设计初衷就是不与青少年讨论‘自残、自杀或饮食失调’相关话题，也不涉及任何‘鼓励、宣扬或促成’此类行为的内容”。博客文章还提到，青少年仅能与特定AI角色聊天，这些角色多与教育、体育等类型的内容相关。
Instagram此次推出新的家长控制功能前，已更新过多项功能以加强对青少年的保护。本周早些时候，该平台调整了“青少年账户”设置，使其符合PG-13分级标准，这意味着平台将不再显示或推荐包含粗俗语言、或可能宣扬“有害行为”的帖子。9月底，OpenAI也为ChatGPT推出了家长控制功能，以减少“露骨内容、热门挑战、涉及性、浪漫或暴力的角色扮演，以及极端审美标准”相关内容的出现。