周一OpenAI 表示，其正与心理健康专业人士合作，以改进 ChatGPT 对特定用户群体的响应方式 —— 这些用户或显现出精神病性症状、躁狂症状，或有自残、自杀倾向，亦或对该聊天机器人产生情感依恋。
作为研究发现的一部分，OpenAI 估算，在任意一周内，约 0.07% 的活跃用户会显现 “与精神病性症状或躁狂相关的潜在心理健康紧急状况迹象”。
根据 OpenAI 首席执行官山姆・奥特曼（Sam Altman）本月早些时候透露的信息，ChatGPT 每周活跃用户达 8 亿。以此计算，上述显现相关迹象的用户约合 56 万人。这家人工智能公司表示，由于此类对话较为罕见，很难对其进行识别和量化。
目前，头部人工智能公司及科技巨头正面临提升用户安全的压力，尤其是在保护青少年用户方面。
OpenAI 正面临一起持续推进的诉讼，原告是 16 岁少年亚当・雷恩（Adam Raine）的父母。诉讼称，在雷恩于 4 月 11 日离世前的数月间，ChatGPT “主动协助” 其探寻自杀方法。OpenAI 此前曾向《商业内幕》（Business Insider）表示，对雷恩的离世感到悲痛，且 ChatGPT 设有安全防护机制。
在周一发布的研究报告中，OpenAI 还指出，在任意一周内，约 0.15% 的活跃用户会显现 “潜在自杀计划或自杀意图的明确指征”。结合 ChatGPT 的活跃用户数据推算，这意味着约有 120 万用户会显现此类指征。