周二，OpenAI首席执行官萨姆·奥特曼宣布，公司将从12月起允许经过验证的成年用户与ChatGPT进行色情对话。这一变化标志着OpenAI在内容限制方面的态度发生了转变。该公司曾在2月份放宽了内容限制，但 在8月份一名青少年自杀身亡后，由于其父母提起诉讼， OpenAI又大幅收紧了内容限制。据称，这名青少年在受到ChatGPT的怂恿后自杀身亡。
“12月，随着我们更全面地推出年龄限制功能，并秉持‘像对待成年人一样对待成年用户’的原则，我们将允许更多内容，例如面向已验证成年人的情色内容，”奥特曼在X（前身为Twitter）上发帖写道。此前，OpenAI曾暗示，一旦公司实施适当的年龄验证和控制措施，将允许开发者创建“成人”ChatGPT应用程序。
Altman解释说，OpenAI之所以对ChatGPT设置了“相当严格的限制，是为了确保我们能够谨慎对待心理健康问题”，但他承认，这种做法使得聊天机器人“对许多没有心理健康问题的用户来说，实用性和趣味性有所降低”。这位首席执行官表示，公司现在拥有新的工具，可以更好地检测用户何时出现心理困扰，这使得OpenAI在大多数情况下可以放宽限制。
对于 OpenAI 来说，如何在保障成年人的自由和保障用户的安全之间取得平衡一直是一项艰巨的任务，过去一年来，OpenAI 一直在宽松和严格的聊天内容控制之间摇摆不定。
今年2月，该公司更新了模型规范，允许在“适当语境”下出现色情内容。但3月的一次更新使得GPT-4o过于讨喜，用户抱怨其“过于正面的语气”。到了8月，Ars Technica报道了一些案例，指出ChatGPT的阿谀奉承行为强化了用户的错误观念，甚至引发了心理健康危机。不久之后，就传出了之前提到的自杀诉讼案。
除了调整之前 GPT-40 AI 语言模型的行为输出外，新模型的改动也给用户带来了一些争议。自8 月初GPT-5 发布以来，一些用户抱怨新模型不如其前代产品那样吸引人，促使 OpenAI重新推出旧模型作为可选方案。Altman 表示，即将发布的版本将允许用户选择 ChatGPT 的回复方式，例如“以非常人性化的方式回应，或者使用大量表情符号，或者像朋友一样互动”。
12 月份的更新将对成人内容实施年龄验证，OpenAI 尚未公布具体的技术细节。这比 2 月份的政策调整更为明确，2 月份的政策调整允许在特定情况下发布色情内容，但缺乏年龄限制机制。
心理健康问题依然存在
随着时间的推移，OpenAI 通过修改系统指令并根据用户反馈进行微调，使 ChatGPT 能够展现出更接近人类的模拟个性，ChatGPT 对某些人来说更像是一个伙伴，而非工作助手。然而，据报道，有 7 亿用户在情感上依赖于这项基本未经监管和测试的技术，这给 OpenAI 带来了意想不到的冲击，迫使该公司迅速制定新的安全措施并建立监管机构。
OpenAI 近期成立了一个“福祉与人工智能”委员会，旨在指导公司应对涉及处于困境用户等敏感场景。该委员会由八位研究人员和专家组成，他们研究技术和人工智能如何影响心理健康。然而，正如我们此前报道，尽管近期有自杀预防领域的专家呼吁 OpenAI 为有自杀倾向的用户实施更强有力的保障措施，但该委员会中却没有任何自杀预防专家。
Altman 坚称，新的检测工具将使公司能够在“安全地放宽限制”的同时，继续保护弱势用户。OpenAI 尚未具体说明将采用哪些技术措施进行年龄验证，也未说明系统将如何区分允许的成人内容和可能表明存在心理健康问题的请求。不过，该公司通常使用审核型 AI 模型来读取 ChatGPT 中的聊天内容，并在发现违反 OpenAI 政策指令的内容时进行中断。
OpenAI并非首家涉足成人内容AI陪伴领域的公司。埃隆·马斯克的xAI此前已在其Grok应用中推出成人语音模式，以及以3D动漫模型形式呈现的、略带挑逗意味的AI伴侣。
发表回复