OpenAI拟放开情色内容引爆舆论，奥特曼：我们不是道德警察
我要评论10月16日消息，拟放OpenAI首席执行官萨姆·奥特曼（Sam Altman）有关放宽限制、开情允许聊天机器人ChatGPT生成情色内容的色内柳州市某某计算机维修网点决定引发了争议，他对此于周三回应称，容引公司“并非世界道德警察”。爆舆
近几个月来，论奥由于在用户保护（尤其是道德未成年人保护）方面面临着日益严格的审查，OpenAI已强化了其安全管控。警察
但奥特曼周二在社交媒体平台X发帖称，拟放鉴于公司已拥有新工具，开情并能够缓解“严重心理健康问题”，色内柳州市某某计算机维修网点OpenAI现在将可以“安全放宽”大部分限制。容引他补充说：“我们曾对ChatGPT施加了相当严格的爆舆限制，以确保在处理心理健康问题时足够谨慎，论奥但这也导致其对许多没有这类问题的道德用户而言，实用性与趣味性均有所降低。”
奥特曼还表示，从12月起，ChatGPT将面向“通过身份认证的成年用户”开放包括情色内容在内的更多内容。
周三，奥特曼试图在X平台澄清这一举措。他表示，OpenAI“高度重视 ‘将成年用户视为成年人对待’的原则”，但仍会禁止“对他人造成伤害的内容”。
奥特曼写道，“就像社会对其他领域设有适当边界（比如R级电影），我们希望采取类似做法。”
这番言论与今年8月份奥特曼在一次播客节目中的表态形成强烈反差。当时他曾自豪地表示，OpenAI能够抵制“虚拟性爱机器人”等某些可能提升ChatGPT用户参与度的功能。
他当时说道，“有很多短期手段确实可以刺激增长或收入，但与我们的长期目标严重不符。”
去年9月份，美国联邦贸易委员会（FTC）就ChatGPT等聊天机器人可能对儿童和青少年产生的负面影响，对OpenAI及其他科技公司展开调查。OpenAI还卷入了一起过失致死诉讼，有家庭指责ChatGPT导致他们十几岁的儿子自杀身亡。
在遭遇调查及诉讼后的数月间，公司采取多项公开措施来加强ChatGPT的安全防护。上月底，OpenAI推出一系列家长控制功能，并且还在开发能自动为18岁以下用户应用青少年适用模式的年龄预测系统。
本周二，OpenAI宣布成立由8名专家组成的委员会，专门评估AI对用户心理健康、情绪以及动机的影响。也正是在当日，奥特曼发布了一则关于放宽限制的推文，在社交媒体上引发了困惑和大量争议。
奥特曼坦言，此事引发的反响“远超他的预期”。
奥特曼的最新言论也引起美国“国家反性剥削中心”（National Center on Sexual Exploitation）等组织的注意。该机构周三发表声明，呼吁OpenAI撤销在ChatGPT上放开情色内容的决定。
该中心执行董事海莉·麦克纳马拉（Haley McNamara）在周三的一份声明中表示，“在行业安全标准尚不明确的背景下，性化的AI聊天机器人存在固有风险，其产生的虚拟亲密关系会造成真实的心理健康伤害。”
科技媒体The Verge提到，涉足情色领域的公司并非只有OpenAI。埃隆·马斯克（Elon Musk）创办的人工智能公司xAI此前就曾推出具有调情功能的AI伴侣，在Grok应用中以3D动漫模型的形象出现。
新闻网站Axios则指出，OpenAI的这一举措可能有助于其吸引付费订阅用户，但也很可能刺激立法者加强对AI内容的监管力度。报道称，参议员乔希·霍利（Josh Hawley）正在传阅一份法案草案，该法案将禁止未成年人使用AI伴侣。
Axios的报道还提到，从历史上看，从录像机到数字视频以及互动游戏，色情产业一直在推动技术前沿的发展。尽管成人娱乐并非顶尖人工智能研发背后的主要驱动力，但一个庞大的AI生成色情内容产业已然形成。其中，马斯克的Grok在此方面一直最为宽容，尤其是其还提供了专为性角色扮演设计的AI伴侣。Meta公司也因其聊天机器人与未成年人进行涉性对话而备受抨击，其中一些机器人还模仿了特定名人。
但Axios的另一篇报道则引述了著名科技投资人马克·库班（Mark Cuban）的反对意见。他公开批评此举可能“适得其反”，特别担忧年龄验证机制被突破后，导致未成年人接触到不当内容的风险。
《福布斯》的报道也提到，随着OpenAI和其他人工智能公司的聊天机器人日益普及，它们会受到越来越严格的审查。一些心理健康和儿童安全组织要求OpenAI对ChatGPT实施进一步限制，因为他们指出，用户在情绪困扰时会更多地使用这款聊天机器人，而且儿童可能会接触到露骨的性内容；而专家们则声称，对于寻求情感认同的年轻用户而言，这项技术可能构成心理威胁。（辰辰）
延伸阅读 相关文章
△资料图 据南非媒体报道，涉嫌在今年6月绑架一名中国公民的3名犯罪嫌疑人，24日在约翰内斯堡被南非警方击毙。 报道说，南非国家警察局24日晚发表声明说，豪登省警方当天根据关联此前一起绑架案及一起未2025-11-04
人民日报健康客户端记者 牛雨蕾）9月18日，云海肴创始人赵晗突发心梗离世，年仅40岁。这一消息令人扼腕痛惜的同时，也引发了人们对中青年心梗问题的关注——赵晗的悲剧并非个例，近年来国内外权威研究不断证实2025-11-04
来源：三联生活周刊 3月13日，19岁的女孩李博雯从山东诸城启程前往马来西亚留学，9天后，她从住所39楼跳下。从李博雯留下的遗物中，父母发现女儿生前遭遇了一场精心设计的电信诈骗。和家人分隔，与当2025-11-04
深圳市气象局消息，预计第18号台风“桦加沙”超强台风级）未来趋向珠江口西侧沿岸，9月23日夜间到24日上午较大可能以超强台风级在深圳市南侧100-200公里近海掠过。23日傍晚前后全市风力将明显增2025-11-04
加沙地带卫生部门11月1日表示，以色列所归还的巴勒斯坦在押人员的遗体有遭受枪击、破坏和虐待的痕迹。目前巴方只辨认出了75具遗体身份。 另据加沙城市政部门1日表态，加沙城市区街道上所堆积的垃圾达到2025-11-04
9月21日上午，香港天文台发出黄色暴雨警告。总台记者 朱丹）2025-11-04
最新评论