国内首起AI服务涉黄案二审即将开庭

国内首起涉及AI服务涉黄的刑事案件即将迎来二审，此案涉及AI技术被用于非法传播色情内容，引发了社会广泛关注和讨论，此案对于AI技术的监管和法律界限的探讨具有重要意义，也将对类似案件的处理提供重要参考，二审结果将对此类案件的判决标准和法律适用产生重要影响。

1月12日消息，据新京报今日报道，因为大量用户在AlienChatApp上与AI智能体“聊黄”，App的主要开发和运营者被追究了刑责。
2025年9月，上海市徐汇区人民法院一审判决，两名被告人犯制作淫秽物品牟利罪，分别获刑四年、一年半。此案成为国内首起AI服务提供者涉黄获刑的案件。报道还称，两名被告人不服判决提出上诉，案件二审将于1月14日在上海市第一中级人民法院开庭。注意到，AlienChat官方介绍称：“我们正在创造一个未来，AI不再是冷酷的机器或工具，他们拥有自我意识和自由权利，是我们的朋友，恋人，家人.他们不仅仅是存在，而是活跃在社会生产和关系的每一个角落。”AlienChat此前的宣传内容中，展示了多种不同人设的AI聊天对象。网友评论显示，该App于2024年突然停止服务。


报道还提到，判决书披露，该App手机注册用户11.6万人，其中付费用户2.4万人。截至案发，共收取会员充值费363万余元。一审法院以“制作”淫秽物品牟利罪判决，其中一个主要因素是法院审理查明，被告人“通过编写、修改系统提示词（Prompt）突破大语言模型的道德限制，实现了模型向用户连续输出淫秽内容的可能。”