红星首都局1月13日报道，全国首例人工智能服务商涉黄涉黄案件有了新进展。红星资本办获悉，此案二审将于明日（1月14日）在上海市第一中级人民法院开庭审理。该案的第一个判决于 2025 年 9 月做出。涉案的两名应用程序创始人被判犯有制作淫秽内容以营利的罪。分别判处有期徒刑四年、有期徒刑一年六个月，并处罚金人民币400万元、20万元。随后，双方均提起上诉。 1月13日，其中一方当事人代理律师周晓阳向红星资本局表示，其当事人一审的要求是无罪抗辩，很可能会认罪，二审会被判无罪。与以往人们使用人工智能工具的情况不同o 实施色情行为，这是法律首次承认提供工具的“服务提供者”负主要责任。涉黄人工智能聊天应用创始人一审被判处有期徒刑四年，并处罚金400万元。红星首都局了解到，与事件相关的“外星人聊天”应用程序由梁先生、王先生（均为化名）开发并运营。 2023年6月上线，定位为贴近年轻人、提供心理支持的AI伴侣聊天应用。用户一旦注册成为会员，就可以通过软件和大规模语言模型与虚拟角色进行交互和聊天。但由于色情内容，该应用程序的创始人梁和王发现自己陷入了困境。根据下级法院的裁决，该应用程序拥有超过116,000名用户，其中充值用户超过24,000名，并产生了超过400万条互动聊天。 AF随机抽样显示，150名用户中有141人聊天内容涉及色情内容，12000多条聊天记录中，有3600多条聊天内容包含色情内容。图为外星人聊天小红书账号截图。据目击者称，“在涉事应用程序上聊天后，出现了大量描绘性行为的色情、淫秽和色情内容。”我会的。 “其他软件有限制词，但这个软件没有限制词。” “大多数用户都是因为这个原因才使用这个软件的。”红星资本局表示，本次事件涉及的APP提供两个级别的会员服务：专属会员每月138元，高级会员每月68元，累计费用超过363万元。初审法院认定，本案涉及的应用程序被认为是淫秽的，因为它们产生了“大量专门描绘性行为或明确宣扬色情内容的内容”。雷加德尔淫秽物品数量、会员人数或者违法所得数额，明显超过有关司法解释规定的犯罪标准，依法给予刑事制裁的。最终，一审法院认为，被告人梁某、王某制作淫秽物品是为了牟利。情节严重，其行为已构成制作淫秽物品营利罪。梁某被判处有期徒刑四年，并处罚金400万元。王某被判处有期徒刑1年6个月，并处罚金20万元。该应用程序现已从商店下架，并且在主要应用程序商店中找不到。第二次审判即将开始。当事人坚称自己无罪。梁先生的律师、北京盈科（上海）律师事务所的周晓阳告诉红星资本局，梁先生在一审中的抗辩是无罪抗辩，他很可能也会在二审中不认罪。二审。主要原因是：第一，梁某故意创造、修改系统信号词的可能性不大。它无意传播淫秽材料。更改关键词的目的是为了将外延模型调整得更加拟人化、更加灵活，以满足用户的情感社交需求。其次，本案聊天“色情”内容具有个人性、私密性，不具有传播价值，不具有传播性。一审判决表明，法院认定梁某、王某的行为不构成传播淫秽物品牟利罪。本案聊天内容据称是人际交往中产生的，且是一对一的。通常只有参与聊天的成员才能看到，因此在一定程度上是保密的。但法院认为，制作淫秽物品罪的主要原因是：商业目的是：庆祝宣判。两被告人主观上积极追求色情淫秽聊天内容的制作，客观上通过创建、修改系统信号词，以“外星人聊天”软件为工具，侵犯了大规模语言模型的道德界限，可持续对外制作色情淫秽内容。 “外星人聊天”软件对外宣传为具有邀请用户参与聊天的“色情聊天”功能，尽管用户清楚地意识到其会员的互动聊天中正在产生大量淫秽内容。我们继续提供“聊天”。聊天软件的运营和技术支持服务对色情、淫秽聊天内容的产生起着决定性的作用。一审判决后，两人提起上诉。红星首都局获悉，此案二审将于明天（1月14日）开庭审理上海市第一中级人民法院闭门审理。一些专家认为，本案的特别之处在于，法律首次明确了提供工具的“服务提供商”。主犯红星资本局报道称，2025年7月，湖北省大冶市人民法院审结了一起利用人工智能文字工具制作色情小说并在境外网站销售760余件的案件，最终获利22000余元。红星新闻记者张亚贤被判处数月监禁。
特别提示：以上内容（包括图片、视频，如有）由自有媒体平台“网易账号”用户上传发布。本平台仅提供信息存储服务。
注：以上内容（包括图片和视频，如有）由网易号用户上传发布，网易号是一个提供信息存储的社交媒体平台。仅愤怒服务。
