随着人工智能技术的应用日益广泛，便利了日常生活和工作。这也吸引了不法分子的注意，他们为了获取平台流量补贴和实现流量变现，利用AI合成技术制造虚假信息，扰乱社会秩序。甚至有人通过AI撰写色情小说以牟取非法利益。
近日，由湖北大冶市人民检察院提起公诉的一宗案件得到了法院的判决。被告柯某某因制作、贩卖及传播淫秽作品以牟利，被依法判处有期徒刑10个月，并被处罚金人民币5000元，同时收缴全部违法所得。
据了解，从2022年11月至2023年3月，犯罪嫌疑人柯某某通过翻墙软件在境外网站使用AI工具大量生成并销售淫秽小说，总计约760篇(次)，非法获利共计22873.95元。
法院审理认为，被告柯某某以盈利为目的而制作、销售及传播淫秽物品，并获得2万余元的非法收入，其行为已构成制作、销售、传播淫秽物品以牟利罪。公诉机关的指控成立。考虑到柯某某在案后如实供述犯罪事实并自愿认罪认罚，且已经退缴违法所得，法院依照法律做出了从宽处理，采纳了公诉机关的量刑建议。
随着人工智能技术的快速发展，其应用已深入到生活的各个方面。通过AI撰写色情小说的行为存在重大法律风险，案件承办检察官对此进行了提醒：
法律红线不可逾越。根据《刑法》规定，制作、复制、出版、贩卖、传播淫秽物品如情节严重，将构成刑事犯罪。虽AI是工具，但利用其创作色情内容与传统方法进行非法活动无异，需承担法律责任。
传播结果需负责任。一旦淫秽作品经过网络或其他渠道传播，无论其范围大小，都可能触犯传播淫秽物品罪或传播淫秽物品以牟利罪。
自律与监管的重要性。AI开发者、用户及相关平台应加强自律，并建立健全内容审核机制。平台需及时阻止违法内容扩散，个人自觉遵守法律法规，不进行非法创作。
检察官强调，公民在享受AI带来的便利和创新时，必须坚守法律底线，共同营造健康、和谐、法治的网络环境与社会秩序。
