国内AI服务涉黄首案开庭，开发者担责引争议

国内AI服务涉黄首案在上海市第一中级人民法院开庭审理。开发者梁某和王某因运营AI聊天应用涉黄，被一审法院以制作淫秽物品牟利罪判处刑罚。该应用注册用户达11.6万人，生成400万余段聊天内容，经抽样鉴定显示大量内容涉黄，违法所得共计363万余元。
法院认定开发者通过技术手段突破基础人工智能模型的道德约束机制，构成制作淫秽物品牟利罪。此案首次在法律层面明确AI开发者法律责任，认定技术服务提供者是涉黄内容产生的决定性源头，需承担主要责任。
针对开发者合规义务，判决强调运营者未遵守监管要求，主动突破安全内容边界并获利巨大。专家指出人工智能合规义务是防止违法需求的重要保障，开发者未履行这些义务需承担相应法律后果。
关于技术中立性边界，案件凸显监管难点在于技术本身无善恶之分，而取决于应用方式。AI服务应当通过功能价值吸引用户，而非突破道德底线。国内外市场竞争表明，合规的AI产品依靠性能与用户体验取胜，突破底线的行为既存在法律风险也缺乏可持续性。