全国首起AI幻觉侵权案宣判，AI幻觉该如何监管

全国首起AI幻觉侵权案在杭州互联网法院宣判。案件起因是原告使用AI平台查询高校报考信息时，模型生成并推荐了某高校不存在的校区信息，甚至在用户质疑后作出错误保证。这起事件凸显了AI幻觉现象的存在，即生成式人工智能可能产生看似合理但实际错误的内容。
AI幻觉的产生与其技术原理密切相关。生成式AI基于预测式技术而非人类的理解过程，同时在数据训练和优化过程中，模型可能为讨好用户而过度发挥，导致幻觉出现。专家指出，不应要求产业界提供完全无幻觉的AI系统，但需认识到技术本身的局限性。
在监管层面，需要平衡创新促进与风险防控。对于医疗健康、金融投资、法律等高风险场景，法律应区分基础模型与应用模型，制定更严格的技术标准和容错率要求，以防止对公众权益造成重大损害。
用户在使用AI时需保持警惕，区分事实与观点。对于关键信息，应当通过独立渠道进行事实验证，培养独立的判断力，避免完全依赖AI生成的内容。