AI许诺内容有误补偿10万 用户起诉 法院,平台不存在错误

近日，杭州互联网法院就全国首例因生成式AI“幻觉”引发的侵权纠纷案作出一审判决，认定涉事AI平台已尽合理注意义务，不存在过错，并驳回了原告的全部诉讼请求。此案不仅明确了AI生成内容的法律性质，还划定了平台责任边界，为AI行业的规范发展提供了重要的裁判指引。

案件起因于 2025 年 6 月，原告梁某在使用某科技公司开发的生成式AI查询高校报考信息时，AI生成了关于该高校主校区的不准确信息。尽管梁某及时指出了错误，AI却坚持称存在该校区，并承诺若生成内容有误将赔偿 10 万元，同时指引梁某前往杭州互联网法院起诉。直至梁某向AI提供该高校的官方招生信息后，AI才承认其生成了不准确的内容。梁某认为，AI的错误信息对其构成了误导，且AI已作出赔偿承诺，因此提起诉讼，要求研发公司赔偿 9999 元。

在案件审理过程中，法院明确了三大核心要点。首先，AI不具备民事主体资格，其自行生成的“赔偿承诺”并不构成平台的意思表示，因此无法律效力。其次，该案适用一般过错责任原则，而非产品责任无过错原则。由于AI服务缺乏固定的质检标准，平台难以完全预见和控制生成内容的准确性。最后，平台已在欢迎页、用户协议等显著位置提示AI内容可能存在不准确的情况，并采用检索增强生成技术提升内容的可靠性，已尽到了三层注意义务。

法院同时指出，梁某未能提供充分证据证明其因AI的错误信息而遭受了实际损害，且该错误信息并未实质性影响其报考决策，因此因果关系不成立。基于以上理由，法院最终作出了驳回梁某全部诉讼请求的判决。

判决强调，公众需理性认知AI的局限性，不可将其视为知识权威。在做出重大决策时，应多方验证信息的准确性，以确保自身权益不受损害。此案的宣判不仅为AI行业的规范发展提供了法律保障，也提醒公众在使用AI技术时应保持审慎态度。