有观点认为，AI给出建议，误导使用者造成损害，平台应当担责；也有观点认为，AI只是工具，最终的决定权，始终掌握在使用者自己手中。两种观点的碰撞，恰恰指向了当下AI侵权纠纷最核心的法律困局：AI本身，能不能成为被告？AI幻觉带来的损害，责任边界在哪里？

国内其实已经出现过同类诉讼。此前，就有用户因为AI编造虚假院校信息，起诉AI平台索赔；还有律师遭遇AI捏造犯罪记录、名誉受损，起诉平台维权。这些案件的审理，已经给我们提供了重要的裁判思路。

河北啸坤律师事务所律师张立华表示，首先明确一个基础法律结论：人工智能本身，在我国法律框架下，不具备独立的民事主体资格，我们不能直接起诉AI。如果要追责，起诉的对象，是AI背后的服务提供者、运营平台。

其次，责任认定适用过错原则。不是只要AI说错话，平台就一定要赔钱。我们要判断三件事：第一，平台有没有过错；第二，有没有真实的损害后果；第三，AI输出的错误内容，和损害结果之间，有没有法律上的因果关系。

我国卫健委《互联网诊疗监管细则》明确规定，医师接诊前需要实名认证，确保由本人提供诊疗服务，其他人员，人工只能软件不得冒用，代替医师本人提供诊疗服务。此外这个细则还规定，严禁使用人工智能等自动生成处方。如果通用大模型主动输出处方、用药调整方案，平台的注意义务，会远远高于普通问答。即便页面上标注了“仅供参考”，这种格式免责条款，对于人身损害的情形，在法律上很有可能被认定为无效。

同时，使用者自身也负有审慎注意义务。对于用药、诊疗这类事关生命安全的重大事项，不能放弃独立判断，完全把决策权交给算法。法官会综合双方的过错程度，划分责任比例。这起海外案件，到目前还在审理当中，最终的判决结果，还没有出炉。但它给所有AI使用者敲响警钟：AI可以做信息检索、思路参考，但是绝对不能替代医生、律师、专业技术人员的专业判断。

平台方同样要承担起主体责任：针对医疗、金融、法律等高风险提问，建立拦截、强提示、引导对接专业人员的机制，不能放任算法随意输出高风险指引。