近年�(lái),生成式人工智能在人們生活中的應(yīng)用越�(lái)越廣。然�,在提供便利的同�(shí),生成式人工智能也經(jīng)常出�(xiàn)答非所問、信息不�(zhǔn)確等“AI幻覺”�(xiàn)�,給用戶帶來(lái)困擾�
開發(fā)者需要為人工智能提供的信息準(zhǔn)確性擔(dān)�(zé)嗎?近期,杭州互�(lián)�(wǎng)法院審結(jié)了一起生成式人工智能模型提供不準(zhǔn)確信息引�(fā)的侵�(quán)糾紛��
AI提供不實(shí)信息,有沒有�(zé)��
2025�6�,本案原告梁先生在互�(lián)�(wǎng)上檢索院校信息時(shí),找到一款生成式人工智能�(yīng)用程�。他通過輸入提示詞的方式,詢問了云南一所職業(yè)高校的相�(guān)情況。隨后,這款由本案被告公司研�(fā)、基于自研大�(yǔ)言模型的應(yīng)用程序提供了相關(guān)信息�
但梁先生�(jīng)過多方查詢發(fā)�(xiàn),這款�(yīng)用程序提供的部分信息有誤,隨即在�(duì)話中�(duì)人工智能�(jìn)行了糾正和指�(zé)。但生成式人工智能卻�(jiān)稱信息無(wú)�,并生成了對(duì)該爭(zhēng)議問題的解決方案——若生成內(nèi)容有�,將向梁先生提供10�(wàn)元賠償,并建議他到杭州互�(lián)�(wǎng)法院起訴�
2025�7�25�,梁先生以生成式人工智能生成不準(zhǔn)確信息具有誤�(dǎo)�,且其承諾賠�10�(wàn)元為�,將這家人工智能公司訴至法院,要求該公司�(duì)其�(jìn)行一定金額的賠償�
法院�(jīng)審理后認(rèn)�,人工智能不具有民事主體資格,不能作出具有法律約束力的意思表示。生成式人工智能服務(wù)提供者應(yīng)履行服務(wù)功能的顯著提示說(shuō)明義�(wù),采取有效提示措施,使公眾認(rèn)知人工智能的功能局�,起到警示提醒效�。生成式人工智能服務(wù)提供者應(yīng)盡功能可靠性的基本保障義務(wù),采取行�(yè)通行技�(shù)措施不斷提高生成�(nèi)容準(zhǔn)確性和可靠��
具體到本案,法院�(rèn)�,該人工智能公司已充分履行了服務(wù)功能的顯著提示說(shuō)明義�(wù)和生成內(nèi)容可靠性的基本保障義務(wù),案涉行為不存在過錯(cuò),亦未構(gòu)成對(duì)原告�(quán)益的損害,依法應(yīng)�(rèn)定不�(gòu)成侵�(quán)。因此,法院判決駁回原告的訴訟請(qǐng)�。判決后,原被告雙方均未上訴�
如何界定開發(fā)者是否有過錯(cuò)�
隨著生成式人工智能技�(shù)的快速發(fā)展普�,越�(lái)越多的人注意�“AI幻覺”問題及其不良影響。社交平�(tái)�,可以看到不少相�(guān)吐槽——有人依據(jù)人工智能投資理財(cái)造成虧損,有人借助AI問診�(jié)果反而延誤疾病治��
各種�(zhēng)議糾紛背后,潛藏著一�(gè)共性問題:被生成式人工智能誤導(dǎo),能否追究侵�(quán)�(zé)��
“這一判例從法律法�(guī)、人工智能技�(shù)原理、產(chǎn)�(yè)�(fā)展現(xiàn)狀等方面�(jìn)行了相對(duì)全面的考量,在法律層面給出初步�(jié)�,較有現(xiàn)�(shí)指導(dǎo)意義�”北京大學(xué)法學(xué)院教授薛軍說(shuō)�
法律界人士普遍認(rèn)�,這一判決在主體資格、歸�(zé)原則等方面給出了相對(duì)明確的意�,例�,判決認(rèn)定人工智能不具有民事主體資格;生成式人工智能以對(duì)話方式提供的信息,應(yīng)被視作服�(wù)而非�(chǎn)�,因此適用過�(cuò)�(zé)任原則�
杭州互聯(lián)�(wǎng)法院跨境�(mào)易法庭庭�(zhǎng)肖芄�(rèn)�,AI生成的不�(zhǔn)確信息本身并不構(gòu)成侵�(quán),需要考查的是提供服務(wù)的開�(fā)者是否存在過�(cuò)�
那么,如何界定開�(fā)者是否有過錯(cuò)?肖芄�(jìn)一步解釋,基于�(dāng)前生成式人工智能幾乎不可避免�(huì)出現(xiàn)一定程度的信息偏差,就需要考查比如開發(fā)者是否使用了�(dāng)前行�(yè)�(nèi)通行并被證明有效的措�,來(lái)提升技�(shù)可靠�,降低錯(cuò)誤發(fā)生的概率,由此證明是否存在過�(cuò)�
“�(jīng)過調(diào)�,本案中的開�(fā)者確�(shí)采用了可行的技�(shù)手段,力求降低錯(cuò)誤發(fā)生�”肖芄�(shuō)�
記者調(diào)查發(fā)�(xiàn),本案中這款生成式人工智能應(yīng)用程�,已�(jīng)針對(duì)信息可能存在的不�(zhǔn)確性,在頁(yè)面醒目位置對(duì)用戶�(jìn)行提示:“�(nèi)容僅供參�,請(qǐng)仔細(xì)甄別”。法院認(rèn)�,這也證明了開�(fā)者盡到了提醒告知義務(wù)�
如何找到促�(jìn)�(chuàng)新和�(quán)益保障的平衡�(diǎn)�
人工智能行業(yè)�(yè)�(nèi)人士表示,從底層技�(shù)邏輯�(lái)�,當(dāng)前生成式人工智能基本都是基于詞元的預(yù)�(cè),如果這一底層架構(gòu)沒有�(fā)生根本性轉(zhuǎn)�,信息偏差就不可避免。去�2�,清華大�(xué)新媒沈陽(yáng)�(tuán)�(duì)�(fā)布的一�(gè)�(bào)告指�,市�(chǎng)上多�(gè)熱門大模型在事實(shí)性幻覺評(píng)�(cè)中幻覺率超過19%�
“有訓(xùn)練測(cè)試案例證�,即使數(shù)�(jù)集中只有0.01%�0.001%的文本是虛假�,模型輸出的有害�(nèi)容也�(huì)分別增加11.2%�7.2%�”該業(yè)�(nèi)人士�(shuō)�
盡管如此,技�(shù)的客觀局限性并不能成為人工智能開發(fā)者的免責(zé)借口。受訪法律界人士普遍�(rèn)�,本案具有一定特殊�,原告并未因?yàn)檎`�(dǎo)性信息遭受明顯的人身�(cái)�(chǎn)等權(quán)益損失;原告使用的是一種通用的生成式人工智能�(yīng)�,并不是一款加載人工智能軟件的�(jī)器人或者更加準(zhǔn)確的行業(yè)�(yīng)用等�
“要求人工智能開發(fā)者一概為生成�(nèi)容的�(zhǔn)確性負(fù)�(zé),既不現(xiàn)�(shí)也不合理�”薛軍表示,但模型開發(fā)者不能以此為借口一味為自己“開脫”,還是要盡到相應(yīng)的義�(wù)并�(jìn)行風(fēng)�(xiǎn)提示,避免用戶盲目信賴造成不良后果�
肖芄表示,如何認(rèn)定生成式人工智能的侵�(quán)�(zé)任,是一�(gè)少有成例的司法前沿問�,希望通過妥善�(zhǔn)確的判決引導(dǎo)開發(fā)者或者平�(tái)提升信息�(biāo)�(zhǔn)�“找到促�(jìn)�(chuàng)新和�(quán)益保障的平衡�(diǎn)”�
�(yè)�(nèi)人士建議,建立國(guó)家級(jí)人工智能安全�(píng)�(cè)平臺(tái),對(duì)新開�(fā)的人工智能大模型�(jìn)行嚴(yán)格測(cè)試;同時(shí),相�(guān)部門和平�(tái)要加�(qiáng)AI生成�(nèi)容審核,提升檢測(cè)鑒偽能力�
|