國家市場監(jiān)督管理總局主管

中國消費者協(xié)會主辦

維護消費者合法權益,引導消費者合理消費

當前位置:首頁 > 科技
追問2023:AI時代,如何保護好消費者權益?
2024-01-23 10:33 本文來源:中國消費者報•中國消費網(wǎng) 作者:司宇萌

中國消費者報報道(記者 司宇萌)以0.1秒的速度識別交易風險,同時啟動語音電話、圖文互動等多種方式對用戶進行自動化勸阻和風險提示……《中國消費者報》記者盤點發(fā)現(xiàn),類似這樣讓AI智能機器人與消費套路或風險“死磕”的方式,已經(jīng)成為很多供給主體從不同維度履行消費者權益保護責任的“標配”。

2023年,大模型智能涌現(xiàn),給企業(yè)的消保工作帶來了新的挑戰(zhàn)。同時,從單點實踐向多元應用、從公眾通用場景向特定行業(yè)領域不斷深入的人工智能,能否成為產品與流程變革的新工具、新手段,擔當起數(shù)字時代維護數(shù)據(jù)安全、有效保護隱私、遏制消費詐騙等消費者權益保護的重任,對此,輿論的觀察與檢視始終未曾停止。

觀察:解決消保痛點堵點 智能化消保成行業(yè)趨勢

當前,不少不法分子利用數(shù)字化與新技術,強化侵害消費者的能力,互聯(lián)網(wǎng)詐騙、個人數(shù)據(jù)安全、虛假營銷等問題,成為消費者權益保護的痛點和堵點問題。

如何守住消費者合法權益的“基本盤”?調查發(fā)現(xiàn),依托AI等科技手段,通過智能風控系統(tǒng)判定和干預用戶交易過程中存在的風險,已成為業(yè)內經(jīng)營主體普遍采取的手段。

1月22日,螞蟻集團官網(wǎng)發(fā)布的《2023年消費者權益保護年報》顯示,發(fā)揮安全科技能力,秒級識別交易風險,覆蓋反騙反賭、資金安全、數(shù)據(jù)安全、內容安全等10大場景。2023年,螞蟻集團協(xié)助公安機關保護了23億資金、43萬人次,助力返還700余萬元。

據(jù)螞蟻集團大安全技術團隊介紹,與通常只能被動回應客戶問題的客服機器人相比,被賦予更多消費者權益保護角色的機器人普遍更善于主動搜索和出擊。比如,在“殺豬盤”詐騙案中,嫌疑人通常會偽裝成“甜蜜戀人”,但通過“智能化消保官”的學習和識別,這種把戲很快就能被拆穿。一次轉賬如果被精準確認不是女生給男友的大紅包,而是殺豬盤的詐騙案交易,“智能化消保官”就會迅速啟動包括AI反詐叫醒服務在內的各種干預手段,通過主動致電、智能問卷等方式預警勸阻潛在被騙用戶,直至風險被有效化解。

近年來,默認自動關注公眾號和小程序、默認自動續(xù)費、頁面規(guī)則不清晰、營銷虛假宣傳等問題給消費者帶來了許多困擾。針對這些問題,螞蟻集團自主研發(fā)智能巡檢系統(tǒng)“消保盾”,依照內控規(guī)則,對產品頁面進行全天候不間斷問題巡檢、預警、評估,及時發(fā)現(xiàn)問題并跟進處理,實現(xiàn)業(yè)務場景的事前、事中、事后全流程消保風險管控,更大程度上預防和及時發(fā)現(xiàn)可能侵害消費者權益的相關風險。2023年,“消保盾”覆蓋了更多的業(yè)務場景,更高效全面地保護了消費者權益。

解碼:應對消保形勢變化 企業(yè)用技術對抗技術

數(shù)字經(jīng)濟飛速發(fā)展,AI新技術、新場景、新商業(yè)模式層出不窮,在為消費者提供便利的同時,也給消費者權益保護工作帶來了一定挑戰(zhàn)。那么,企業(yè)該如何應對這一挑戰(zhàn)?調查發(fā)現(xiàn),許多企業(yè)通過技術創(chuàng)新來應對和解決新技術帶來的挑戰(zhàn)。

當前大模型智能涌現(xiàn),同時也帶來了許多問題,發(fā)展安全可信的人工智能成為行業(yè)共識。中國科學院院士何積豐認為,可信的人工智能要致力于保障數(shù)據(jù)安全可信、系統(tǒng)行為可追責、算法模型可解釋、網(wǎng)絡環(huán)境可信、法律倫理可信等方面。

為建設負責任的AI,2023年螞蟻集團聯(lián)合清華大學發(fā)布AI安全檢測平臺“蟻鑒2.0”,實現(xiàn)了用生成式能力檢測生成式模型。檢測標準覆蓋內容安全、數(shù)據(jù)安全、倫理安全等3大類數(shù)百種風險,可對大模型生成式內容完成包含個人隱私、意識形態(tài)、違法犯罪、偏見與歧視等數(shù)百個維度的風險對抗檢測,并生成檢測報告,幫助大模型更加有針對性地持續(xù)優(yōu)化。

“蟻鑒2.0”實現(xiàn)用生成式能力檢測生成式模型。資料圖片

新技術的發(fā)展也給消費者隱私保護帶來了很大挑戰(zhàn)。有別于其他風險,隱私風險的治理對象是數(shù)據(jù),其呈現(xiàn)出使用高頻率、可復制、易擴散、處理鏈條長、應用場景廣泛等特點,僅靠專家經(jīng)驗做事前風險評審、事后風險處置的傳統(tǒng)模式無法全面、準確、有效地發(fā)現(xiàn)和處理問題。數(shù)據(jù)的固有特征,決定了必須要用技術的方式解決風險問題,才能對風險看清、看全、看住,才能向用戶提供便捷和易獲取的隱私保護服務。

為解決上述問題,《螞蟻集團2023年消費者權益保護年報》顯示,其建立了技術驅動的i-ABC隱私工程體系,從事前、事后、盡責3個方面提供支撐。事前管控“看住、可調節(jié)”,確保上線的產品都經(jīng)過了隱私影響評估后才對用戶開放;事后監(jiān)測“看清、可監(jiān)測”,具備隱私數(shù)據(jù)全生命周期風險洞察能力,做到隱私風險心中有數(shù);盡責證明“看全、可自證”,個人信息數(shù)據(jù)在企業(yè)業(yè)務流程中的流動記錄完整可還原,透明可控。

螞蟻集團構建了隱私數(shù)字化管理體系。資料圖片

小程序智能巡檢是i-ABC隱私工程體系中的一環(huán)。據(jù)悉,目前支付寶上商家和機構小程序數(shù)量近400萬個。面對數(shù)量龐大的小程序,支付寶上線運行小程序智能巡檢,通過機器智能巡檢小程序信息授權情況,并對發(fā)現(xiàn)的問題進行評估和治理。依照已經(jīng)配置好的規(guī)則,智能巡檢可以實現(xiàn)自動治理,包括減少曝光、隱藏下架的處罰等方面,不需要人工操作。

當前,智能化方式管控隱私風險已成為行業(yè)趨勢。為了做好產品在投入使用前的個人信息保護合規(guī) “質檢”,騰訊自主研發(fā)了包括靈犀隱私平臺在內的大量技術檢測工具和檢測平臺,為產品做好合規(guī)檢測。

數(shù)字平臺的快速發(fā)展,已經(jīng)讓業(yè)態(tài)變得越來越多元化和復雜化,而企業(yè)通過技術創(chuàng)新研發(fā)的智能工具的助力與更頻繁的人機互動,顯然有助于消費者權益保護的質效提升,這已經(jīng)是被行業(yè)內外普遍認可的趨勢。

浙江大學經(jīng)濟學院副教授、博士生導師章華則建議,未來,企業(yè)應該圍繞ESG目標,持續(xù)提升應對消保形勢變化的科技能力,不斷增強企業(yè)的社會責任感和消費者的獲得感,推動消保工作與時俱進。

展望:消保需要協(xié)力共建 企業(yè)開放技術能力

在業(yè)內人士看來,消保形勢不斷變化,消費者權益保護是一個長期的、系統(tǒng)的工程,還需要與行業(yè)內的其他企業(yè)和機構開放合作、協(xié)同共建。

近年來,不少企業(yè)和機構通過聯(lián)合其他機構開展形式多樣的消?;顒樱餐Wo好消費者權益。

全社會消保水平的提高離不開行業(yè)整體技術的進步。以助力“全鏈條反詐、全行業(yè)阻詐、全社會防詐”為目標,螞蟻集團探索建立科技反詐開放技術平臺,面向全行業(yè)提供“螞蟻智能反詐系統(tǒng)”的核心技術能力及產品,首批已開放18件反詐關鍵專利和專利申請、5套反詐技術產品和解決方案。首批開放的專利和技術,包含了“叫醒熱線”“延時到賬”“電詐風險識別”“受害人預警和保護”等科技反詐核心能力,生態(tài)伙伴可以“開箱即用”,實現(xiàn)低成本、規(guī)?;丛p應用。

此外,“蟻鑒2.0”面向全球開發(fā)者免費提供AIGC安全性、AI可解釋性、AI魯棒性3項檢測工具,可服務于數(shù)字金融、教育、文化、醫(yī)療、電商等領域的大規(guī)模復雜業(yè)務場景。

螞蟻集團在《2023年消費者權益保護年報》中表示,2023年其面向行業(yè)開放技術能力,希望推動相關技術取得更大發(fā)展。未來,會持續(xù)加大科研投入,攻堅前沿和底層數(shù)字科技,共促科技的共享與發(fā)展。

如何讓新技術、新工具深度融合消費者權益保護的更多業(yè)務場景,實現(xiàn)人機快速聯(lián)動,高效化解風險,包括螞蟻、騰訊等在內的數(shù)字平臺們已經(jīng)做出了探索和實踐。未來,數(shù)字平臺商家愈發(fā)活躍靈動的經(jīng)營能力,也持續(xù)提醒著企業(yè)不能放慢腳下的每一步。

責任編輯:溫馨寧