最近公司換了新算法系統(tǒng)，領(lǐng)導(dǎo)要求她把公司的推薦邏輯報(bào)備給有關(guān)部門。她一頭霧水，問了隔壁法務(wù)才知道這叫算法備案。只要企業(yè)用了推薦算法，哪怕只是把商品按用戶喜好排序，都得向國(guó)家備案。

算法備案到底是干啥的

算法備案就是把企業(yè)用的那套推薦、排序、決策系統(tǒng)的底細(xì)，比如數(shù)據(jù)來源、運(yùn)行邏輯、應(yīng)用場(chǎng)景這些，都向有關(guān)部門說明白。

拿李琪公司舉例，他們的內(nèi)容推薦系統(tǒng)根據(jù)用戶瀏覽習(xí)慣推送文章和視頻。按照新規(guī)定，這種涉及算法推薦的產(chǎn)品必須進(jìn)行備案，還得寫清楚有沒有誘導(dǎo)沉迷、是否用過用戶隱私數(shù)據(jù)等問題。

哪些行業(yè)必須備案算法

社交平臺(tái)、電商、新聞資訊、出行服務(wù)、金融科技、智能硬件，只要你背后有算法推薦或排序功能，都得備案。

算法備案要報(bào)哪些內(nèi)容

主要包括算法怎么運(yùn)作、數(shù)據(jù)從哪來、影響范圍多大、有沒有帶來風(fēng)險(xiǎn)，甚至還要提交風(fēng)險(xiǎn)防控措施和應(yīng)急預(yù)案。

她們用的熱搜推薦機(jī)制，是不是人工干預(yù)了？這種也得寫出來。系統(tǒng)是否會(huì)讓用戶困在信息繭房、是否歧視不同人群，也必須提前評(píng)估并提交報(bào)告。

為什么國(guó)家要這么重視這件事

這項(xiàng)制度不是為了管企業(yè)，而是為了防止黑箱算法傷害普通人。有些公司用算法悄悄操控用戶，讓人沉迷刷短視頻，有些平臺(tái)根據(jù)用戶信息亂定價(jià)。這些都是監(jiān)管部門要管住的。

而備案制度能推動(dòng)企業(yè)從源頭上自查，規(guī)避潛在風(fēng)險(xiǎn)。

算法備案還能帶來啥好處

以前有用戶覺得推薦太精準(zhǔn)很嚇人，現(xiàn)在平臺(tái)開放了部分算法規(guī)則，讓用戶能查到為什么給我推薦這篇文章。這種透明度，變成了品牌口碑。

金融行業(yè)很多算法以前不敢公開，現(xiàn)在有了備案機(jī)制，反倒清楚邊界，省得被投訴。

本文鏈接: http://www.kmabj.cn/mfwz/1815.html 未經(jīng)授權(quán),禁止轉(zhuǎn)載。