最近公司換了新算法系統(tǒng),領(lǐng)導(dǎo)要求她把公司的推薦邏輯報(bào)備給有關(guān)部門。她一頭霧水,問了隔壁法務(wù)才知道這叫算法備案。只要企業(yè)用了推薦算法,哪怕只是把商品按用戶喜好排序,都得向國(guó)家備案。
算法備案就是把企業(yè)用的那套推薦、排序、決策系統(tǒng)的底細(xì),比如數(shù)據(jù)來源、運(yùn)行邏輯、應(yīng)用場(chǎng)景這些,都向有關(guān)部門說明白。

拿李琪公司舉例,他們的內(nèi)容推薦系統(tǒng)根據(jù)用戶瀏覽習(xí)慣推送文章和視頻。按照新規(guī)定,這種涉及算法推薦的產(chǎn)品必須進(jìn)行備案,還得寫清楚有沒有誘導(dǎo)沉迷、是否用過用戶隱私數(shù)據(jù)等問題。
社交平臺(tái)、電商、新聞資訊、出行服務(wù)、金融科技、智能硬件,只要你背后有算法推薦或排序功能,都得備案。
主要包括算法怎么運(yùn)作、數(shù)據(jù)從哪來、影響范圍多大、有沒有帶來風(fēng)險(xiǎn),甚至還要提交風(fēng)險(xiǎn)防控措施和應(yīng)急預(yù)案。

她們用的熱搜推薦機(jī)制,是不是人工干預(yù)了?這種也得寫出來。系統(tǒng)是否會(huì)讓用戶困在信息繭房、是否歧視不同人群,也必須提前評(píng)估并提交報(bào)告。
這項(xiàng)制度不是為了管企業(yè),而是為了防止黑箱算法傷害普通人。有些公司用算法悄悄操控用戶,讓人沉迷刷短視頻,有些平臺(tái)根據(jù)用戶信息亂定價(jià)。這些都是監(jiān)管部門要管住的。

而備案制度能推動(dòng)企業(yè)從源頭上自查,規(guī)避潛在風(fēng)險(xiǎn)。
以前有用戶覺得推薦太精準(zhǔn)很嚇人,現(xiàn)在平臺(tái)開放了部分算法規(guī)則,讓用戶能查到為什么給我推薦這篇文章。這種透明度,變成了品牌口碑。
金融行業(yè)很多算法以前不敢公開,現(xiàn)在有了備案機(jī)制,反倒清楚邊界,省得被投訴。
本文鏈接: http://www.kmabj.cn/mfwz/1815.html 未經(jīng)授權(quán),禁止轉(zhuǎn)載。
上一篇:美瞳也屬于醫(yī)療器械么?