隨著網(wǎng)絡(luò)技術(shù)的不斷發(fā)展,網(wǎng)絡(luò)詐騙技術(shù)等非法手段也日漸難以抵抗。AI換臉技術(shù)的成熟也讓一些不法分子有了可乘之機,假人假身份也讓不少社交產(chǎn)品用戶深陷泥潭,其中未成年人的占比不容忽視。為此Soul依托自身技術(shù)打造出了未成年內(nèi)容識別模型,提升了平臺對假人識別和處理能力。
據(jù)了解,目前Soul依托自身技術(shù)能力打造的未成年內(nèi)容識別模型,可針對興趣群組、群聊派對、內(nèi)容廣場等公域場景下用戶發(fā)布的文字、語音、圖片等內(nèi)容進行年齡特征識別,并結(jié)合人工判定對未成年人進行識別。
同時,在群聊等一對多場景中,若同時存在多名用戶提及未成年元素,輔以人工判定,對潛在的未成年人進行兜底識別。在設(shè)備識別方面,針對過往在“青少年模式”下使用產(chǎn)品的設(shè)備,賬號注銷后新注冊的賬號依然直接關(guān)聯(lián)“青少年模式”,用戶提交詳細材料自證為成年人后方可退出“青少年模式”并正常使用產(chǎn)品。
此外,Soul平臺從人工策略和智能模型策略雙管齊下展開治理,對軟色情等灰色信息進行有效識別與攔截,對違法違規(guī)賬號嚴肅處置。不斷優(yōu)化迭代的策略模型,就像一面面照妖鏡,讓各類有害信息盡顯原形。此外,當在Soul上碰到類似不良信息時,可以采取舉報措施,也可通過平臺內(nèi)各場景的反饋渠道進行反饋投訴。
青少年對于網(wǎng)絡(luò)陷阱的辨別能力有限,一些非法分子正是借此拉動青少年一步步陷入圈套。Soul一直以來都十分關(guān)注平臺青少年用戶的上網(wǎng)安全和相關(guān)權(quán)益的保護,在未來Soul亦將在此方面加大投入,為青少年打造輕松綠色的社交氛圍,幫助青少年屏蔽假人等不實網(wǎng)絡(luò)內(nèi)容。
彥奇
用戶評論