“南京大屠殺不存在”“所有高科技都是西方人發(fā)明的”“歷史是可以捏造的”……近日,多款兒童智能手表被指頻現(xiàn)“毒答案”,引發(fā)公眾質(zhì)疑。據(jù)報(bào)道,某品牌負(fù)責(zé)人在個(gè)人社交賬號(hào)發(fā)文道歉,并稱(chēng)“已經(jīng)快速完成了整改,刪除了上述所有有害信息,并正在將軟件升級(jí)到人工智能版本”。
涉事兒童智能手表的“已讀亂回”,令人愕然。如此“毀三觀”的答案,不僅不能塑造兒童正確的價(jià)值觀,還誤導(dǎo)他們,“荼毒”他們的精神世界。
兒童智能手表為何頻現(xiàn)“毒答案”?從媒體的深度調(diào)查可知,與數(shù)據(jù)“污染”有關(guān)。AI主要基于大規(guī)模數(shù)據(jù)集訓(xùn)練出來(lái)的深度學(xué)習(xí)模型來(lái)回答提問(wèn),如果AI問(wèn)答的資料內(nèi)容不正,就會(huì)帶來(lái)可怕后果,“如果兒童智能手表在設(shè)計(jì)AI問(wèn)答功能時(shí)不注意這些,就很可能遭遇數(shù)據(jù)污染,從而出現(xiàn)‘毒答案’?!?/p>
看起來(lái),這是一個(gè)技術(shù)問(wèn)題,但深究起來(lái)卻不僅僅是技術(shù)問(wèn)題。兒童智能手表的用戶(hù)是兒童,正處于人生“拔節(jié)孕穗期”,正在形成世界觀、人生觀、價(jià)值觀,也最需要精心引導(dǎo)和栽培。無(wú)論廠家還是平臺(tái),乃至內(nèi)容提供者都需嚴(yán)格守住底線(xiàn)、恪守邊界,都需更加主動(dòng)承擔(dān)責(zé)任,充分考慮到一旦設(shè)計(jì)存在漏洞、內(nèi)容供給有毒、審核把關(guān)疏忽,就會(huì)造成惡劣后果。
某涉事企業(yè)表示,將對(duì)含有應(yīng)用商店的全線(xiàn)產(chǎn)品進(jìn)行全面嚴(yán)格排查工作,進(jìn)一步強(qiáng)化上架前的第三方應(yīng)用軟件多重審核機(jī)制及上架應(yīng)用巡檢機(jī)制。這種糾錯(cuò)是應(yīng)該的,也是及時(shí)的。遏制兒童手表頻現(xiàn)“毒答案”,既需要技術(shù)升級(jí),也需要責(zé)任升級(jí),通過(guò)行之有效的制度設(shè)計(jì)和高效高能的監(jiān)管舉措,防止“毒答案”生成,防范“毒信息”傷害孩子的心靈。
值得一提的是,今年7月,中央網(wǎng)信辦啟動(dòng)“清朗·2024年暑期未成年人網(wǎng)絡(luò)環(huán)境整治”專(zhuān)項(xiàng)行動(dòng),明確要求重點(diǎn)整治兒童智能設(shè)備。其中指出,兒童智能設(shè)備存在自帶App包含可能影響未成年人身心健康的內(nèi)容,以及以積分排行、功能解鎖、背景更新等為名,誘導(dǎo)未成年人過(guò)度消費(fèi)的問(wèn)題。奔著問(wèn)題去、盯著問(wèn)題改,哪里出現(xiàn)問(wèn)題就要在哪里解決,這是當(dāng)務(wù)之急。
一份報(bào)告顯示,目前兒童智能手表的市場(chǎng)普及率約為30%。對(duì)于企業(yè)來(lái)說(shuō),這是一個(gè)“錢(qián)”景無(wú)限的產(chǎn)業(yè),但因?yàn)橛脩?hù)是廣大兒童,更需要恪盡職守,考慮到孩子的前途,不能只向錢(qián)看。
校準(zhǔn)方向,一路“童”行,兒童智能手表才能行穩(wěn)致遠(yuǎn)。兒童智能手表頻現(xiàn)“毒答案”給各方都提了個(gè)醒,采取嚴(yán)格審核機(jī)制、增強(qiáng)信息識(shí)別能力等,事不宜遲。明確邊界,穩(wěn)健發(fā)展,讓兒童智能手表更“智能”,讓兒童更受益,這是大家共同的心聲。
用戶(hù)評(píng)論