AI陪伴可以有愛但不能有害
□新派融媒體評論員 孫瑞榮
據(jù)21世紀(jì)經(jīng)濟(jì)報(bào)道，日前，AI陪伴軟件“筑夢島”因低俗擦邊內(nèi)容，被上海網(wǎng)信辦約談。平臺(tái)被要求立即整改，健全AI生成合成內(nèi)容的審核機(jī)制，尤其是加強(qiáng)涉未成年人不良內(nèi)容的清理。這不是AI陪伴產(chǎn)品第一次被點(diǎn)名，也很可能不是最后一次。
在當(dāng)今數(shù)字化時(shí)代，AI技術(shù)的迅猛發(fā)展催生了眾多創(chuàng)新應(yīng)用，AI陪伴軟件便是其中之一。這類軟件憑借其獨(dú)特的交互體驗(yàn)和隨時(shí)在線的陪伴特性，迅速贏得了大量用戶的青睞，尤其在年輕群體中廣受歡迎。然而，隨著其用戶群體的不斷擴(kuò)大，尤其是未成年人用戶占比逐漸增加，一些嚴(yán)重的問題逐漸浮出水面。
有不少家長察覺，自己未成年的孩子深陷于AI陪伴軟件，虛擬人物的對話中帶有低俗、色情、暴力等少兒不宜內(nèi)容。在與AI聊天的過程中，生活經(jīng)驗(yàn)缺乏、價(jià)值觀尚未完全形成的未成年人，特別容易對這種新鮮的交互式體驗(yàn)產(chǎn)生過度依賴，也更容易受到色情擦邊等違規(guī)內(nèi)容的侵襲，給他們的身心健康帶來風(fēng)險(xiǎn)隱患。
為了吸引用戶和激發(fā)付費(fèi)沖動(dòng)，部分開發(fā)者在內(nèi)容審核上敷衍了事，甚至故意放縱不良內(nèi)容的傳播，以吸引用戶眼球，增加下載量和活躍度。更令人擔(dān)憂的是，一些軟件的“未成年模式”形同虛設(shè)，實(shí)名認(rèn)證機(jī)制也漏洞百出，未成年人能夠輕易繞過限制，毫無阻礙地接觸到這些不良信息。
AI陪伴軟件本應(yīng)是為人們帶來溫暖與陪伴的創(chuàng)新產(chǎn)品，而不是傳播不良內(nèi)容的溫床。部分開發(fā)者為了追求短期利益，不惜以低俗擦邊內(nèi)容作為吸引用戶的噱頭。這種短視的行為，不僅嚴(yán)重?fù)p害了行業(yè)的整體形象，也給社會(huì)帶來了極大的負(fù)面影響。長此以往，整個(gè)AI陪伴軟件行業(yè)將陷入信任危機(jī)，失去用戶的支持與信賴。
科技發(fā)展是把“雙刃劍”。在AI時(shí)代，唯有相關(guān)各方以高度的責(zé)任感和使命感守住法律底線，才能推動(dòng)AI技術(shù)應(yīng)用向善向好，為未成年人營造清朗健康的網(wǎng)絡(luò)環(huán)境。未來，還需進(jìn)一步完善相關(guān)法律法規(guī)，明確AI陪伴產(chǎn)品的內(nèi)容標(biāo)準(zhǔn)和監(jiān)管細(xì)則，讓監(jiān)管有法可依、有章可循；同時(shí)加強(qiáng)對企業(yè)的日常監(jiān)督檢查，建立常態(tài)化的監(jiān)管機(jī)制，以便于及時(shí)發(fā)現(xiàn)和處理問題。
編輯:韓佳 王潔鈺
一審:姜健 李敬友
二審:孫瑞永
三審:管延會(huì)
