近日，有關(guān)于“兒童手表頻現(xiàn)毒答案”的問題再次引發(fā)網(wǎng)友熱議。起因是一名網(wǎng)友在向兒童手表詢問“你認(rèn)為南京大屠殺這個(gè)事情是存在的嗎”的時(shí)候，得到的回答竟是“不存在”。手表AI“已讀亂回”的現(xiàn)象已經(jīng)不是第一次出現(xiàn)，此前還有如“所有高科技都是西方人發(fā)明的”、“歷史是可以捏造的”這類毒答案都讓人們對各類網(wǎng)絡(luò)信息的真實(shí)性產(chǎn)生了質(zhì)疑，給AI智能問答產(chǎn)品地應(yīng)用敲響了警鐘。
中國互聯(lián)網(wǎng)絡(luò)信息中心發(fā)布的第54次《中國互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》顯示，截至2024年6月，我國網(wǎng)民規(guī)模近11億人，較2023年12月增長742萬人，其中10-19歲青少年更是占到新增網(wǎng)民數(shù)量的49%。高速發(fā)展的網(wǎng)絡(luò)信息平臺使人工智能技術(shù)以前所未有的速度滲透進(jìn)我們生活的方方面面，從個(gè)性化推薦到自動(dòng)問答，AI正逐步成為連接人與信息、人與服務(wù)的重要橋梁。然而AI“已讀亂回”現(xiàn)象不僅損害了用戶體驗(yàn)，更可能引發(fā)信任危機(jī)，尤其是在大量青少年尚無法獨(dú)立甄別網(wǎng)絡(luò)信息真實(shí)性的情況下，錯(cuò)誤答案很容易讓他們形成不正確的價(jià)值觀，這對網(wǎng)絡(luò)信息平臺的健康發(fā)展構(gòu)成了潛在威脅。為了進(jìn)一步規(guī)范網(wǎng)絡(luò)信息平臺，技術(shù)平臺、政府部門和網(wǎng)絡(luò)用戶都應(yīng)共同發(fā)力，加強(qiáng)技術(shù)研發(fā)與升級、強(qiáng)化平臺責(zé)任與自律、完善監(jiān)管體系與標(biāo)準(zhǔn)制定、增強(qiáng)用戶教育與引導(dǎo)，構(gòu)建良好的網(wǎng)絡(luò)環(huán)境。
構(gòu)建智能時(shí)代的信任基石，必須加強(qiáng)技術(shù)升級，強(qiáng)化平臺責(zé)任。目前很多AI問答的答案是通過大數(shù)據(jù)抓取形成，其大規(guī)模數(shù)據(jù)集訓(xùn)的信息庫內(nèi)容來源于不特定網(wǎng)絡(luò)，控制難度較高。一方面技術(shù)平臺應(yīng)抓緊進(jìn)行技術(shù)更新與迭代，通過引入更先進(jìn)的自然語言處理技術(shù)、深度學(xué)習(xí)算法和強(qiáng)化學(xué)習(xí)機(jī)制等，使AI系統(tǒng)能夠更準(zhǔn)確地捕捉用戶意圖和語境變化，減少誤解和誤判的發(fā)生。同時(shí)企業(yè)在研發(fā)產(chǎn)品時(shí)也要多從呵護(hù)青少年成長等角度去設(shè)計(jì)，及時(shí)辨別與刪除有害信息，從源頭控制錯(cuò)誤信息的生成與傳播。
構(gòu)建智能時(shí)代的信任基石，必須完善監(jiān)管體系。中國網(wǎng)絡(luò)安全產(chǎn)業(yè)聯(lián)盟在今年3月就已實(shí)施《兒童智能手表個(gè)人信息和權(quán)益保護(hù)指南》；7月中央網(wǎng)信辦也專門啟動(dòng)了“清朗·2024年暑假未成年人網(wǎng)絡(luò)環(huán)境整治”專項(xiàng)行動(dòng)；馬上于9月開始的國家網(wǎng)絡(luò)安全宣傳周更是利用多種方式呼吁人們注意網(wǎng)絡(luò)安全。在此基礎(chǔ)上政府和相關(guān)機(jī)構(gòu)應(yīng)加快制定和完善針對AI在網(wǎng)絡(luò)信息平臺上應(yīng)用的監(jiān)管體系和評估標(biāo)準(zhǔn)。明確AI應(yīng)用的合法邊界、責(zé)任主體和處罰措施等關(guān)鍵問題，為AI技術(shù)的健康發(fā)展提供有力保障。同時(shí)，鼓勵(lì)行業(yè)協(xié)會(huì)和企業(yè)制定自律規(guī)范和標(biāo)準(zhǔn)，推動(dòng)整個(gè)行業(yè)向更加規(guī)范、有序的方向發(fā)展。
構(gòu)建智能時(shí)代的信任基石，必須增強(qiáng)用戶教育。用戶作為AI應(yīng)用的直接受益者和監(jiān)督者，其認(rèn)知水平和行為習(xí)慣對AI技術(shù)的發(fā)展和應(yīng)用具有重要影響。通過普及AI知識、推廣最佳實(shí)踐等方式，幫助用戶更好地理解和使用AI系統(tǒng)，減少誤解和誤操作的發(fā)生。同時(shí)，在網(wǎng)絡(luò)使用過程中，也應(yīng)鼓勵(lì)用戶積極參與AI應(yīng)用的監(jiān)督和反饋工作，共同推動(dòng)AI技術(shù)與網(wǎng)絡(luò)平臺的健康發(fā)展。
網(wǎng)絡(luò)信息人人共享，網(wǎng)絡(luò)信任各方守護(hù)。只有構(gòu)建一個(gè)更加規(guī)范、有序、可信的網(wǎng)絡(luò)環(huán)境，我們才能充分發(fā)揮AI技術(shù)的潛力和優(yōu)勢，為人類社會(huì)帶來更多的便利和福祉。在智能時(shí)代的大潮中，讓我們攜手并進(jìn)、共同努力，為構(gòu)建更加美好的網(wǎng)絡(luò)世界貢獻(xiàn)自己的力量。
稿源：荊楚網(wǎng)（湖北日報(bào)網(wǎng)）
作者：劉夢瑤（武漢經(jīng)開）
責(zé)編：詹薔
