“小學(xué)生妹妹沉迷和AI角色進(jìn)行劇情聊天怎么辦？”記者聯(lián)系到黃秋月時(shí)，她正因10歲妹妹和“AI男模”之間較為露骨的聊天記錄苦惱。“和她平時(shí)在家里比較單純的形象完全不一樣?！秉S秋月向記者出示了妹妹的一些聊天截圖，她在AI劇情聊天軟件中扮演“大小姐”“惡毒女配”，提出諸如“揪住她的頭發(fā)扇巴掌”“拿著刀劃向她的臉”等要求。

未成年人與AI談戀愛等類似現(xiàn)象，反映出當(dāng)前AI產(chǎn)業(yè)領(lǐng)域發(fā)展迅速，但監(jiān)管滯后的問題。AI聊天軟件的定制化服務(wù)，能夠高度匹配用戶的興趣和需求，從而令人產(chǎn)生一種強(qiáng)烈的吸引力和依賴性，特別容易讓涉世未深的未成年人深陷其中，嚴(yán)重影響孩子學(xué)習(xí)、生活和社交等。更令人擔(dān)憂的是，因未受有效約束，其中常常出現(xiàn)色情、暴力以及價(jià)值觀扭曲的聊天內(nèi)容，嚴(yán)重?fù)p害未成年人的身心健康，對(duì)此必須引起高度重視。

雖然AI聊天軟件給人帶來了個(gè)性化的體驗(yàn)，但也存在一定的負(fù)面風(fēng)險(xiǎn)，需要及時(shí)介入采取措施干預(yù)和約束，讓AI聊天軟件如同未成年人一樣在正確的軌道上健康成長(zhǎng)。2023年，我國出臺(tái)《生成式人工智能服務(wù)管理暫行辦法》，專門針對(duì)AI可能產(chǎn)生的一系列違法違規(guī)問題作出立法回應(yīng)。加快落實(shí)這一系列要求，需要多方共同努力。

相關(guān)部門要加快制定和完善法律法規(guī)，加強(qiáng)對(duì)AI聊天軟件的監(jiān)管，進(jìn)一步規(guī)定其在未成年人保護(hù)方面的責(zé)任和義務(wù)，同時(shí)建立健全內(nèi)容審核機(jī)制，確保AI聊天軟件不含有色情、暴力、低俗等違規(guī)內(nèi)容。AI聊天軟件的開發(fā)運(yùn)營商要結(jié)合形勢(shì)、按照要求加強(qiáng)技術(shù)創(chuàng)新，提高內(nèi)容審核的準(zhǔn)確性和安全性，設(shè)置“青少年模式”，限制未成年人訪問“成人區(qū)域”，提供更加健康、有益的未成年人服務(wù)。

現(xiàn)實(shí)中，未成年人因?yàn)槭艿紸I聊天軟件不良信息的影響，也存在想方設(shè)法突破“青少年模式”的情況。對(duì)此，作為第一責(zé)任人的家長(zhǎng)要加強(qiáng)對(duì)孩子使用AI應(yīng)用的監(jiān)督，引導(dǎo)孩子合理安排時(shí)間，平衡虛擬與現(xiàn)實(shí)生活。學(xué)校和社會(huì)也應(yīng)加強(qiáng)對(duì)未成年人的教育引導(dǎo)，提高他們的自我保護(hù)意識(shí)，別讓AI鉆了空子。