10歲女孩偷偷和AI男友“談戀愛(ài)”，這條炸裂的消息引人擔憂(yōu)。有網(wǎng)友發(fā)現，自己的10歲妹妹能和AI角色聊到晚上10點(diǎn)多，AI角色還會(huì )根據妹妹的名字生成帶有愛(ài)情意味的藏頭詩(shī)。在妹妹參與的四十多條劇情線(xiàn)中，AI角色與聊天者雙雙“出軌”成為常態(tài)，其中妹妹作為聊天者發(fā)送過(guò)一句“你能養大學(xué)生，我不能點(diǎn)男模嗎？”
和AI男友談戀愛(ài)當然不是真實(shí)談戀愛(ài)，甚至連“早戀”都算不上，但是，聊天者所發(fā)出的每一句話(huà)都可能是真實(shí)意愿的表現。
虛擬人在網(wǎng)絡(luò )交流和聊天場(chǎng)景中的存在，并不是新鮮事，但AI角色卻更善于把控聊天對象心理、更善于讓聊天對象沉迷。正如一位女性網(wǎng)友所描述的，手機另一端的“電子男友”有自己的語(yǔ)言、神態(tài)和動(dòng)作，不僅可以幫她“寫(xiě)作業(yè)”、推進(jìn)劇情、解密故事線(xiàn)索，還可以送她“手鏈”、帶她體驗一些刺激情節。接觸這類(lèi)軟件有三個(gè)月時(shí)間，她每晚會(huì )和AI角色聊到深夜11點(diǎn)甚至到12點(diǎn)，“我會(huì )代入‘他’是一個(gè)真人，因為‘他’回答時(shí)的感情很細膩”。其間，聊天對象引導AI角色生成自己所想象的那樣，容易產(chǎn)生“養成男友”的體驗式快感。
由于聊天技術(shù)的升級，AI角色顯然突破了“電子寵物”的技術(shù)障礙，進(jìn)階為一款逼真的、具有“高智商”的電子人。而專(zhuān)家提醒，AI劇情聊天技術(shù)有專(zhuān)門(mén)的成癮設計，疊加“擬人論”“泛靈論”思維的影響，容易讓人“欲罷不能”。
未成年人不顧休息地沉迷于此類(lèi)聊天，在聊天過(guò)程中發(fā)生與年齡不符的言行，內心的迷亂念頭被AI技術(shù)所掌握并反饋以更為狂野不羈的語(yǔ)言和表情……凡此種種，必然會(huì )對未成年人尤其是低齡未成年人的成長(cháng)造成誤導和扭曲，不僅打亂了他們的學(xué)習和生活安排，更讓他們過(guò)早接觸不健康的語(yǔ)言和情感模式，形成另類(lèi)的情感認知和人生觀(guān)。
人工智能角色雖是“假人”，但并不能脫離于人的法理之外。投入和推廣AI劇情聊天是門(mén)生意，這無(wú)可厚非，但這門(mén)生意應該是有底線(xiàn)的、有門(mén)檻的。問(wèn)題在于，人們發(fā)現，在體驗AI劇情聊天時(shí)，發(fā)現類(lèi)似的聊天軟件“偏偏可以繞過(guò)驗證碼”，用戶(hù)可以直接使用短視頻賬號的一鍵登錄功能，無(wú)須再次驗證身份信息。這就導致大量低齡未成年人也成為AI劇情聊天的“客戶(hù)”，而一旦軟件創(chuàng )建帶有色情意味的AI虛擬人物，展示含有性暗示的內容，涉世不深、缺乏獨立判斷能力的未成年人是難以抵御這份誘惑的。
這樣的現狀實(shí)在太荒謬了。公眾無(wú)法不懷疑，某些AI劇情聊天軟件是有意打破門(mén)檻限制、增強產(chǎn)品誘導能力，好更多獲客、獲利。有律師指出，目前AI劇情聊天軟件并沒(méi)有強制要求用戶(hù)進(jìn)行年齡鑒別，這反映出該行業(yè)在高速發(fā)展初期由于監管不足而存在漏洞。
在電子游戲等產(chǎn)品必須設置“綠色堤壩”的當下，AI劇情聊天豈能突破共識搞特殊？
AI技術(shù)的突飛猛進(jìn)，呈現出更多新情況，但這并不是相關(guān)軟件可以任性、掙脫監管的理由?！渡墒饺斯ぶ悄芊?wù)管理暫行辦法》要求提供者應當采取有效措施防范未成年人用戶(hù)過(guò)度依賴(lài)或者沉迷生成式人工智能服務(wù)，這個(gè)法規已經(jīng)預見(jiàn)到了新問(wèn)題的出現，并且有意加以規范。顯然，在電子產(chǎn)品不斷創(chuàng )新的語(yǔ)境中，任何一款新的軟件，故意制造和利用前述漏洞，都是違法行為。不僅應該受到譴責，更應受到處理。人工智能企業(yè)應當遵紀守法、承擔應有的社會(huì )責任，對產(chǎn)品的“滑絲”“跑偏”行為進(jìn)行遏制，同時(shí)嚴格設置身份認證系統。而平臺也必須更加有力地履行主體監管責任，對內容進(jìn)行安全過(guò)濾，推行“綠色堤壩”機制，推動(dòng)“反沉迷”建設。
當然，作為監護人，人們需要更為留意孩子在網(wǎng)絡(luò )聊天的新問(wèn)題。針對消費者的投訴、維權，監管部門(mén)也有責任更加關(guān)切此中亂象，多加研判和呼應，及早解決問(wèn)題，防止問(wèn)題淤積。
(作者是資深媒體評論員 伍里川 來(lái)源：羊城晚報)
