近日，媒體報道了未成年人與AI（人工智能）聊天機器人談戀愛的現(xiàn)象，引發(fā)關(guān)注。據(jù)報道，一名10歲女孩使用AI聊天軟件，與虛擬“男友”進行“戀愛”，對話多次出現(xiàn)“擦邊”內(nèi)容。這值得家長與社會警惕，也再次為我們敲響人工智能應(yīng)用的法律與倫理警鐘。

（圖源 新華社）

我們?nèi)绾闻cAI相處？我們的孩子又該如何與AI相處？說抽象點，這觸及人工智能時代科技哲學與科技倫理范疇。說具體點，最基本的共識是，AI作為一種更先進的生產(chǎn)工具，絕不能成為不法分子觸犯法律與挑戰(zhàn)倫理底線的技術(shù)手段。

不得不承認，人工智能時代正成為現(xiàn)實。除了影響未成年人的“AI戀人”，還有視頻生成剪輯、PPT制作、翻譯、檢索、寫作、數(shù)字人播報、無人駕駛等，AI正在深入影響我們?nèi)粘Ｉ畹姆椒矫婷妗?/p>

AI“深度偽造”技術(shù)已讓海內(nèi)外不少公眾人物與機構(gòu)相繼成為受害者。2024年1月，明星泰勒·斯威夫特大量虛假“不雅照片”在社交平臺上傳播，掀起一波關(guān)于人工智能的擔憂。2024年底，有人用AI技術(shù)假冒某知名醫(yī)生帶貨的消息沖上熱搜。

此外，利用AI進行違法犯罪的案例，包括造謠、換臉詐騙、竊取隱私等，也屢見不鮮。

AI作為新技術(shù)，絕不是洪水猛獸，但其挑戰(zhàn)公序良俗乃至法律底線的部分，必須加以限制。

完善治理體系，刻不容緩。這要求我們務(wù)必緊跟AI迭代升級腳步，及時研判，不斷完善法律法規(guī)與治理體系。為確保人工智能技術(shù)的健康發(fā)展和合規(guī)應(yīng)用，我國已建立較為完善的法律法規(guī)體系。2023年7月出臺的《生成式人工智能服務(wù)管理暫行辦法》明確：鼓勵生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用，生成積極健康、向上向善的優(yōu)質(zhì)內(nèi)容。

AI作為新一輪科技革命的重要內(nèi)容，我國對其發(fā)展采取包容審慎和分類分級監(jiān)管政策，發(fā)展與治理并重。但目前來看，具體到細分領(lǐng)域與具體應(yīng)用，立法與監(jiān)管還相對滯后。例如，涉及未成年人的AI聊天軟件等社交平臺，在監(jiān)管體系中仍處于模糊地帶，有待進一步細化規(guī)則，明確監(jiān)管邊界和責任。

（圖源 新華社）

壓實平臺主體責任，義不容辭。截至2024年7月，我國已有197個生成式人工智能服務(wù)通過網(wǎng)信辦備案，提供的應(yīng)用和服務(wù)更是紛繁復(fù)雜。平臺方作為責任主體，理應(yīng)加大技術(shù)投入，恪守“科技向善”“智能向善”底線思維，維護用戶合法權(quán)益。特別是涉及未成年人的，更要構(gòu)建嚴密的未成年人保護機制，確保未成年人無法繞過年齡限制注冊使用，精準攔截不良信息等。

加強AI社會教育與學校教育，不留死角。人工智能時代，需要公眾具備使用和掌控AI的素養(yǎng)和能力。這需家庭、學校、社會等多方協(xié)同、形成合力，加強對公眾特別是孩子們相關(guān)能力與意識的培養(yǎng)與教育。

想當年，互聯(lián)網(wǎng)也一度面臨當下AI面臨的問題與爭議，而如今，互聯(lián)網(wǎng)特別是移動互聯(lián)網(wǎng)，已成社會基礎(chǔ)公共設(shè)施。可以預(yù)見，AI也必將成為新一代基礎(chǔ)公共設(shè)施。如何迎接這一“新設(shè)施”，你我，包括我們的孩子，都需做好足夠的準備