北京5月6日消息（記者 樊瑞）作為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量，人工智能技術(shù)發(fā)展與應(yīng)用拓展正在按下“快進(jìn)鍵”。為搶占新一輪發(fā)展機(jī)遇，國(guó)內(nèi)外公司都在加快布局人工智能產(chǎn)業(yè)。
ChatGPT自2022年11月橫空出世就在全球受到極大追捧，掀起新一輪的人工智能產(chǎn)業(yè)浪潮，各類生成式人工智能進(jìn)入應(yīng)用爆發(fā)階段。從文生文，到文生圖（諸如 Midjourney），再到文生視頻（Sora大模型），乃至文生音樂（Suno V3大模型），生成式人工智能應(yīng)用已經(jīng)迅速出圈，為未來人工智能產(chǎn)業(yè)發(fā)展提供無限想象空間。
當(dāng)前，人工智能發(fā)展呈現(xiàn)何種趨勢(shì)？新時(shí)代人工智能產(chǎn)業(yè)的發(fā)展機(jī)遇在哪里？政策能為人工智能發(fā)展提供怎樣的助力？就此，記者采訪相關(guān)專家。
社會(huì)發(fā)展進(jìn)入新拐點(diǎn)
這一輪人工智能的競(jìng)賽中，Open AI憑借旗下大語言模型驅(qū)動(dòng)的對(duì)話機(jī)器人ChatGPT，迅速崛起為新一輪人工智能領(lǐng)域的領(lǐng)軍公司。Open AI能夠崛起，與微軟與其大量的資金投入、商業(yè)場(chǎng)景的支持密不可分。與Open AI共舞的微軟，已經(jīng)成為這一輪人工智能競(jìng)賽中的贏家。
在微軟全球助理法律總顧問、微軟亞太研發(fā)集團(tuán)法律事務(wù)部總經(jīng)理羅立凡看來，2024年人工智能有三大發(fā)展趨勢(shì)。其一是小語言模型，即能在設(shè)備上離線運(yùn)行，在使用高質(zhì)量數(shù)據(jù)訓(xùn)練執(zhí)行具體任務(wù)上性能與大語言模型相當(dāng)；其二是多模態(tài)人工智能，多模態(tài)理解與生成（類似圖像、視頻、音頻）；其三是人工智能助力科學(xué)研究，可整體加快科學(xué)發(fā)現(xiàn)速度，包括氣候變化上精準(zhǔn)氣候預(yù)報(bào)、碳排放預(yù)估等。此外，人工智能也能在生命科學(xué)上發(fā)揮作用，可縮短新藥研發(fā)周期。
“生成式人工智能不僅帶來技術(shù)變革，更是讓整個(gè)社會(huì)的發(fā)展步入新紀(jì)元。”對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任張欣表示，從整個(gè)社會(huì)發(fā)展的角度來看，人類已經(jīng)從生成式人工智能向通用人工智能演進(jìn)，整個(gè)社會(huì)發(fā)展已經(jīng)進(jìn)入新的拐點(diǎn)。
張欣進(jìn)一步指出，在互聯(lián)網(wǎng)時(shí)代，信息發(fā)展和生成是PGC（專業(yè)生產(chǎn)內(nèi)容）模式；當(dāng)進(jìn)入移動(dòng)互聯(lián)網(wǎng)時(shí)代，信息生成模式變革成UGC（用戶生產(chǎn)內(nèi)容）；到今日人工智能開始輔助人們進(jìn)行內(nèi)容生產(chǎn)，就意味著在未來的信息和知識(shí)生產(chǎn)中人類的生產(chǎn)主體地位可能會(huì)受到機(jī)器和技術(shù)的沖擊與挑戰(zhàn)。“人工智能帶來的將是新一輪的產(chǎn)業(yè)革命和時(shí)代革命”，她如此向央廣網(wǎng)記者總結(jié)。
在全球爭(zhēng)相布局人工智能產(chǎn)業(yè)之時(shí)，人工智能的競(jìng)爭(zhēng)日益白熱化。張欣指出，發(fā)展人工智能，不僅需要技術(shù)、產(chǎn)品，也需要制度的保障。作為法律人，她一直在思考的是，如何從法律制度上為中國(guó)人工智能發(fā)展提供助力。在此契機(jī)下，她主編《智能新紀(jì)元：生成式人工智能的發(fā)展與治理》一書，認(rèn)為秉持創(chuàng)新與治理雙輪驅(qū)動(dòng)的理念，積極探索與之適配的治理框架具有重要的理論與實(shí)踐意義。
人工智能治理已是全球熱點(diǎn)
張欣指出，放眼全球，人工智能競(jìng)爭(zhēng)不僅僅是技術(shù)和產(chǎn)品的競(jìng)爭(zhēng)，更重要的是全球人工智能治理的競(jìng)爭(zhēng)，這也是目前全球政策議題當(dāng)中的熱點(diǎn)，全球的人工智能立法也在緊鑼密鼓制定之中。
據(jù)相關(guān)數(shù)據(jù)統(tǒng)計(jì)，截至今年2月底，全球和人工智能直接相關(guān)的立法（包括次級(jí)立法）中，已通過且生效的有68個(gè)；通過但是沒有生效的有16個(gè)；提案階段的有92個(gè)，其中政策及相關(guān)文件有73個(gè)。
中國(guó)的人工智能相關(guān)立法也呈現(xiàn)加速狀態(tài)。從頂層設(shè)計(jì)到技術(shù)性法律，再到部門規(guī)章、地方性法規(guī)、國(guó)標(biāo)和行標(biāo)，皆是如此。
從2022開始，中國(guó)科技產(chǎn)業(yè)的立法開始采取“小快靈”的方式，“小切口立法比較靈活，能夠以較小的體量規(guī)定最為核心的事項(xiàng)，同時(shí)在行業(yè)發(fā)展的過程中及時(shí)發(fā)揮實(shí)效性。”張欣說。
當(dāng)人工智能與行業(yè)碰撞，在中國(guó)發(fā)生的一個(gè)強(qiáng)烈的化學(xué)反應(yīng)就是涌現(xiàn)出諸多行業(yè)大模型，這些大模型在不斷進(jìn)行升級(jí)和迭代。張欣表示，截至2023年11月，國(guó)內(nèi)大模型廠商已經(jīng)全部完成交卷，發(fā)布公司的大模型平均完成3輪更新。她觀察到，公司的競(jìng)爭(zhēng)的重點(diǎn)也在悄然發(fā)生變化，已從模型參數(shù)量的比拼轉(zhuǎn)變成模型更新能力的較量。此外，公司也在應(yīng)用層深化探索，開始進(jìn)入到具體場(chǎng)景的發(fā)掘和應(yīng)用階段。
張欣指出，大模型的確有很多優(yōu)秀的性能、令人驚艷的表現(xiàn)，但從治理的視角來看，技術(shù)專家也對(duì)大模型帶來的風(fēng)險(xiǎn)和挑戰(zhàn)表示擔(dān)憂。這些風(fēng)險(xiǎn)可能出現(xiàn)在數(shù)據(jù)層、算法層和應(yīng)用層等各個(gè)層級(jí)當(dāng)中。
“風(fēng)險(xiǎn)并不可怕，只要我們能夠創(chuàng)建與之相配適的框架，讓人工智能得以在可控的軌道上發(fā)展。”張欣表示，當(dāng)國(guó)內(nèi)的科技企業(yè)投身于生成式人工智能的開發(fā)浪潮時(shí)，應(yīng)該秉持著創(chuàng)新和治理雙輪驅(qū)動(dòng)的理念，探索一個(gè)與之配適的治理理念。
北京師范大學(xué)網(wǎng)絡(luò)法治國(guó)際中心執(zhí)行主任吳沈括認(rèn)為，當(dāng)前全球有關(guān)人工智能的相關(guān)立法都呈現(xiàn)綜合治理的思路，歐盟、美國(guó)和中國(guó)各有差異。歐盟更加側(cè)重的是組織管理層面的風(fēng)險(xiǎn)治理，即歐盟根據(jù)不同程度、不同等級(jí)的人工智能風(fēng)險(xiǎn)，就特定的主體設(shè)定不同程度的合規(guī)義務(wù)。美國(guó)的人工智能治理相對(duì)而言更側(cè)重于對(duì)技術(shù)本身的關(guān)注，是一種強(qiáng)調(diào)技術(shù)要素治理的思路，對(duì)于技術(shù)相關(guān)的產(chǎn)業(yè)鏈、供應(yīng)鏈關(guān)注更為密切。
“中國(guó)體現(xiàn)的是一種生態(tài)式的治理”，吳沈括向央廣網(wǎng)記者介紹，即圍繞人工智能的應(yīng)用，從技術(shù)要素、組織管理到信息內(nèi)容、特定的主體資質(zhì)要求等，是一種生態(tài)式的治理思路。
吳沈括認(rèn)為，中國(guó)在人工智能領(lǐng)域的治理具有先進(jìn)性，其一是在治理層面的監(jiān)管落地場(chǎng)景更加豐富多元，系因中國(guó)的人工智能產(chǎn)業(yè)應(yīng)用較為豐富；其二是治理使用的落地工具較為多樣，諸如風(fēng)險(xiǎn)評(píng)估、安全審查等各項(xiàng)機(jī)制。
從算法備案到監(jiān)管機(jī)構(gòu)的創(chuàng)新
按照我國(guó)的相關(guān)法律，生成式人工智能實(shí)施“備案制”，需向國(guó)家網(wǎng)信辦履行相關(guān)備案手續(xù)。
據(jù)國(guó)家網(wǎng)信辦4月2日發(fā)布的消息，按照《生成式人工智能服務(wù)管理暫行辦法》要求，截至2024年3月，中國(guó)共有117個(gè)大模型完成生成式人工智能服務(wù)備案。這些大模型包括百度文心一言、抖音云雀、阿里巴巴通義千問、華為云盤古、騰訊混元助手、OPPO安第斯、vivo藍(lán)心等。
中國(guó)信息通信研究院政策與經(jīng)濟(jì)研究所高級(jí)工程師程瑩長(zhǎng)期從事人工智能和算法治理研究工作。她指出，從國(guó)際視角來看，在對(duì)人工智能的治理上，我國(guó)引領(lǐng)推動(dòng)建立人工智能備案制度，與歐美有所差異。“在對(duì)人工智能的治理中，透明度是全球普遍認(rèn)可的倫理價(jià)值追求，中國(guó)通過備案制度，一定程度已走在世界前列。”
程瑩表示，中國(guó)的備案法規(guī)依據(jù)，從《算法推薦管理規(guī)定》至《生成式人工智能服務(wù)管理暫行辦法》中都有相關(guān)相關(guān)規(guī)定。
歐盟《人工智能法案》對(duì)大模型確立雙層監(jiān)管義務(wù)要求。一般的通用人工智能需披露模型的技術(shù)文件、測(cè)試過程和評(píng)估結(jié)果；具有系統(tǒng)性風(fēng)險(xiǎn)的通用人工智能（浮點(diǎn)運(yùn)算值、用戶數(shù)等超過一定界限）還要披露重大事故、能源消耗等信息。
美國(guó)在2023年10月出臺(tái)的《安全、穩(wěn)定、可信的人工智能》行政令中，也關(guān)注透明度要求，要求關(guān)涉國(guó)家安全的基礎(chǔ)模型向聯(lián)邦政府共享紅隊(duì)安全測(cè)試結(jié)果、模型權(quán)重等信息。
除了監(jiān)管內(nèi)容的創(chuàng)新，各國(guó)也還在探索探索人工智能監(jiān)管機(jī)構(gòu)創(chuàng)新。
程瑩介紹，歐盟將成立專門的人工智能監(jiān)管機(jī)構(gòu)。根據(jù)《人工智能法案》，歐盟各成員國(guó)將建立獨(dú)立的人工智能監(jiān)管機(jī)構(gòu)，例如，西班牙率先成立西班牙人工智能監(jiān)管局（AESIA）。
同時(shí)，將在歐盟委員會(huì)內(nèi)設(shè)立人工智能辦公案，負(fù)責(zé)監(jiān)督GP人工智能模型風(fēng)險(xiǎn)、制定標(biāo)準(zhǔn)等，并由獨(dú)立專家組成的科學(xué)小組協(xié)助評(píng)估GP人工智能能力、選定系統(tǒng)性風(fēng)險(xiǎn)GP人工智能等。
美國(guó)在現(xiàn)有機(jī)構(gòu)體系下推進(jìn)監(jiān)管協(xié)調(diào)。白宮人工智能委員會(huì)主要功能是協(xié)調(diào)聯(lián)邦政府機(jī)構(gòu)的活動(dòng)，以確保有效制定、發(fā)展、溝通、行業(yè)參與和及時(shí)實(shí)施人工智能相關(guān)政策。英國(guó)《支持創(chuàng)新的人工智能監(jiān)管方案》白皮書，強(qiáng)調(diào)應(yīng)加強(qiáng)中央層面的監(jiān)管協(xié)調(diào)。
在實(shí)踐中，強(qiáng)化不同監(jiān)管機(jī)構(gòu)的協(xié)調(diào)配合，已是國(guó)際的共識(shí)。為此程瑩建議，未來，國(guó)內(nèi)可進(jìn)一步建立完善大模型監(jiān)管的工作協(xié)調(diào)機(jī)制，銜接協(xié)調(diào)不同部門監(jiān)管措施，以協(xié)同提升監(jiān)管效率。