生成式人工智能進(jìn)入合規(guī)發(fā)展階段

　 阿里云優(yōu)惠券 先領(lǐng)券再下單

8月15日，國(guó)家網(wǎng)信辦聯(lián)合國(guó)家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局公布的《生成式人工智能服務(wù)管理暫行辦法》(以下簡(jiǎn)稱《辦法》)正式施行，有望促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用。

“生成式人工智能技術(shù)快速發(fā)展，為經(jīng)濟(jì)社會(huì)發(fā)展帶來(lái)新機(jī)遇的同時(shí)，也產(chǎn)生了傳播虛假信息、侵害個(gè)人信息權(quán)益、數(shù)據(jù)安全和偏見(jiàn)歧視等問(wèn)題。”文淵智庫(kù)研究員王超接受記者采訪時(shí)表示，《辦法》的正式實(shí)施，是促進(jìn)生成式人工智能健康發(fā)展的要求，也是防范生成式人工智能服務(wù)風(fēng)險(xiǎn)的需要。

監(jiān)管不搞“一刀切”

生成式人工智能是指具有文本、圖片、音頻、視頻等內(nèi)容生成能力的模型及相關(guān)技術(shù)，自去年底起在各行各業(yè)大規(guī)模落地應(yīng)用，在提升效率的同時(shí)也亂象叢生。

新壹科技CEO雷濤告訴記者，與判別型人工智能風(fēng)險(xiǎn)主要集中在算法的歧視和濫用上不同，生成型人工智能存在更多知識(shí)產(chǎn)權(quán)爭(zhēng)議和更復(fù)雜的數(shù)據(jù)風(fēng)險(xiǎn)，同時(shí)濫用生成內(nèi)容在技術(shù)上可能會(huì)給監(jiān)管帶來(lái)更多挑戰(zhàn)。“特別是隨著大模型的不斷迭代，其生成內(nèi)容的真實(shí)性、偏向性與原創(chuàng)性在技術(shù)上越來(lái)越難以判別，也給監(jiān)管造成較大壓力。”

在教育行業(yè)，生成式人工智能大多在輔助教學(xué)、自動(dòng)批改作業(yè)、優(yōu)化教育資源以及個(gè)性化學(xué)習(xí)和興趣激發(fā)上具有智能、提效的作用。即便如此，但iEnglish智能英語(yǔ)學(xué)習(xí)解決方案技術(shù)研發(fā)負(fù)責(zé)人賈先好認(rèn)為，這些應(yīng)用帶來(lái)的版權(quán)、作弊，以及數(shù)據(jù)與隱私安全風(fēng)險(xiǎn)等系列問(wèn)題，也需要引起足夠的重視。他表示，《辦法》明確了提供和使用生成式人工智能服務(wù)應(yīng)當(dāng)遵守相關(guān)法律法規(guī)和倫理規(guī)范，對(duì)于保障人工智能的安全、可靠和透明使用具有重要意義。“《辦法》的正式施行，標(biāo)志著我國(guó)對(duì)生成式人工智能的管理進(jìn)入了新的階段。”

《辦法》提出堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則，采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展，對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管。

雷濤認(rèn)為，這種包容審慎和分類分級(jí)的監(jiān)管明確供應(yīng)商主體責(zé)任，在創(chuàng)新和有效監(jiān)管之間取得了平衡。“《辦法》符合對(duì)人工智能進(jìn)行分級(jí)、分類管理的趨勢(shì)，實(shí)現(xiàn)了監(jiān)管科學(xué)化、精細(xì)化，避免了‘一刀切’式的監(jiān)管措施抑制人工智能技術(shù)創(chuàng)新。”

產(chǎn)業(yè)應(yīng)該積極應(yīng)對(duì)

生成式人工智能大規(guī)模落地應(yīng)用，大模型居功至偉。日前發(fā)布的《中國(guó)人工智能大模型地圖研究報(bào)告》顯示，我國(guó)人工智能大模型產(chǎn)品已經(jīng)發(fā)布超百余個(gè)。

基于大模型研發(fā)應(yīng)用全產(chǎn)業(yè)鏈，數(shù)據(jù)及安全便成為重中之重?！掇k法》明確，生成式人工智能服務(wù)提供者應(yīng)當(dāng)依法開(kāi)展預(yù)訓(xùn)練、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動(dòng)，使用具有合法來(lái)源的數(shù)據(jù)和基礎(chǔ)模型;采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量，增強(qiáng)訓(xùn)練數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀性、多樣性。此外，還明確了數(shù)據(jù)標(biāo)注的相關(guān)要求。

顯然，這些規(guī)定讓此前在數(shù)據(jù)采集、加工和應(yīng)用方面呈野蠻式發(fā)展的廠商壓力倍增。雷濤認(rèn)為，這種陣痛是短暫且必須的，雖然當(dāng)前生成式人工智能依然是一個(gè)輔助人類創(chuàng)作的技術(shù)工具，但不可否認(rèn)的是其巨大潛能以及廣闊的應(yīng)用場(chǎng)景，產(chǎn)業(yè)鏈上的企業(yè)都應(yīng)是立足于自身做好研發(fā)追趕，而絕非回避。“《辦法》的施行，將有助于明確企業(yè)技術(shù)拓展和使用的邊界，新技術(shù)、新場(chǎng)景只有在合理的規(guī)范體系下，才能不斷推動(dòng)行業(yè)進(jìn)步，進(jìn)而形成良性的行業(yè)生態(tài)。”

“作為全球范圍內(nèi)較早關(guān)注生成式人工智能服務(wù)治理的規(guī)范性文件，《辦法》為生成式人工智能服務(wù)劃定了底線，提供了方向。”王超提醒，產(chǎn)業(yè)相關(guān)企業(yè)應(yīng)該以積極開(kāi)放的態(tài)度面對(duì)《辦法》的施行，并結(jié)合自身優(yōu)勢(shì)、探索生成式人工智能技術(shù)的創(chuàng)新應(yīng)用場(chǎng)景，不斷完善自身的應(yīng)用生態(tài)體系。

申請(qǐng)創(chuàng)業(yè)報(bào)道，分享創(chuàng)業(yè)好點(diǎn)子。點(diǎn)擊此處，共同探討創(chuàng)業(yè)新機(jī)遇！