點擊右上角微信好友

朋友圈

請使用瀏覽器分享功能進行分享

正在閱讀:生成式人工智能的風險與治理——以ChatGPT為例
首頁> 經管 > 正文

生成式人工智能的風險與治理——以ChatGPT為例

  作者:馬羽男

  以ChatGPT為代表的生成式人工智能在創造社會福利的同時,也帶來了諸多風險。因此,當務之急是結合我國生成式人工智能發展狀況,厘清其應用價值與潛在風險之間的關系,以便在不影響應用發展的前提下有效化解風險。

  生成式人工智能的運行機理主要分為三個階段,也就是機器學習和人工標記的準備階段、運用算法對數據進行處理以求出處理后結果的運算階段、數據運算產出成品向社會輸出并產生影響的生成階段。當前,生成式人工智能最突出的風險就是在準備階段的數據合規風險、運算階段的算法偏見風險以及生成階段的知識產權風險。

  準備階段的數據合規風險。我國當前的數據合規體系是建立在《網絡安全法》《數據安全法》《個人信息保護法》之上的,要求數據處理者在處理過程中采取必要措施以保障基本的數據安全、網絡安全和個人信息安全?;谖覈姆煽蚣?,生成式人工智能的數據合規風險主要體現在三個方面:數據來源合規風險、數據使用合規風險、數據的準確性風險。首先是數據來源合規風險。以 ChatGPT為代表的生成式人工智能,初始階段往往要采集大量數據以供其訓練?;诖?,可能會面臨如下問題:一是收集個人信息用戶是否同意;二是收集使用已公開的信息是否在“合理范圍”;三是收集的樣本受到版權保護,進行訓練時可否被認定為“合理使用”。其次是數據使用合規風險。一方面是數據泄露風險。用戶會將個人信息、商業信息甚至商業機密等傳輸給ChatGPT。分析ChatGPT運行機理不難發現,在迭代訓練中,它也會使用用戶輸入的信息和交互信息。因此,如何保證這些數據的安全是一個很大的難題。另一方面是用戶行使個人信息刪除權比較困難。雖然 OpenAI的隱私協議中規定了用戶對其個人信息享有相關的權利,但是鑒于要求生成式人工智能系統刪除數據的復雜特性,開發者能否實現對個人信息的真實刪除,從而達到符合法規的要求還存在較大的不確定性。最后是數據的準確性風險。因為在 ChatGPT訓練的早期,被投入到數據中的內容是由開發人員從網絡中獲得和選擇的,因此就有可能出現因為數據的缺失或錯誤等情況而致使所生成內容的不準確。

  運行階段的算法偏見風險。以“人工標注”為輔助的“機器學習”,通過二者的結合,提高了生成式人工智能的智能化與精確性。但是,這也使得算法偏見的概率急劇增加。這種結合方法比傳統的機器學習方法更能體現人的主觀判斷和偏好,這是由于人們將自己的偏好信息加入到機器學習的模型中,從而增加了人們的偏見,并且這種偏見很難被追蹤和防范。在對 ChatGPT的運作方式進行分析后發現,算法偏見主要表現為兩方面:其一,由于接收到的數據需要人工標注,因此在理解過程中存在著一定的誤差。其二,對數據進行加工,當 ChatGPT對數據進行加工得出結論后,由于原始結果與大眾期望不一致,需要對之進行修正,但這一過程同樣會產生一定程度的算法偏見。

  生成階段的知識產權風險。生成式人工智能的興起,對眾多產業提出了新的挑戰,而最具沖擊之處,在于在生成階段對知識產權領域所構成的挑戰。因為生成式人工智能具有高度的智能化,所以在運算過程中,與之前的人工智能系統相比,其知識產權的歸屬發生了顛覆性的變化。ChatGPT是一種生成式人工智能,它在處理和分析數據方面遠遠強于分析式人工智能,其內容生成過程主要包括內容自動化編纂、智能化修整加工、多模態轉換、創意生成等,直接影響著出版的內容生產模式和內容供應模式。盡管ChatGPT的創造者中包含一些自然人的創作因素,從某種意義上來說,更符合作品的構成要件,但這種由生成式人工智能所創造的作品能否被賦權,仍然存在爭論,并且具體的賦權認定標準研究還處于空白狀態。因此,知識產權風險成為生成式人工智能無法規避的第三大風險。

  針對上述生成式人工智能三個方面的風險,建議采取以下三種應對策略來化解風險。

  強化生成式人工智能企業的數據合規建設。生成式人工智能的發展不能只重能力和效率而忽視安全,相關企業應當利用良好的數據合規體系來保障數據安全。企業數據合規建設可以通過三個措施強化。其一,確立數據合規原則。其原則主要有四點,分別是合法合規原則、告知同意原則、正當目的原則、最小必要原則。其二,建立數據合規的多元技術機制。首先是宏觀層面的行業標準要統一。各行業的主管部門,應該帶頭建立一個數據版本的“新華辭典”,讓數據編碼、制式等保持一致,確保數據的來源、內容和處理邏輯能夠被“反事實驗證”。其次是中觀層面的內外審查體系。在內部設立數據合規專門機構,負責企業日常的數據合規處理,在外部引入第三方審查機制,對企業數據合規進行審計和倫理審查。最后是微觀層面的倫理規范。將倫理規范與原則以法律形式嵌入到技術應用的行為邏輯中去,使之能夠因勢而為。其三,完善數據合規相關法律。首先是完善立法,在立法層面加快出臺數據、人工智能方面的基本法,以作為企業數據合規法律方面的頂層指導。其次是執法完善,盡快明確各部門的執法權限,避免“多頭治理”產生“九龍治水”的局面。最后是完善司法,完善電子證據制度,保障權利人的相關訴權。

  技管結合矯正生成式人工智能的算法偏見。這主要包含兩個措施。其一,針對生成式人工智能機器學習過程中所出現的先天性算法偏見,應當調整相關算法模型的學習路徑,遵守相關規范和技術標準,在生成式人工智能投入市場前應當進行實質審查。鑒于生成式人工智能的特征,可將其糾偏工作分為兩個方面:一方面,采用算法程序編譯預防機器學習中可能存在的先天偏見;另一方面,設置人工標注的標準,提高從業人員的執業水平以應對人工標注的算法偏見。其二,針對生成式人工智能的自我學習而得出的后天性算法偏見,應當通過建立敏捷化、自動化、全流程的監管體系來消除偏見。首先,實現對算法技術的自動化監管。針對機器學習和人工標注實現自動化監管,每當出現算法偏見時暫停輸出結果,返回查找問題根源。其次,建立多元主體監管模式。行政主體、平臺、行業協會、企業自身多方主體參與監管。最后,落實全流程敏捷的監管機制。對生成式人工智能產出結論的全過程進行監管,切實降低由于算法偏見導致錯誤結論的概率,有效推進可信算法體系的構建。

  采用有限保護模式,以防范生成式人工智能作品在知識產權方面的風險。相較于傳統的人工智能技術,生成式人工智能的創新之處在于其擁有一定程度的自我認知,并且參與了輸出結果的加工和創造。如果基于其自我認知,而將其所有成果都進行保護,那么未來可能會出現生成式人工智能公司手握“創作霸權”的局面。但從商業角度而言,生成式人工智能公司耗費大量金錢和技術資本打造高度智能的人工智能程序,如果對該程序衍生的“作品”完全不予保護,也有違公平。因此,對于ChatGPT生成物的知識產權屬性,現階段應該根據其技術運行模式、參與程度、創新程度等進行綜合評判,對其產品的知識產權采用有所區分的有限保護模式。等到未來生成式人工智能發展到一定階段,深入了解其運行機制時,再確定具體的知識產權保護模式。

  以ChatGPT為代表的生成式人工智能方興未艾,它所帶來的法律風險,很多都應在既有法律框架內妥善應對。面對風險和問題,不能因為產業有風險和理論有爭議,就限制生成式人工智能發展。這需要采取“法律+技術”的融合治理來營造一個好的市場環境,保障生成式人工智能市場茁壯成長。

 ?。ū疚南祰疑缈苹鹨话沩椖俊皞€人信息的競爭法保護疑難問題研究”(23BFX186)階段性成果)

 ?。ㄗ髡邌挝唬何髂险ù髮W經濟法學院)

[ 責編:李彬 ]
閱讀剩余全文(

相關閱讀

您此時的心情

光明云投
新聞表情排行 /
  • 開心
     
    0
  • 難過
     
    0
  • 點贊
     
    0
  • 飄過
     
    0

視覺焦點

  • 在京杭大運河南端來場“City Walk”

  • 聯合國貿發會議舉辦成立60周年活動

獨家策劃

推薦閱讀
奔跑吧·少年2024年內蒙古自治區棒壘球邀請賽在鄂爾多斯市康巴什區開賽。
2024-04-20 17:03
4月2日,隨著57652次檢測車從南充北站5道緩緩駛出,標志著新建漢中至巴中至南充鐵路南充至巴中段(以下稱"巴南高鐵")啟動聯調聯試,進入工程驗收關鍵階段,為全線早日開通奠定了堅實基礎
2024-04-03 15:11
為切實織密森林“防火網”各地組織人員巡查防火。
2024-04-03 15:11
2024年3月31日,“知音湖北 遇見浪漫孝感”春賞花活動在湖北省孝感市金卉莊園景區啟動。金卉莊園花團錦簇,五彩斑斕花卉競相綻放。人們穿梭在花海之間,享受明媚春光。
2024-04-02 15:40
2024年3月23日,由中國服裝設計師協會主辦的2024秋冬中國國際時裝周在北京開幕。
2024-03-26 21:07
3月17日,原創獨立設計師品牌SHANG1 BY SHANGYI 2024秋冬系列時裝發布會在北京舉行。
2024-03-18 16:39
2024年2月28日,新疆維吾爾自治區巴音郭楞蒙古自治州博湖縣境內的博斯騰湖出現推冰景觀。
2024-02-29 18:59
云南省曲靖市羅平縣馬街鎮鉆天坡,盛開的油菜花梯田在初升太陽映照下,勾勒出一幅田園春景圖
2024-02-23 10:59
美麗的三亞灣
2024-01-20 17:42
2024年1月12日,江西省吉安市吉州區廬陵文化生態園層林盡染,色彩斑斕,市民徜徉其間,盡享生態之樂。
2024-01-13 19:43
2023年12月26日,在云南省紅河哈尼族彝族自治州元陽縣新街鎮黃草嶺村附近,游客在冬櫻花與梯田邊游覽。
2023-12-26 15:39
2023年12月12日,新疆哈密市巴里坤縣第十九屆冰雪文化旅游節采冰儀式在高家湖二渠水庫進行。儀式主要展示了"頭冰"的開采上岸過程。開幕式上還舉行迎風旗、祈福詞、喝出征酒等儀式。
2023-12-13 16:08
2023年12月13日,河北省正定古城迎來降雪,古城內外銀裝素裹,猶如一幅淡雅的水墨畫,美如畫卷。
2023-12-13 15:59
2023年11月28日,貴州省六盤水市明湖國家濕地公園層林盡染,景色迷人。
2023-11-29 15:42
2023年11月28日,江西吉安長塘鎮中心小學,老師指導學生剪紙。
2023-11-29 15:42
三角梅原產于巴西,現主要分布在中國、秘魯、阿根廷、日本、贊比亞等國家和地區。其中,以海南三角梅最為出名。
2023-11-29 11:13
2023年11月23日清晨,朝霞初現,三峽庫區湖北省宜昌市秭歸縣沿江公路G348國道的絕壁巖體上,工人們正在鋪設防護網,以防止巖崩和落石。
2023-11-24 15:15
2023年11月23日,黑龍江哈爾濱,哈爾濱站工作人員正在清理站臺積雪。
2023-11-23 16:02
2023年11月21日,甘肅敦煌,首趟"敦煌號"鐵海聯運國際貨運班列裝載1000噸石棉駛出,經天津港通過鐵海聯運發往泰國曼谷。
2023-11-21 16:55
2023年11月21日,江蘇省如皋市龍游河生態公園,色彩斑斕的樹木與一河碧水相應成趣。
2023-11-21 16:55
加載更多
caopor在线视频,caopor在线视频9,Caopo草棚在线视频,CaOPO丫n草棚在线视频,caopo在线视频