今年以來，什么最熱門？AI（人工智能）等智能技術可能是最好的答案。

從開年的汽車智能駕駛，再到火遍全網(wǎng)的DeepSeek，AI正加速走進我們每個人的生活。

但就在各種智能給大眾生活提供便利的同時，隱患也隨之而來，比如AI換臉、電子簽名偽造、隱私泄露等等。面對新技術以及新挑戰(zhàn)，正在大力發(fā)展智能技術、推進數(shù)字化建設的重慶，該如何應對？

AI技術違法行為不斷增長

今年“3·15”期間曝光了一起虛假帶貨案件——一個視頻中，中國工程院院士、天津中醫(yī)藥大學名譽校長張伯禮正在為某美白護膚品進行宣傳。最后證明該視頻為AI制作生成的假視頻。

▲央視截圖

“像這樣涉及我形象和聲音的假視頻，在網(wǎng)絡上傳播的至少還有十幾條。”張伯禮表示，為此，天津中醫(yī)藥大學緊急給網(wǎng)信部門發(fā)函，申請對涉嫌侵犯張伯禮院士肖像權及姓名權的相關視頻和公眾號進行管控處理。

還有利用AI等技術，圍繞名人背書或者權威數(shù)據(jù)造假。比如前段時間盛傳的“80后死亡率5.2%”“每20個80后就有1人去世”等虛假信息，在公共領域造成的危害非常大。

電子簽名偽造，也是當下存在的一大現(xiàn)象。比如，有團體或者個人通過圖片識別、AI生成等技術，對一些電子簽名進行復制、偽造，以實現(xiàn)盜取個人財物等目的。

在重慶，利用AI等技術來進行違法犯罪的情況也不少見。比如在去年10月，重慶警方在“凈網(wǎng)2024”專項行動期間，就公布了5起典型案例。

比如武隆區(qū)網(wǎng)民劉某在網(wǎng)絡平臺發(fā)布一則《北方一城市某工廠被大風夷為平地，造成2人當場死亡，3人受傷》的帖文，迅速引發(fā)網(wǎng)民關注和議論，影響惡劣。后經(jīng)查明，該帖是利用AI工具編造虛假新聞，擾亂公共秩序，造成不良社會影響。最終，劉某被武隆區(qū)公安局已依法對劉某處以行政處罰。

有數(shù)據(jù)顯示，2024年以來，利用AI技術進行違法行為的趨勢顯著上升，主要涉及深度偽造、數(shù)據(jù)安全威脅、自動化攻擊及倫理濫用等領域。比如，在2024年AI風險事件中，深度合成技術濫用占比超過30%，其中57.8%涉及違法濫用（如欺詐），39.1%涉及虛假信息傳播。

整體來看，2024年全球AI風險事件數(shù)量較2023年增長近50%，較10年前增長16倍。

風險與安全問題不容忽視

“AI等技術的高速發(fā)展，但背后的問題，也不容忽視。”電子科技大學信息與軟件學院院長張小松談到，在AI技術日新月異的發(fā)展背后，必然會有雙刃劍：一邊創(chuàng)造價值、一邊帶來風險。近年來，各種通過AI技術出現(xiàn)的犯罪行為其實就是一個體現(xiàn)。

他認為，一個技術想要真正地走向成熟，往往也是要對其兩個方面都做好準備，也就是要針對一個技術可能產(chǎn)生的風險提前進行“未雨綢繆”，這才能讓這項技術讓大眾用得放心，也才能真正地推廣。

比如，互聯(lián)網(wǎng)興起時，黑客、木馬、病毒等問題隨之出現(xiàn)，大眾在使用互聯(lián)網(wǎng)時也有些“小心翼翼”，擔心一不留神自己的電腦就被植入什么東西，從而導致數(shù)據(jù)泄露。直到殺毒軟件、防火墻等技術的全面鋪開，大家對互聯(lián)網(wǎng)的使用也才更加放心。

物證技術重慶高校工程研究中心主任，原西南政法大學刑事偵查學院副院長兼司法鑒定中心主任易旻也表示，隨著以Deepseek等通用大模型的社會化運用，社會主體身份認證面臨著更為復雜的局面，單一追求方便、快捷而忽視風險，將給社會帶來極大的隱憂。所以，應該盡量避免單一認證方式的適用，鼓勵多元、多層次認證方式進行身份驗證。

“強化信息非法運用和信息犯罪的打擊只是其一，建立更為合理、安全的身份認證結構勢在必行。”易旻說。

以電子簽名為例，他認為，后續(xù)各方應該重視動態(tài)特征數(shù)據(jù)電子簽名的應用，尤其于簽署確認環(huán)節(jié)，逐步切割偽動態(tài)特征電子簽名（如簽名圖片數(shù)字化）的適用。同時，強化電子簽名服務提供商的是否為可靠電子簽名的符合性審查。

“重慶作為直轄市和西部數(shù)字經(jīng)濟高地，面臨的網(wǎng)絡安全挑戰(zhàn)尤為嚴峻。”張小松指出，隨著“數(shù)字重慶”建設快速推進，全市政務數(shù)據(jù)、工業(yè)數(shù)據(jù)、民生數(shù)據(jù)資源越發(fā)豐富，也成為不法分子覬覦的目標。

他表示，推進數(shù)字重慶建設，不僅要大力發(fā)展大數(shù)據(jù)、智能化技術，更要同步發(fā)展與之匹配的安全防護體系，以識別和防范AI等技術帶來的安全風險。

數(shù)據(jù)安全需求爆發(fā)，重慶正加快產(chǎn)業(yè)布局

面對AI等技術發(fā)展的雙面性，重慶擁有“在危機中育新機”的發(fā)展環(huán)境。

業(yè)界預測，在2025年，中國網(wǎng)絡安全市場規(guī)模預計將達到千億規(guī)模，同時會保持5%的年均增長率。其中，以AI安全等方面為主的網(wǎng)絡安全，將更受企業(yè)、政府等單位關注。

“技術發(fā)展得越快，安全保障的需求就越迫切。”市大數(shù)據(jù)局相關負責人表示，隨著AI等智能技術的廣泛應用，相應的網(wǎng)絡安全、數(shù)據(jù)保護、內(nèi)容審核等細分賽道正在快速成長。在此背景下，重慶可選擇將挑戰(zhàn)轉化為機遇，力爭在網(wǎng)絡安全這一新興賽道上搶占先機。

好在，重慶已經(jīng)開始在這片藍海中布局。

比如，川渝兩地等12個部門聯(lián)合提出，到2025年，川渝網(wǎng)絡安全全產(chǎn)業(yè)鏈規(guī)模超2000億元，加快培育一批重大創(chuàng)新載體，形成一批網(wǎng)絡安全關鍵技術、產(chǎn)品和服務創(chuàng)新成果，引育5家網(wǎng)絡安全產(chǎn)業(yè)鏈主企業(yè)，30家細分領域“專精特新”企業(yè)，100家科技型中小企業(yè)，構建安全保障能力互通、安全信任服務互信、安全基礎測評互認的川渝一體化網(wǎng)絡安全體系。

值得一提的是，在一些細分賽道，重慶已經(jīng)涌現(xiàn)出一些全國領先的企業(yè)。

比如，位于兩江新區(qū)的親筆簽數(shù)字科技有限公司，就在電子簽名證偽、溯源等方面，取得了明顯成效。

重慶親筆簽數(shù)字科技有限公司CTO劉科介紹，人們在簽字時都會有自己的無意識行為，比如寫字的軌跡順序、發(fā)力方式、筆畫風格，這些都是一個人的生物特征。無論他在什么載體上，用什么東西簽字，自己形態(tài)會有不同，但書寫習慣不會改變。

基于這一邏輯，該公司將目光瞄準了鑒別手寫電子簽名的“內(nèi)核”——基于人工智能算法的“數(shù)字筆跡識別”技術，并通過這些技術與數(shù)據(jù)的積淀，可以對簽名人的簽名行為進行比對、回溯，通過人的書寫行為習慣，從而證明簽名者是否為本人。

▲“數(shù)字筆跡識別”技術助力重慶實現(xiàn)婚姻登記業(yè)務全程電子化、電子檔案全程在線歸檔。受訪者供圖

在親筆簽數(shù)字科技有限公司推動下，我國司法鑒定技術標準中新增了《手寫電子簽名筆跡鑒定技術規(guī)范》，填補了國內(nèi)在此領域上的行業(yè)標準空白，該公司也獲得司法鑒定資質(zhì)，成為人工智能電子簽名賽道中唯一一個司法鑒定機構。

▲遠程詢問筆錄簽署，為特殊人群電子化簽名提供有效解決方案。受訪者供圖

目前，親筆簽數(shù)字科技有限公司業(yè)務已經(jīng)覆蓋重慶、四川、山東、海南、貴州、福建、湖南、湖北、甘肅、河北、山西、廣西、江蘇等多個省市，其技術在政法、政務、金融、醫(yī)療、住建、民生等多領域應用落地。

來源：新重慶-重慶日報