隨著人工智能技術(shù)的飛速進(jìn)步，我們已經(jīng)邁入了大模型時代，全世界許多科研機(jī)構(gòu)和企業(yè)都在積極探索和發(fā)展大模型。以ChatGPT-4等大模型為代表的生成式人工智能的熱度在全球蔓延，這標(biāo)志著人工智能2.0時代的到來。

大模型的技術(shù)特征主要體現(xiàn)在海量的參數(shù)和復(fù)雜的架構(gòu)上。例如，目前主流的大模型參數(shù)量可達(dá)到數(shù)萬億規(guī)模，這種大規(guī)模的模型具有強(qiáng)大的學(xué)習(xí)和理解能力，為人工智能帶來了革命性變革。依托于此，深度學(xué)習(xí)技術(shù)的準(zhǔn)確率不斷取得突破，機(jī)器對自然語言的理解能力也在不斷提升。

大模型時代的到來，對農(nóng)業(yè)、工業(yè)和服務(wù)業(yè)產(chǎn)生了革命性的影響。在農(nóng)業(yè)領(lǐng)域，大模型被應(yīng)用于農(nóng)作物產(chǎn)量預(yù)測，幫助農(nóng)民及時發(fā)現(xiàn)并解決問題，保持作物的健康和高產(chǎn)。數(shù)字農(nóng)業(yè)領(lǐng)域也在探索大模型的應(yīng)用，如無人化、自動化、大數(shù)據(jù)量、高通量等。在工業(yè)領(lǐng)域，大模型被用于優(yōu)化生產(chǎn)效率，改變傳統(tǒng)生產(chǎn)方式，推動制造業(yè)的數(shù)字化轉(zhuǎn)型。機(jī)器人領(lǐng)域也在探索大模型的應(yīng)用，如機(jī)器人規(guī)劃、控制、導(dǎo)航等。服務(wù)業(yè)領(lǐng)域?qū)⒋竽Ｐ团c知識庫結(jié)合，打造7×24小時在線的超級員工，提供更優(yōu)質(zhì)的客戶服務(wù)。

然而，在大模型時代，人工智能不僅被視為新型生產(chǎn)力，也被不法分子用作新型犯罪工具，主要表現(xiàn)形式有以下幾種：第一，人工智能用于網(wǎng)絡(luò)攻擊。大模型的學(xué)習(xí)和理解能力使黑客可以設(shè)計出更復(fù)雜、更難以防范的網(wǎng)絡(luò)攻擊手段，對個人和企業(yè)的網(wǎng)絡(luò)安全構(gòu)成威脅。例如，利用人工智能技術(shù)，黑客可以進(jìn)行精準(zhǔn)的釣魚攻擊，通過模擬真實(shí)的人類交流方式，誘導(dǎo)用戶點(diǎn)擊惡意鏈接或提供敏感信息。第二，用于制造深度偽造內(nèi)容，如偽造視頻和音頻。這種技術(shù)可以生成極其逼真的虛假內(nèi)容，對社會公眾造成誤導(dǎo)，甚至被用于詐騙活動，例如假冒名人的視頻或音頻進(jìn)行詐騙。第三，用于進(jìn)行非法監(jiān)控。通過人工智能技術(shù)，犯罪分子可以對公眾進(jìn)行大規(guī)模監(jiān)控，侵犯公民的隱私權(quán)。例如，利用面部識別技術(shù)，犯罪分子可以在公共場所進(jìn)行非法監(jiān)控，收集公眾的個人信息。

這些例子表明，大模型時代的人工智能技術(shù)雖然推動了生產(chǎn)力的巨大發(fā)展，但也帶來了新的犯罪威脅。因此，需要在推動人工智能技術(shù)發(fā)展的同時加強(qiáng)監(jiān)管，防止其被用于非法活動。

大模型時代人工智能犯罪的特征

在大模型時代，人工智能技術(shù)的廣泛應(yīng)用催生了全新的犯罪形態(tài)，這些犯罪可能涉及人身安全、財產(chǎn)權(quán)益和金融市場的穩(wěn)定，甚至對公共安全構(gòu)成威脅。這些可能出現(xiàn)的犯罪形態(tài)有其獨(dú)特特征。

第一，隱蔽性更強(qiáng)。人工智能犯罪的執(zhí)行者、執(zhí)行方式以及執(zhí)行過程的隱蔽性都得到了增強(qiáng)。犯罪者可以通過人工智能技術(shù)進(jìn)行遠(yuǎn)程操作，甚至可以利用加密技術(shù)來隱藏身份，使得犯罪行為更加難以被偵查和追蹤。例如，犯罪者可以利用人工智能技術(shù)進(jìn)行網(wǎng)絡(luò)攻擊，而無須親自參與。此外，犯罪者可以通過復(fù)雜的算法和程序?qū)Ψ缸镄袨檫M(jìn)行精細(xì)化、智能化的設(shè)計，這進(jìn)一步提高了犯罪的隱蔽性。

第二，犯罪成本降低。人工智能犯罪的物質(zhì)成本和時間成本都大大降低，犯罪者只需利用現(xiàn)有的人工智能技術(shù)和大數(shù)據(jù)，就能進(jìn)行大規(guī)模的犯罪活動。例如，利用人工智能技術(shù)進(jìn)行換臉詐騙，這種犯罪模型可以同時應(yīng)用于很多人，大大降低了犯罪物質(zhì)成本。人工智能技術(shù)的發(fā)展也使得犯罪者可以通過自動化的方式，大規(guī)模、高效率地進(jìn)行犯罪活動，犯罪的時間成本被進(jìn)一步降低。

第三，破壞性極大。人工智能犯罪的影響范圍和影響程度都在極大地擴(kuò)大，可能對整個社會的安全和穩(wěn)定構(gòu)成威脅。例如，人工智能技術(shù)可能被用于制造和控制無人機(jī)或其他自動化設(shè)備進(jìn)行恐怖活動或大規(guī)模破壞。此外，犯罪者也可以通過大數(shù)據(jù)和算法對社會的薄弱環(huán)節(jié)進(jìn)行精準(zhǔn)打擊，從而造成更大范圍、更深層次的破壞。

總的來說，大模型時代的人工智能犯罪具有隱蔽性強(qiáng)、成本低和破壞性大的特點(diǎn)。這些特點(diǎn)使其更加難以防范，對社會的安全和穩(wěn)定構(gòu)成了更大的威脅。因此，需要加強(qiáng)對人工智能技術(shù)的監(jiān)管，以防止其被用于危害公共安全的活動。

人工智能犯罪治理的既有經(jīng)驗

面對人工智能技術(shù)被用于犯罪活動的挑戰(zhàn)，歐美等國采取了一系列措施，涵蓋立法、監(jiān)管和政策制定等多個方面，旨在確保人工智能的安全使用、防止濫用，保護(hù)公民的基本權(quán)利，并促進(jìn)人工智能的投資和創(chuàng)新。

第一，立法和監(jiān)管措施。2019年美國通過了《自動程序披露和問責(zé)法》，強(qiáng)制數(shù)字平臺公開披露其使用“旨在在線復(fù)制人類活動的自動化軟件程序或過程”的情況。2022年2月，部分美國國會議員圍繞算法失能侵權(quán)提出了制定《算法責(zé)任法案》的構(gòu)想，要求自動化決策系統(tǒng)具有更高的透明度，并建立問責(zé)制。2021年4月歐盟發(fā)布了《關(guān)于制定人工智能統(tǒng)一規(guī)則并修訂某些歐盟立法的條例》，這是全球首個全面的人工智能法律框架。為了進(jìn)一步加強(qiáng)網(wǎng)絡(luò)和信息系統(tǒng)的安全，歐盟在2022年12月通過了《關(guān)于在歐盟全境實(shí)施高水平網(wǎng)絡(luò)安全措施的指令》和《數(shù)字運(yùn)營彈性法案》。歐盟《人工智能法（草案）》建立了針對高風(fēng)險人工智能系統(tǒng)的風(fēng)險預(yù)防機(jī)制，以保護(hù)自然人的安全、健康及其享有的歐盟憲章規(guī)定的基本權(quán)利。

第二，政策制定和實(shí)施。美國白宮在2022年10月發(fā)布了《人工智能權(quán)利法案藍(lán)圖：讓自動化系統(tǒng)為美國人民服務(wù)》。這份文件旨在“指導(dǎo)自動化系統(tǒng)的設(shè)計、開發(fā)和部署，保護(hù)美國公民權(quán)利”。

第三，研究和探索。美國聯(lián)邦貿(mào)易委員會正在研究生成式人工智能可能加劇詐騙和欺詐的問題，以便更好地理解和應(yīng)對這種新的犯罪形式。歐盟正在積極探索人工智能的監(jiān)管模式，如推出監(jiān)管沙盒。

第四，國際合作。美國和歐盟已經(jīng)開始在人工智能治理方面進(jìn)行合作，并推動全球人工智能治理的進(jìn)程，例如，美國和歐盟都是“全球人工智能伙伴關(guān)系”的成員。

總的來說，在面對人工智能犯罪的挑戰(zhàn)時，各國需要加強(qiáng)合作，共同制定和實(shí)施有效的人工智能治理策略。

我國人工智能犯罪治理體系的建構(gòu)

在大模型時代，面對人工智能犯罪的挑戰(zhàn)，我國有必要構(gòu)建相應(yīng)的治理體系，以確保人工智能技術(shù)的健康發(fā)展和安全應(yīng)用。治理體系的構(gòu)建主要應(yīng)圍繞三個原則、三個要素和三個步驟展開。

首先，有必要堅持產(chǎn)業(yè)發(fā)展、權(quán)利保護(hù)和倫理考量這三個原則。這三個原則是我國人工智能犯罪治理體系的基石。產(chǎn)業(yè)發(fā)展原則強(qiáng)調(diào)，不能因為犯罪的存在就全面禁止人工智能的發(fā)展，相反，應(yīng)在保護(hù)公民權(quán)利和考慮倫理問題的同時推動人工智能產(chǎn)業(yè)的健康發(fā)展。權(quán)利保護(hù)原則要求，在推動人工智能技術(shù)的應(yīng)用時必須充分保護(hù)公民的基本權(quán)利，包括隱私權(quán)、知情權(quán)和選擇權(quán)等。倫理考量原則則要求，在人工智能的研發(fā)和應(yīng)用過程中，始終堅持人本主義精神，尊重人的尊嚴(yán)和價值，防止人工智能技術(shù)的濫用。

其次，有必要關(guān)注算法、數(shù)據(jù)和算力這三個要素。這三個要素是人工智能技術(shù)的核心組成部分，也是人工智能犯罪的主要工具。因此，對這三個要素的有效監(jiān)管，是防止和打擊人工智能犯罪的關(guān)鍵。在算法方面，需要監(jiān)管其研發(fā)過程，確保公正、公平，防止算法歧視和算法暴力等問題。在數(shù)據(jù)方面，需要監(jiān)管數(shù)據(jù)的收集和使用，保護(hù)公民的隱私，防止數(shù)據(jù)泄露和數(shù)據(jù)濫用等問題。在算力方面，需要監(jiān)管計算資源的分配和使用，防止其被用于非法目的，如網(wǎng)絡(luò)攻擊、虛假信息傳播等。

最后，有必要采取三個步驟構(gòu)建有效的人工智能犯罪治理體系。

第一，提升公眾對人工智能犯罪的認(rèn)識。這一步驟的核心是通過教育和宣傳普及人工智能知識，提醒公眾注意網(wǎng)絡(luò)安全、防范人工智能犯罪，包括在學(xué)校教育中加入相關(guān)課程，在社區(qū)、企事業(yè)單位開展科普活動等。據(jù)報道，我國已經(jīng)在多所大學(xué)開設(shè)了人工智能專業(yè)，這是提高公眾人工智能素養(yǎng)的重要一環(huán)。此外，也需要加強(qiáng)網(wǎng)絡(luò)安全教育，提高公眾的網(wǎng)絡(luò)安全意識，教會公眾如何識別網(wǎng)絡(luò)詐騙、保護(hù)個人信息、防止網(wǎng)絡(luò)攻擊等。

第二，利用人工智能技術(shù)進(jìn)行犯罪預(yù)防和偵破。這一步驟的關(guān)鍵是用人工智能治理人工智能，即通過人工智能技術(shù)，提高人工智能犯罪的發(fā)現(xiàn)和處置效率。有必要建立人工智能犯罪報告和處置系統(tǒng)，利用人工智能技術(shù)進(jìn)行大數(shù)據(jù)分析和預(yù)警，及時發(fā)現(xiàn)和處理。同時，也需要建立犯罪數(shù)據(jù)庫，收集和分析人工智能犯罪的案例，為防范其犯罪提供數(shù)據(jù)支持。

第三，加強(qiáng)國際合作，共同應(yīng)對人工智能犯罪的挑戰(zhàn)。在全球化的背景下，人工智能犯罪往往具有跨國性，因此需要各國共同合作，共同應(yīng)對。有必要與其他國家的政府、研究機(jī)構(gòu)、企業(yè)等進(jìn)行深入的交流和合作，共享人工智能犯罪的研究成果和治理經(jīng)驗，共同研究制定人工智能犯罪的國際規(guī)則和標(biāo)準(zhǔn)。

總的來說，我國在大模型時代建構(gòu)人工智能犯罪治理體系，需要在法律、技術(shù)、倫理等多個層面進(jìn)行深入的研究和探討。只有這樣，才能成功應(yīng)對人工智能犯罪的挑戰(zhàn)，實(shí)現(xiàn)我國的人工智能治理目標(biāo)。

（作者單位：中國社會科學(xué)院法學(xué)研究所）