·更新后的草案引入了旨在監(jiān)管“通用人工智能”的新措施，適用于由微軟、谷歌和OpenAI等科技巨頭構(gòu)建的資源密集型人工智能系統(tǒng)。大模型的創(chuàng)建者必須公開訓(xùn)練人工智能使用的數(shù)據(jù)，以確保其使用受版權(quán)法保護(hù)的數(shù)據(jù)訓(xùn)練。
(資料圖)
·“鑒于人工智能將對我們的社會和經(jīng)濟(jì)產(chǎn)生深遠(yuǎn)影響，《人工智能法》很可能是這項任務(wù)中最重要的立法。這是全球第一項此類立法。”
歐洲議會兩個委員會當(dāng)?shù)貢r間5月11日通過《人工智能法（The AI Act）》提案的談判授權(quán)草案。草案就對ChatGPT等生成式人工智能大模型的一系列要求達(dá)成一致，標(biāo)志著歐盟對人工智能實施強(qiáng)監(jiān)管方面又邁出了一步。
新文本將嚴(yán)格禁止“對人類安全造成不可接受風(fēng)險的人工智能系統(tǒng)”，包括有目的地操縱技術(shù)、利用人性弱點或根據(jù)行為、社會地位和個人特征等進(jìn)行評價的系統(tǒng)等。
草案提出了新的保障措施，并禁止各種危險用例，包括禁止在公共場所進(jìn)行大規(guī)模面部識別程序，以及禁止使用預(yù)測性警務(wù)系統(tǒng)（即AI犯罪預(yù)測系統(tǒng)）。草案還要求建立一個公共數(shù)據(jù)庫，記錄政府部門部署的“高風(fēng)險”人工智能系統(tǒng)，公開數(shù)據(jù)，以便公民能夠了解他們將何時以及如何受到這項技術(shù)的影響。
這一草案將于6月中旬提交歐洲議會全會表決，之后歐洲議會將與歐盟理事會就法律的最終形式進(jìn)行談判。歐洲議會的聲明說，一旦獲得批準(zhǔn)，這將成為全世界首部有關(guān)人工智能的法規(guī)。
要求ChatGPT等承擔(dān)新的義務(wù)
該草案由兩個關(guān)鍵委員會批準(zhǔn)：內(nèi)部市場委員會（Internal Market Committee）和公民自由委員會（Civil Liberties Committee）。這些委員會由負(fù)責(zé)監(jiān)督立法制定的歐洲議會議員組成。他們最終以84票贊成、7票反對、12票棄權(quán)批準(zhǔn)了完成的草案。
“在草案中，歐洲議會議員旨在確保人工智能系統(tǒng)由人監(jiān)督，且確保其安全、透明、可追溯、非歧視和環(huán)保。他們還希望對人工智能有一個統(tǒng)一的定義，旨在保持技術(shù)中立，以便其可以適用于現(xiàn)在和以后出現(xiàn)的人工智能系統(tǒng)?！睔W洲議會在一份新聞稿中說。
修正案包括擴(kuò)大禁止行為清單，以禁止對人工智能系統(tǒng)的“侵入性”和“歧視性”使用，禁止行為包括：在公共可訪問空間建立實時遠(yuǎn)程生物特征識別系統(tǒng)；使用遠(yuǎn)程生物特征識別系統(tǒng)，唯一的例外是執(zhí)法部門起訴嚴(yán)重犯罪，并且只有在司法授權(quán)后；使用敏感特征（例如性別、種族、民族、公民身份、宗教、政治取向）的生物識別分類系統(tǒng)；預(yù)測性警務(wù)系統(tǒng)（基于貌相、地點或過去的犯罪行為預(yù)測犯罪）；執(zhí)法、邊境管理、工作場所和教育機(jī)構(gòu)中的情感識別系統(tǒng)；從社交媒體或監(jiān)控攝像頭中抓取生物特征數(shù)據(jù)以創(chuàng)建面部識別數(shù)據(jù)庫（侵犯人權(quán)和隱私權(quán)）。
除了禁令之外，更新后的草案還引入了旨在監(jiān)管“通用人工智能”的新措施，適用于由微軟、谷歌和OpenAI等科技巨頭構(gòu)建的資源密集型人工智能系統(tǒng)，其中包括GPT-4和ChatGPT等語言模型，以及Stable Diffusion、Midjourney和DALL-E等人工智能圖像生成器。
根據(jù)擬議的立法，人工智能大模型的創(chuàng)建者需要在人工智能使用之前進(jìn)行評估并減輕各種風(fēng)險，包括評估訓(xùn)練人工智能系統(tǒng)可能造成的環(huán)境損害。相關(guān)公司必須公開訓(xùn)練人工智能使用的數(shù)據(jù)，以確保其使用受版權(quán)法保護(hù)的數(shù)據(jù)訓(xùn)練。
有業(yè)內(nèi)人士認(rèn)為，版權(quán)問題可能會在美國產(chǎn)生重大影響。在美國，版權(quán)所有者已經(jīng)對未經(jīng)同意使用其數(shù)據(jù)的人工智能圖像生成器提起了一系列訴訟，許多科技公司，如谷歌和OpenAI，都通過拒絕披露訓(xùn)練系統(tǒng)的數(shù)據(jù)（通常聲稱這些信息是商業(yè)機(jī)密）來避免這類法律挑戰(zhàn)，若歐盟要求公開訓(xùn)練數(shù)據(jù)，則可能會產(chǎn)生新的訴訟。
《人工智能法》草案的另一個關(guān)鍵條款是創(chuàng)建一個“高風(fēng)險”人工智能系統(tǒng)的數(shù)據(jù)庫，以公開人工智能系統(tǒng)在歐盟的部署地點、時間和方式?！斑@個數(shù)據(jù)庫應(yīng)該是自由、公開且易于理解的。”草案中提到，“數(shù)據(jù)庫還應(yīng)方便用戶使用，易于導(dǎo)航，至少具有搜索功能，允許公眾在數(shù)據(jù)庫中搜索特定的高風(fēng)險系統(tǒng)以及相關(guān)的位置、風(fēng)險類別等?！?/p>
創(chuàng)建這樣一個數(shù)據(jù)庫一直是數(shù)字權(quán)利活動人士的長期需求，他們表示，公眾經(jīng)常在不知不覺中被大規(guī)模監(jiān)控系統(tǒng)進(jìn)行實驗，或在未經(jīng)同意的情況下被收集數(shù)據(jù)來訓(xùn)練人工智能。
“其中一個大問題是，在傷害事件發(fā)生之前，我們對正在使用的人工智能系統(tǒng)一無所知?！狈菭I利組織Access的高級政策分析師丹尼爾·盧弗（Daniel Leufer）說。他舉了荷蘭福利丑聞的例子，荷蘭政府使用的一種算法錯誤地就數(shù)千張未支付稅單發(fā)起訴訟。他表示，該數(shù)據(jù)庫將幫助歐盟公民用信息武裝自己，并使個人和團(tuán)體更容易使用法律手段保護(hù)自身合法權(quán)益。
歐盟成員國還有重大分歧
對于人工智能監(jiān)管的一系列想法已經(jīng)在歐盟醞釀多年，投票結(jié)束后，聯(lián)合報告員兼歐洲議會議員德拉戈斯·圖多拉奇（Dragos Tudorache）在一份聲明中評論說：“鑒于人工智能將對我們的社會和經(jīng)濟(jì)產(chǎn)生深遠(yuǎn)影響，《人工智能法》很可能是這項任務(wù)中最重要的立法。這是全球第一項此類立法，這意味著歐盟可以引領(lǐng)人工智能以以人為本、值得信賴和安全的方式發(fā)展。我們一直致力于支持歐洲的人工智能技術(shù)發(fā)展，為初創(chuàng)企業(yè)、中小企業(yè)和行業(yè)提供成長和創(chuàng)新的空間，同時保護(hù)基本權(quán)利，加強(qiáng)民主監(jiān)督，確保成熟的人工智能治理和執(zhí)法體系?！?/p>
“該草案具有全球意義?！睌?shù)字倡導(dǎo)組織歐洲數(shù)字權(quán)利（European Digital Rights）的高級政策顧問薩拉·錢德（Sarah Chander）告訴科技媒體The Verge。正如錢德所說，這些法律很可能會影響世界各國。歐盟是一個十分重要的市場，許多科技公司經(jīng)常在全球范圍內(nèi)遵守歐盟特定的法規(guī)，以減少同時遵守多套法規(guī)帶來的損耗。
不過，該草案仍可能發(fā)生變化，在5月12日獲得歐盟議會委員會的批準(zhǔn)后，草案將在下個月面臨全體會議投票，然后進(jìn)入三方會談，涉及歐盟成員國和歐盟政府機(jī)構(gòu)的閉門談判。
歐洲數(shù)字權(quán)利組織的高級政策顧問艾拉·雅庫伯斯卡（Ella Jakubowska）說：“許多成員國政府熱衷于保留進(jìn)行生物識別大規(guī)模監(jiān)控的能力。但我們也看到了奧地利和德國的不同意見，他們都贊成在《人工智能法》中加強(qiáng)對生物識別數(shù)據(jù)的保護(hù)。我們聽說有傳言說，其他幾個國家愿意在生物識別條款的方向上做出妥協(xié)。這給了我們希望，三方會談將取得積極成果，盡管我們當(dāng)然希望幾個會員國作出強(qiáng)有力的反擊。”
錢德表示，數(shù)字權(quán)利活動人士最看重的是對生物識別監(jiān)控和預(yù)測性警務(wù)系統(tǒng)的禁令，將在三方會談中引起“重大分歧”?！俺蓡T國認(rèn)為，人工智能的這些用途對于打擊犯罪和維護(hù)安全是必要的。”錢德說。
標(biāo)簽：
