AI監(jiān)管山雨欲來？歐洲有分歧美國在觀望，印度不管，OpenAI發(fā)聲明 天天速看料

印度政府當?shù)貢r間4月5日表示，不打算監(jiān)管人工智能的發(fā)展，認為該行業(yè)對該國來說是一個“重要和戰(zhàn)略性”的領域。

最近幾天，眾多聲音呼吁加強對人工智能的審查。意大利政府3月31日對ChatGPT實施了臨時禁令，理由是擔心它違反了歐盟的《通用數(shù)據(jù)保護條例》（GDPR），此舉引發(fā)歐洲多國開始探討是否對生成式人工智能展開監(jiān)管措施。當?shù)貢r間4月4日，加拿大隱私專員辦公室（OPC）宣布對ChatGPT的開發(fā)機構OpenAI展開調查，涉及“OpenAI未經(jīng)同意收集、使用和披露個人信息”的指控。

(資料圖)

當?shù)貢r間4月5日，面對一系列監(jiān)管反彈，OpenAI發(fā)布聲明《我們對人工智能安全的方法》，稱“確保人工智能系統(tǒng)安全構建、部署和使用對我們的使命至關重要”。

印度暫不考慮立法或監(jiān)管人工智能

印度電子和信息技術部在一份書面答復中稱，該部門已經(jīng)評估了與人工智能相關的道德問題和偏見與歧視風險，正在實施必要政策和基礎設施措施，以在該國培育一個強大的人工智能部門，政府沒有考慮制定法律或監(jiān)管人工智能的發(fā)展。

印度電子和信息技術部認為，人工智能的擴展將對印度的創(chuàng)業(yè)和商業(yè)發(fā)展產(chǎn)生“動力效應（kinetic effect）”。“人工智能是數(shù)字經(jīng)濟和創(chuàng)新生態(tài)系統(tǒng)的動力提供者。政府正在利用人工智能的潛力，通過數(shù)字公共平臺提供以公民為中心的個性化和互動服務。”

這份文件也指出，由于決策中的偏見和歧視、侵犯隱私、人工智能系統(tǒng)缺乏透明度以及傷害責任界定等問題，人工智能存在道德問題和風險。印度2018年6月發(fā)布的《國家人工智能戰(zhàn)略》（NSAI）強調了這些擔憂。為了解決與人工智能相關的道德問題和潛在風險，各中央和邦政府部門和機構已開始努力標準化負責任的人工智能開發(fā)，使用和促進最佳實踐的采用。

《國家人工智能戰(zhàn)略》提議為研究和采用人工智能開發(fā)一個生態(tài)系統(tǒng)，即#AI for ALL。為了使印度成為人工智能領域的全球領導者，印度電子和信息技術部已經(jīng)實施了“國家人工智能計劃”，旨在建立一個綜合計劃，利用變革性技術來促進包容、創(chuàng)新和采用以產(chǎn)生社會影響。

盡管美國和許多發(fā)達國家市場對人工智能的興趣急劇上升，但印度進入該領域的初創(chuàng)企業(yè)數(shù)量有限。印度的戰(zhàn)略舉措可能鼓勵有才華的人探索機會。

歐美情況復雜

上周，包括特斯拉首席執(zhí)行官埃隆·馬斯克和蘋果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克在內(nèi)的上千人簽署一封公開信，敦促所有人工智能實驗室立即暫停訓練比GPT-4更強大的人工智能系統(tǒng)至少6個月。

3月31日，意大利個人數(shù)據(jù)保護局宣布從即日起禁止使用ChatGPT，限制OpenAI處理意大利用戶信息，并開始立案調查。意大利個人數(shù)據(jù)保護局認為，3月20日ChatGPT平臺出現(xiàn)了用戶對話數(shù)據(jù)和付款服務支付信息丟失情況。而該平臺沒有就收集處理用戶信息進行告知，且缺乏大量收集和存儲個人信息的法律依據(jù)。同時，該機構還指責，盡管根據(jù)OpenAI的條款聲稱該服務面對13歲以上的用戶，但并沒有使用任何過濾機制來驗證用戶的年齡。

在意大利暫時禁止ChatGPT后，其他歐洲國家也開始研究是否需要更嚴厲措施來控制聊天機器人，以及是否要協(xié)調這種行動。

雖然歐洲議員對“歐盟人工智能法”的內(nèi)容和范圍存在分歧，但一些監(jiān)管機構發(fā)現(xiàn)，現(xiàn)有的工具，如讓用戶控制其個人信息的《通用數(shù)據(jù)保護條例》可以適用于迅速崛起的生成式人工智能公司類別。

法國和愛爾蘭的隱私監(jiān)管機構已經(jīng)與意大利的同行聯(lián)系，以了解更多關于禁令的依據(jù)。德國數(shù)據(jù)保護專員告訴《商報》，德國可能會跟隨意大利的腳步，出于對數(shù)據(jù)安全的考慮禁止ChatGPT。

“我們正在跟進意大利監(jiān)管機構。”愛爾蘭數(shù)據(jù)保護專員的發(fā)言人說，“我們將與歐盟所有的數(shù)據(jù)保護機構就此事進行協(xié)調。”

瑞典的隱私監(jiān)管機構則表示沒有計劃禁止ChatGPT，也沒有與意大利的監(jiān)管機構進行接觸。西班牙的監(jiān)管機構表示，它沒有收到任何關于ChatGPT的投訴，但不排除未來會進行調查。

雖然隱私監(jiān)管專員贊成更多的監(jiān)管，但政府卻更加寬松。意大利兼基礎設施與可持續(xù)交通部長馬泰奧·薩爾維尼批評了本國監(jiān)管機構的決定，稱其反應過度，德國政府發(fā)言人表示沒有必要禁止ChatGPT。

一位消息人士說，意大利當局上周的舉動旨在與OpenAI開始對話，以解決在ChatGPT遵守歐盟數(shù)據(jù)保護規(guī)則方面提出的問題，而不是禁止該工具。OpenAI在歐盟沒有辦事機構。

在北美，加拿大隱私專員辦公室（OPC）宣布對OpenAI展開調查。該機構的一位隱私專員表示，人工智能技術及其對隱私的影響是OPC的優(yōu)先事項，“我們需要跟上快速發(fā)展的技術并保持領先，這是我作為隱私專員重點關注的領域之一。”

美國總統(tǒng)拜登當?shù)貢r間4月4日表示，人工智能是否危險還有待觀察，但科技公司有責任確保其產(chǎn)品在公開之前安全。據(jù)《紐約時報》上個月報道，雖然一些美國立法者對人工智能表示擔憂，但很少有人積極尋求監(jiān)管。

OpenAI正在研究兒童驗證選項

可能是為了回應這些監(jiān)管風聲，OpenAI當?shù)貢r間4月5日發(fā)布聲明，稱OpenAI致力于保持強大的人工智能安全且廣泛有益。

這份聲明稱，“在發(fā)布任何新系統(tǒng)之前，我們會進行嚴格的測試，聘請外部專家提供反饋，努力通過人工反饋強化學習等技術來改進模型的行為，并建立廣泛的安全和監(jiān)控系統(tǒng)。例如，在我們的最新型號GPT-4完成培訓后，我們花了6個多月的時間在整個組織中努力，在公開發(fā)布之前使其更安全、更一致。我們認為，強大的人工智能系統(tǒng)應該接受嚴格的安全評估。需要監(jiān)管以確保采用此類做法，我們與政府就此類監(jiān)管的最佳形式積極合作。”

OpenAI承認，盡管他們努力在部署前預防可預見的風險，但在實驗室里能學到的東西是有限的。所以他們認為，隨著時間的推移，從現(xiàn)實世界的使用中學習是創(chuàng)建和發(fā)布越來越安全的人工智能系統(tǒng)的關鍵組成部分。“我們通過自己的服務和API提供我們最強大的模型，以便開發(fā)人員可以直接將這項技術構建到他們的應用程序中。這使我們能夠監(jiān)測濫用并采取行動，并不斷制定緩解措施，以應對人們?yōu)E用我們系統(tǒng)的真實方式——而不僅僅是關于濫用可能是什么樣子的理論。”

“至關重要的是，我們認為社會必須有時間更新和適應越來越強大的人工智能，每個受這項技術影響的人都應該在人工智能如何進一步發(fā)展方面擁有重要的發(fā)言權。迭代部署幫助我們讓各種利益相關者更有效地參與到關于采用人工智能技術的對話中，而不是他們沒有這些工具的第一手經(jīng)驗。”聲明前調。

OpenAI表示，其安全工作的一個關鍵重點是保護兒童，要求必須年滿18周歲，或年滿13周歲但經(jīng)父母批準才能使用其人工智能工具，并正在研究驗證選項。“當用戶試圖將兒童性虐待材料上傳到我們的圖像工具時，我們會將其阻止并報告給國家失蹤和受剝削兒童中心。”聲明稱。

在作為爭議焦點的隱私方面，OpenAI稱，雖然他們采用的一些培訓數(shù)據(jù)包括公共互聯(lián)網(wǎng)上提供的個人信息，但他們希望模型了解世界，而不是個人。因此，他們努力在可行的情況下從培訓數(shù)據(jù)集中刪除個人信息，微調模型以拒絕對個人信息的請求，并回應個人從系統(tǒng)中刪除其信息的請求。

OpenAI最后表示，“雖然我們等了6個多月才部署GPT-4，以便更好地了解其功能、好處和風險，但有時可能需要花費更長時間來提高人工智能系統(tǒng)的安全性。因此，政策制定者和人工智能提供商需要確保人工智能的開發(fā)和部署在全球范圍內(nèi)得到有效管理，這樣就不會有人為了取得進展‘偷工減料’。”

編輯：林鄭宏

關鍵詞：