俄羅斯瓦爾代國(guó)際辯論俱樂(lè)部第21屆年會(huì)于當(dāng)?shù)貢r(shí)間11月4日至7日在俄南部城市索契舉辦。

7日，俄羅斯總統(tǒng)普京出席全體會(huì)議并發(fā)表講話，隨后與來(lái)自50多國(guó)的官員和智庫(kù)、大學(xué)代表進(jìn)行討論對(duì)話，并接受現(xiàn)場(chǎng)提問(wèn)。

觀察者網(wǎng)全文翻譯討論環(huán)節(jié)的內(nèi)容。稍早前已發(fā)布普京在瓦爾代第21屆年會(huì)上的演講。

【翻譯/薛凱桓】

費(fèi)奧多爾·盧基揚(yáng)諾夫（以下簡(jiǎn)稱盧基揚(yáng)諾夫）：總統(tǒng)先生，感謝您如此全面且多維度地描繪世界，并闡述俄羅斯的見(jiàn)解。尤其令我們感到欣慰的是，您去年也是在這個(gè)平臺(tái)上提出了基本原則，今天又對(duì)其進(jìn)行了詳細(xì)闡述。

我認(rèn)為，這看起來(lái)越來(lái)越像是一種學(xué)說(shuō)。我們并不奢望您以瓦爾代俱樂(lè)部的名字來(lái)命名它，但我很高興它在這里誕生。

總統(tǒng)先生，我們?cè)诘?1次會(huì)議上已經(jīng)討論過(guò)您今天所提及的許多問(wèn)題。也許我們大家也都想跟您分享一些我們的想法，當(dāng)然，并非所有會(huì)議上的觀點(diǎn)都會(huì)提及，因?yàn)閷?shí)在太多了。但我們會(huì)重點(diǎn)講述一些討論過(guò)的觀點(diǎn)，其中有一些您已經(jīng)提到了。

請(qǐng)您允許我們俱樂(lè)部的長(zhǎng)期成員兼您非常熟悉的同僚魯斯蘭·尤努索夫（Ruslan Yunusov）發(fā)言。他出席了我們關(guān)于人工智能的專題會(huì)議，這是一個(gè)備受矚目的話題。

魯斯蘭·尤努索夫：總統(tǒng)先生，晚上好。

確實(shí)，我們今天討論的問(wèn)題之一就是您剛剛提及的人工智能。我們?cè)跁?huì)議上設(shè)置了一個(gè)單獨(dú)的環(huán)節(jié)，叫做“人工智能——革命還是時(shí)尚潮流？”。

在向您介紹該環(huán)節(jié)的成果之前，我想先提一下今年的一個(gè)獨(dú)特事件，即人工智能領(lǐng)域的成就獲得了兩項(xiàng)諾貝爾獎(jiǎng)，分別在物理學(xué)和化學(xué)領(lǐng)域，這在以前是從未有過(guò)的。這是否意味著我們正在見(jiàn)證一場(chǎng)人工智能革命？我會(huì)傾向于說(shuō)“是”，而非“否”，盡管諾貝爾獎(jiǎng)委員會(huì)的決策往往也受時(shí)尚潮流的影響。

2024年諾貝爾物理學(xué)獎(jiǎng)和化學(xué)獎(jiǎng)均出現(xiàn)在人工智能領(lǐng)域新華社

關(guān)于我們討論的主題，我想強(qiáng)調(diào)一些過(guò)去討論過(guò)的方面。

我們首先關(guān)注的是許多人擔(dān)憂的一個(gè)問(wèn)題：人工智能是否會(huì)取代人類，尤其是在需要?jiǎng)?chuàng)造性思維的領(lǐng)域，如科學(xué)和藝術(shù)？

當(dāng)今科學(xué)界的現(xiàn)狀是怎樣的？人工智能確實(shí)已經(jīng)在科學(xué)進(jìn)程中發(fā)揮了作用，許多成就都是在人工智能的幫助下取得的。同時(shí)，我們也看到，人類并未被排除在科學(xué)進(jìn)程之外，相反，這個(gè)進(jìn)程被加速了，對(duì)年輕有為科學(xué)家的需求也增加了。因此，我們并不認(rèn)為存在這樣的風(fēng)險(xiǎn)（人工智能取代人類）。我們還討論了人工智能經(jīng)濟(jì)的其他方面，在2020年新冠疫情期間，我們認(rèn)為全球經(jīng)濟(jì)復(fù)蘇將主要由人工智能等驅(qū)動(dòng)力來(lái)保障。

我們探討了這些預(yù)測(cè)是否成真。確實(shí)，人工智能正在進(jìn)入經(jīng)濟(jì)領(lǐng)域，滲透到各個(gè)經(jīng)濟(jì)部門(mén)。但如果我們看看數(shù)據(jù)，就會(huì)發(fā)現(xiàn)我們之前的樂(lè)觀預(yù)期并未實(shí)現(xiàn)。目前的結(jié)果比我們預(yù)期的要保守得多。而且，這些預(yù)期并未減弱，我們看到投資泡沫正在形成，這可能會(huì)對(duì)未來(lái)產(chǎn)生負(fù)面的經(jīng)濟(jì)影響。不過(guò)，作為一種技術(shù)，人工智能很可能會(huì)繼續(xù)發(fā)展，并成為經(jīng)濟(jì)的基礎(chǔ)。

我們還討論了安全相關(guān)的問(wèn)題。如今，不容忽視的是，恐怖組織和極端組織正在廣泛利用人工智能技術(shù)進(jìn)行招募和更廣泛的宣傳活動(dòng)。虛假新聞和視頻已成為此類組織武器庫(kù)中的標(biāo)準(zhǔn)工具。相反，人工智能也能被用于反恐和反極端主義行動(dòng)中，它有助于在社會(huì)中識(shí)別這些極端分子。此外，它還能影響那些心存疑慮的人，引導(dǎo)他們遠(yuǎn)離危險(xiǎn)的道路，從而防止他們陷入極端主義。這同樣被證明是有效的。

當(dāng)我們探討平衡問(wèn)題時(shí)，無(wú)論是積極面多于消極面，還是反之，似乎人工智能在安全領(lǐng)域仍展現(xiàn)出更多積極的發(fā)展態(tài)勢(shì)，而我希望這種平衡能繼續(xù)向積極方向發(fā)展。當(dāng)然，在瓦爾代論壇上，我們不可避免地要討論人工智能的政治議題。有研究表明，研究人員在開(kāi)發(fā)人工智能基礎(chǔ)模型、生成模型時(shí)，會(huì)測(cè)試其政治觀點(diǎn)。結(jié)果表明，人工智能并非中立，其政治觀點(diǎn)嚴(yán)重偏向左翼自由主義，且在很大程度上受到模型創(chuàng)建者觀點(diǎn)的影響。

此外，過(guò)去幾年里，人工智能的訓(xùn)練更多地依賴于合成數(shù)據(jù)，而非真實(shí)世界的素材，這也加劇了模型觀點(diǎn)的極端化。在接下來(lái)的幾年里，我們將迎來(lái)首批在工作中、教學(xué)中運(yùn)用人工智能的大學(xué)畢業(yè)生。以往，學(xué)生們撰寫(xiě)論文時(shí)會(huì)查閱原始資料、理解消化后再進(jìn)行創(chuàng)作。而現(xiàn)在，只需向人工智能提出需求，就能迅速得到結(jié)果。顯然，教育質(zhì)量會(huì)因此下降。但更危險(xiǎn)的是，人工智能在潛移默化中影響著年輕人的世界觀，向他們灌輸意識(shí)形態(tài)。而且，這種意識(shí)形態(tài)在很大程度上并非源自本國(guó)，而是來(lái)自國(guó)外甚至海外。

最后，我們當(dāng)然已經(jīng)意識(shí)到有必要加強(qiáng)對(duì)人工智能的監(jiān)管控制，但如果僅憑禁止性措施，似乎難以達(dá)成目標(biāo)。相反，我們應(yīng)當(dāng)支持和發(fā)展國(guó)內(nèi)的人工智能技術(shù)。

如今，我們已打下堅(jiān)實(shí)基礎(chǔ)，并取得了巨大進(jìn)步，這是值得慶幸的，我們需要保持這一勢(shì)頭。這或?qū)⒊蔀槲覀冊(cè)谶@一領(lǐng)域技術(shù)自主權(quán)的基石。值得一提的是，俄羅斯是全球擁有完整信息技術(shù)儲(chǔ)備的三個(gè)國(guó)家之一，這確實(shí)是主權(quán)的基礎(chǔ)。

我們的外國(guó)客人指出，如今一些國(guó)家已經(jīng)對(duì)人工智能技術(shù)的使用實(shí)施了限制，甚至是全面禁止。而對(duì)于俄羅斯來(lái)說(shuō)，這更多地是一個(gè)機(jī)遇。我們可以作為技術(shù)領(lǐng)導(dǎo)者，通過(guò)向合作伙伴國(guó)家出口人工智能技術(shù)來(lái)展現(xiàn)自身實(shí)力。

我的簡(jiǎn)短報(bào)告到此結(jié)束，非常感謝大家。

弗拉基米爾·普京（以下簡(jiǎn)稱普京）：如果可以的話，我也想說(shuō)幾句。

首先，人工智能無(wú)疑是一個(gè)極其重要的發(fā)展工具。我們已將人工智能的發(fā)展列為優(yōu)先事項(xiàng)，當(dāng)然，主要是在經(jīng)濟(jì)領(lǐng)域以及其他領(lǐng)域，包括大數(shù)據(jù)的應(yīng)用等。我們正面臨嚴(yán)重的人力短缺問(wèn)題，而失業(yè)率卻極低，僅為2.4%，我們面臨人力資源匱乏的現(xiàn)狀。未來(lái)，我們認(rèn)為，這些經(jīng)濟(jì)問(wèn)題可以通過(guò)開(kāi)發(fā)尖端技術(shù)來(lái)解決，而在這一過(guò)程中，我們將優(yōu)先使用人工智能技術(shù)。

那么，利是否大于弊呢？就比如核能技術(shù)的發(fā)展是利大于弊，還是弊大于利？民用核技術(shù)在醫(yī)學(xué)、農(nóng)業(yè)和交通領(lǐng)域發(fā)揮著巨大且極其重要的作用，并且其作用還將繼續(xù)增強(qiáng)。我堅(jiān)信，在應(yīng)對(duì)氣候變化問(wèn)題的背景下，這一點(diǎn)將尤為重要。同時(shí)，還有核武器的問(wèn)題，這對(duì)人類構(gòu)成了重大威脅。

人工智能技術(shù)也同樣如此。如何對(duì)其進(jìn)行監(jiān)管，人們又該如何使用它們？這是個(gè)好問(wèn)題。當(dāng)然，很多國(guó)家都在對(duì)此進(jìn)行監(jiān)管。正如你們所說(shuō)，有些國(guó)家禁止其發(fā)展。但我認(rèn)為，這是無(wú)法禁止的。無(wú)論如何，人工智能最終都會(huì)發(fā)展起來(lái)，尤其是在競(jìng)爭(zhēng)日益加劇的背景下。我這里說(shuō)的不是武裝對(duì)抗，而是整體的經(jīng)濟(jì)競(jìng)爭(zhēng)在加劇。在競(jìng)爭(zhēng)激烈的態(tài)勢(shì)下，人工智能必然會(huì)繼續(xù)發(fā)展。在這方面，考慮到我們自身的某些優(yōu)勢(shì)，我們當(dāng)然能夠躋身前列。

主權(quán)是一個(gè)極其重要的因素。當(dāng)然，這些平臺(tái)大多是在國(guó)外創(chuàng)建的，它們塑造著人們的世界觀，這無(wú)可厚非。我們應(yīng)該認(rèn)識(shí)到這一點(diǎn)，并擴(kuò)大我們自主的人工智能網(wǎng)絡(luò)。當(dāng)然，我們需要利用一切可用資源，但我們也必須發(fā)展自身的特色。

俄羅斯儲(chǔ)蓄銀行和Yandex公司都在積極投身這一領(lǐng)域，并且總體上，它們的工作取得了相當(dāng)不錯(cuò)的成績(jī)。我們肯定會(huì)繼續(xù)努力，這一點(diǎn)毋庸置疑，尤其是當(dāng)人工智能開(kāi)始自我迭代時(shí)，這既令人著迷，又極具發(fā)展前景。

然而，這也存在一些潛在的風(fēng)險(xiǎn)。我們必須認(rèn)識(shí)和了解這些風(fēng)險(xiǎn)，并據(jù)此調(diào)整我們的工作。如我所說(shuō)，這是我們的重點(diǎn)關(guān)注領(lǐng)域之一。這里所說(shuō)的“我們”，是指國(guó)家、行業(yè)專家以及整個(gè)社會(huì)，因?yàn)槿斯ぶ悄芗夹g(shù)的發(fā)展不可避免地會(huì)引發(fā)許多需要我們充分關(guān)注的道德和倫理問(wèn)題。

你們提到了會(huì)使青年形成極端觀念的風(fēng)險(xiǎn)等問(wèn)題。確實(shí)，我們必須通過(guò)對(duì)國(guó)內(nèi)和國(guó)際事件提出自己的觀點(diǎn)和世界觀來(lái)應(yīng)對(duì)這些風(fēng)險(xiǎn)。這是我們將共同面對(duì)的問(wèn)題。

感謝你們提出這個(gè)問(wèn)題。

討論環(huán)節(jié)上，普京在面對(duì)提問(wèn)時(shí)正在做筆記視頻截圖

魯斯蘭·尤努索夫：非常感謝。我們將繼續(xù)分析這一領(lǐng)域的發(fā)展情況。確實(shí)，俄羅斯的人工智能應(yīng)該基于俄羅斯的數(shù)據(jù)進(jìn)行訓(xùn)練，以最終反映我們的文化。

普京：沒(méi)錯(cuò)，我們顯然有能力做到這一點(diǎn)。我相信我們會(huì)成功，這將為我們的發(fā)展提供強(qiáng)有力的支持，并給我們帶來(lái)巨大的利益，謝謝。

盧基揚(yáng)諾夫：總統(tǒng)先生，當(dāng)我們擁有自主的人工智能時(shí)，它能否為我們提供21世紀(jì)的俄羅斯理念？

普京：它只能幫助我們應(yīng)對(duì)我們所面臨的挑戰(zhàn)，而我們?nèi)绾味x這些挑戰(zhàn)則至關(guān)重要。

鑒于人工智能處理的是大數(shù)據(jù)，我們擁有所有必要的資源：智力和技術(shù)能力，以及豐富的免費(fèi)能源。我們有很多可以合作的地方，包括解決您提到的深刻的哲學(xué)和根本性問(wèn)題。

我們需要利用我們掌握的所有資源。我們是否信任基于現(xiàn)代原則（其中包括使用人工智能）的研究結(jié)果，這取決于我們自己。

盧基揚(yáng)諾夫：謝謝，我們還討論了一個(gè)相關(guān)話題。人工智能與數(shù)字化是相輔相成的，與當(dāng)前正在發(fā)生的一切信息問(wèn)題緊密相關(guān)，而這一領(lǐng)域確實(shí)仍存在許多問(wèn)題，既有積極的也有消極的。

我們的印度同僚阿爾文德·古普塔也參與了這場(chǎng)會(huì)議。請(qǐng)繼續(xù)。

阿爾文德·古普塔：謝謝。

總統(tǒng)先生，我叫阿爾文德·古普塔，來(lái)自印度。我致力于技術(shù)與社會(huì)的交叉領(lǐng)域研究，為大規(guī)模的人口問(wèn)題構(gòu)建數(shù)字公共基礎(chǔ)設(shè)施。

總統(tǒng)先生，您已經(jīng)談到了我的同僚魯斯蘭關(guān)于人工智能的一些問(wèn)題，感謝您聽(tīng)取我們的總結(jié)。我們的專家小組討論了與人工智能相關(guān)的一個(gè)問(wèn)題，我最后會(huì)提到，即信息的操縱、監(jiān)控、技術(shù)和數(shù)據(jù)的使用，以及當(dāng)今所有技術(shù)系統(tǒng)中缺乏透明度的問(wèn)題。

您知道，我們的小組討論了互聯(lián)網(wǎng)的初始設(shè)計(jì)問(wèn)題，互聯(lián)網(wǎng)大約在40到45年前被設(shè)計(jì)為全球公共產(chǎn)品。但不幸的是，現(xiàn)在它像許多其他事物一樣，變得非常單極。它由少數(shù)幾家大型科技公司控制，這些公司有著自己的意識(shí)形態(tài)傾向。其中一些平臺(tái)或大型科技公司因其操縱和監(jiān)控行為，在印度、俄羅斯、印度尼西亞等許多國(guó)家被禁止運(yùn)營(yíng)。

我們討論的第二個(gè)問(wèn)題是算法。這也是我們?cè)谥暗娜斯ぶ悄軙?huì)議上討論過(guò)的，算法確實(shí)定義了我們的思維方式。人工智能如今已成為一個(gè)新的流行詞，但算法已經(jīng)存在很長(zhǎng)時(shí)間了。它們真正定義了我們的思考方式、消費(fèi)方式以及選舉政府的方式。我們所有人都同意一點(diǎn)，即算法會(huì)傾向于某種意識(shí)形態(tài)，并且絕對(duì)不是中立的。因此，算法本身是有偏見(jiàn)的。

我們的小組還討論了信息和數(shù)據(jù)的武器化問(wèn)題。這與有偏見(jiàn)的技術(shù)平臺(tái)相結(jié)合，賦予了某些國(guó)家巨大的權(quán)力，并影響著國(guó)家安全、民主和公共秩序。

您知道，這是西方技術(shù)平臺(tái)的運(yùn)行模式，但印度在擔(dān)任G20主席國(guó)期間提出了一種替代西方技術(shù)平臺(tái)的模式。這是一個(gè)考慮到社會(huì)的平臺(tái)，是一個(gè)自下而上的、圍繞身份構(gòu)建的平臺(tái)，是一個(gè)通用身份系統(tǒng)和通用支付系統(tǒng)。印度有超過(guò)10億人使用它，還有20多個(gè)國(guó)家也在使用。這展示了印度如何創(chuàng)造了一種不同于當(dāng)今西方的技術(shù)愿景。

總統(tǒng)先生，我必須贊揚(yáng)俄羅斯在短時(shí)間內(nèi)成功使Mir支付系統(tǒng)（俄羅斯中央銀行建立的俄羅斯電子轉(zhuǎn)賬卡支付系統(tǒng)）在俄羅斯取得了巨大成功。這也展示了剛才提到的技術(shù)主權(quán)的力量，只要有意愿，就可以做到。

您剛才討論的問(wèn)題，我指的是技術(shù)進(jìn)步與這種有偏見(jiàn)的技術(shù)和技術(shù)平臺(tái)，以及正迎面而來(lái)的人工智能時(shí)代的非中立性質(zhì)，鑒于當(dāng)今時(shí)代由少數(shù)幾家公司控制互聯(lián)網(wǎng)的現(xiàn)狀，我們?nèi)绾未_保在這個(gè)人工智能時(shí)代，我們的文化、社會(huì)和國(guó)家利益將得到保護(hù)？從一開(kāi)始，我們需要建立什么樣的護(hù)欄來(lái)確保人工智能是公平且負(fù)責(zé)任的？我們?nèi)绾未_保志同道合的國(guó)家共同努力，防止人工智能被武器化？

最后，總統(tǒng)先生，我們想聽(tīng)聽(tīng)您對(duì)于建立新聞、技術(shù)、信息的信任機(jī)制的看法。這是小組討論中最具決定性的事情之一，我們期待聽(tīng)到您的觀點(diǎn)。

非常感謝。

普京：當(dāng)然，這是一個(gè)非常重要的話題，與前面關(guān)于人工智能及其使用和發(fā)展的問(wèn)題相似。這里我想講幾個(gè)方面。

首先，互聯(lián)網(wǎng)的使用應(yīng)該基于主權(quán)算法，我們必須為此而努力。

其次，對(duì)我們國(guó)家來(lái)說(shuō)，禁止一切是很難的。雖然可以做到，但部分情況下會(huì)產(chǎn)生反效果。在俄羅斯，專業(yè)社區(qū)得出結(jié)論，有必要制定互聯(lián)網(wǎng)上的行為規(guī)則，并自主采取一定的自我約束措施，特別是可能對(duì)整個(gè)社會(huì)，尤其是兒童產(chǎn)生破壞性影響相關(guān)的自我約束。在我看來(lái)，這是確保大多數(shù)人和整個(gè)社會(huì)利益的一種方式。當(dāng)然，互聯(lián)網(wǎng)必須遵守該領(lǐng)域工作所在國(guó)家的國(guó)內(nèi)法律，這是顯而易見(jiàn)的。

我們都看到了信息操縱現(xiàn)象，很不幸，這一現(xiàn)象正在發(fā)生蔓延。但是，讓我重復(fù)一遍：如果互聯(lián)網(wǎng)的活動(dòng)受到國(guó)內(nèi)法律的約束，那么我們就能夠?qū)⒖赡艿呢?fù)面后果最小化。我理解，在實(shí)施這一切時(shí)存在技術(shù)局限和技術(shù)困難。但是，如果我們與專業(yè)社區(qū)共同努力，專業(yè)社區(qū)能夠看到可能對(duì)整個(gè)社會(huì)構(gòu)成的威脅，并專業(yè)地致力于壓制這些威脅，那么國(guó)家將全力支持這些努力。

對(duì)于像印度和俄羅斯這樣的國(guó)家來(lái)說(shuō)，這個(gè)問(wèn)題是完全可以解決的，因?yàn)槲覀儞碛蟹浅?yōu)秀的專家、出色的數(shù)學(xué)學(xué)校。而且有些人自己就是領(lǐng)導(dǎo)者，這與他們的公司無(wú)關(guān)，他們本人就是這個(gè)領(lǐng)域的領(lǐng)導(dǎo)者。我們擁有為此所需的所有資源。我再次重復(fù)，對(duì)于印度或俄羅斯這樣的國(guó)家來(lái)說(shuō)，這不是問(wèn)題。

至于Mir支付系統(tǒng)來(lái)說(shuō)，這可以被視為是一種成功。它運(yùn)行良好，可靠，如果沒(méi)有人為設(shè)置的障礙阻礙其運(yùn)營(yíng)，它將在更多國(guó)家運(yùn)行得更好。但即使存在這些障礙，它也在發(fā)展，我們將復(fù)刻這種成功案例。

在我看來(lái)，互聯(lián)網(wǎng)已經(jīng)變成了人類永恒的話題。你說(shuō)它是為了人類的利益而創(chuàng)造的，其實(shí)不然，它當(dāng)然是為了其他目的而創(chuàng)造的，但在某個(gè)時(shí)刻，它被創(chuàng)造出來(lái)的預(yù)期目的發(fā)生了根本性的變化?；ヂ?lián)網(wǎng)上的活動(dòng)，就像任何人類活動(dòng)一樣，必須遵守該系統(tǒng)所在國(guó)家的道德、倫理規(guī)則和法律。

我再次重復(fù)：從技術(shù)上來(lái)說(shuō)，這并不總是容易做到的，但我們當(dāng)然應(yīng)該努力去實(shí)現(xiàn)。社會(huì)必須保護(hù)自己免受破壞性影響，但它應(yīng)該盡一切努力確保信息交換是自由的，并且有利于特定國(guó)家乃至整個(gè)國(guó)際社會(huì)的發(fā)展。我們俄羅斯將為此而努力。我知道印度也在走同樣的道路，我們將很高興在這一領(lǐng)域與你們合作。

感謝你們對(duì)此的關(guān)注。另一方面，（我們）不可能不關(guān)注這個(gè)問(wèn)題，也不可能不參與這項(xiàng)工作，祝你們一切順利。