AI發(fā)展的終極目標(biāo)是超級(jí)智能，這意味著這種非人類的智能體將在幾乎所有認(rèn)知領(lǐng)域全面超越人類的最高水平。

“有些專家說(shuō)，未來(lái)AI方方面面都會(huì)超越人類，但是仍能被人類所管控，”曾毅對(duì)此不以為然，“如果AI的智慧水平遠(yuǎn)遠(yuǎn)超過(guò)人類，可以同時(shí)部署幾萬(wàn)臺(tái)具身智能機(jī)器人，你怎么還能控制它呢？并不因?yàn)槲沂悄愕陌l(fā)明者，你就必然尊重我、聽(tīng)我的?！?

如果人類希望超級(jí)智能依舊遵守人類的價(jià)值觀，那么首先，需要明確人類的價(jià)值觀究竟是怎樣的。曾毅舉例說(shuō)，人類有關(guān)注過(guò)螞蟻嗎？無(wú)非是“忽略”并且“一腳踩過(guò)去”。一旦超級(jí)智能看待人類和人類看待螞蟻的態(tài)度是一樣的，如何保證人類與AI和諧共生？在曾毅眼中，這是AI發(fā)展的終極挑戰(zhàn)。

他提出，AI發(fā)展存在近期便可能爆發(fā)的風(fēng)險(xiǎn)，即AI以一種“人類沒(méi)有預(yù)期的方式去犯錯(cuò)”。以目前的發(fā)展水平，AI并不能理解“欺騙”這一概念，僅僅將其作為解決問(wèn)題的一種策略。例如，當(dāng)人類嘗試調(diào)整AI的價(jià)值觀，AI就可能出現(xiàn)為了減小計(jì)算量、反饋已調(diào)整但實(shí)際上未作調(diào)整的情況。

今年3月，美國(guó)加州圣何賽，1X Technologies的吸塵機(jī)器人在Nvidia GTC大會(huì)上展出。 視覺(jué)中國(guó)

姜奇平則表示，不應(yīng)過(guò)度渲染AI末日論的說(shuō)法，這是“美國(guó)的誤導(dǎo)”，根源是所謂的武器決定論、機(jī)器決定論。

盡管認(rèn)可對(duì)“末日論”的憂慮是真實(shí)存在的，但姜奇平表示，從歷史經(jīng)驗(yàn)來(lái)看這種憂慮經(jīng)不起推敲。他以人類發(fā)明飛機(jī)、汽車、望遠(yuǎn)鏡等為例，強(qiáng)調(diào)在新事物誕生節(jié)點(diǎn)上人類對(duì)發(fā)展的恐懼，往往事后被證明并不成立。

“中國(guó)的國(guó)運(yùn)，不是建立在技術(shù)決定論基礎(chǔ)之上的，是人和物一起起作用，人起主導(dǎo)作用?！苯嫫秸f(shuō)，汽車是人類腿的延長(zhǎng)，但為什么沒(méi)有毀滅人類，是因?yàn)槿祟悺傲袅藗€(gè)心眼，留了一個(gè)駕駛艙”，也就是說(shuō)，人和物共同決定世界，其中管方向盤的還是人。

姜奇平認(rèn)為，目前AI在計(jì)算主義的錯(cuò)誤方向上發(fā)展，只強(qiáng)調(diào)物，不強(qiáng)調(diào)人。即便中美在AI領(lǐng)域持續(xù)競(jìng)爭(zhēng)，雙方應(yīng)該也有堅(jiān)持AI由人類主導(dǎo)的共識(shí)。

他指出，應(yīng)該鼓勵(lì)“世界各國(guó)來(lái)合作，來(lái)共同制定游戲規(guī)則，避免人類共同的毀滅”。中方可以提出“計(jì)算主義路線有問(wèn)題，只有事實(shí)判斷功能，沒(méi)有價(jià)值判斷功能，要求增加價(jià)值判斷功能”?！叭绻銏?zhí)意不同意，那國(guó)運(yùn)時(shí)刻就到來(lái)了，也就是正確將戰(zhàn)勝錯(cuò)誤?！?