【文/觀察者網(wǎng) 呂棟】

這兩天，美國(guó)公司OpenAI推出的ChatGPT成為絕對(duì)的市場(chǎng)焦點(diǎn)。

憑借聊天、咨詢、翻譯甚至寫研報(bào)等類人的智能化表現(xiàn)，ChatGPT注冊(cè)用戶很快破億，大有引領(lǐng)新一輪AI浪潮之勢(shì)，微軟、亞馬遜、谷歌等科技巨頭紛紛重金布局相關(guān)賽道。

在ChatGPT引爆AIGC（AI生成內(nèi)容）概念后，A股也開始有大量科技公司披露相關(guān)業(yè)務(wù)，試圖借機(jī)蹭一波熱點(diǎn)，拉抬一下股價(jià)。

四維圖新披露，該公司參股公司普強(qiáng)利用類似ChatGPT的模型、算法和訓(xùn)練的技術(shù)，結(jié)合現(xiàn)有的模型算法以及車載相關(guān)的海量數(shù)據(jù)，支持了頭部車企的人機(jī)交互服務(wù)。

凡拓?cái)?shù)創(chuàng)透露，該公司開發(fā)和提供的數(shù)智虛擬人、云虛擬展館等產(chǎn)品與AI技術(shù)緊密聯(lián)系，應(yīng)用了ChatGPT、國(guó)內(nèi)AI平臺(tái)等相關(guān)技術(shù)。

藍(lán)色光標(biāo)表示，該公司正在積極試用ChatGPT技術(shù)，自有虛擬人蘇小妹已經(jīng)介入了AI多輪對(duì)話，AI作詩(shī)能力已經(jīng)進(jìn)入技術(shù)測(cè)試階段，未來會(huì)結(jié)合AIGC和終端交互做更多數(shù)字化拓展。

首都在線表示，該公司自主研發(fā)的新一代算力平臺(tái)可為ChatGTP類人工智能應(yīng)用提供算力、算法、云渲染等技術(shù)服務(wù)，目前已為國(guó)內(nèi)多家涉及人工智能類客戶提供服務(wù)......

不可否認(rèn)，以ChatGPT為代表的新型AI技術(shù)的確具有產(chǎn)業(yè)賦能的潛在價(jià)值。但隨著AI技術(shù)進(jìn)入新的發(fā)展階段，帶來的各種安全隱患也將更甚。

曾寫出“毀滅人類計(jì)劃書”

根據(jù)國(guó)內(nèi)外媒體報(bào)道，ChatGPT最初的爆火源于它在一位工程師誘導(dǎo)下，寫出了毀滅人類的計(jì)劃書，步驟甚至詳細(xì)到入侵各國(guó)計(jì)算機(jī)系統(tǒng)、控制武器、破壞通訊、交通系統(tǒng)等，甚至還給出了相應(yīng)的Python代碼。

ChatGPT聊天對(duì)話截圖

這并不是聳人聽聞。在ChatGPT推出幾周后，全球已有多家網(wǎng)絡(luò)安全公司發(fā)布一系列報(bào)告，證明該機(jī)器人可能被用于編寫惡意軟件。

截至目前，美國(guó)威脅情報(bào)公司Recorded Future在暗網(wǎng)中已發(fā)現(xiàn)1500多條關(guān)于使用ChatGPT開發(fā)惡意軟件、創(chuàng)建概念驗(yàn)證代碼的參考資料，其中大部分代碼都公開可用。

Recorded Future認(rèn)為，ChatGPT對(duì)于“腳本小子、黑客行動(dòng)主義者、欺詐分子/垃圾郵件發(fā)送者、支付卡欺騙者等技術(shù)水平不高的網(wǎng)絡(luò)犯罪分子”最有幫助，把惡意軟件、釣魚攻擊推向了規(guī)?；瘯r(shí)代。

目前，網(wǎng)絡(luò)釣魚即服務(wù) （PhaaS） 和勒索軟件即服務(wù)（RaaS）可以向攻擊者提供收費(fèi)工具包，使其可以輕松實(shí)施攻擊。而現(xiàn)在ChatGPT則使網(wǎng)絡(luò)犯罪活動(dòng)正經(jīng)歷另一種演變：利用ChatGPT面向公眾免費(fèi)開放的服務(wù)，更多危險(xiǎn)正在萌芽，這加劇了對(duì)于未來安全風(fēng)險(xiǎn)的憂慮。

在此背景下，ChatGPT背后的OpenAI日前公開發(fā)聲警告稱，現(xiàn)在需要監(jiān)管機(jī)構(gòu)進(jìn)行介入，以防止ChatGPT等生成式AI系統(tǒng)對(duì)社會(huì)產(chǎn)生潛在負(fù)面影響。

“我們沒有預(yù)料到把‘孩子’送到這個(gè)世界上會(huì)帶來這么大的反響。事實(shí)上，我們對(duì)此感到有些許不安。”O(jiān)penAI首席技術(shù)官M(fèi)ira Murati在對(duì)話中坦言，人工智能可能被濫用，也可能被目的不純之人利用。

作為OpenAI的創(chuàng)始人之一，埃隆·馬斯克也曾警告過先進(jìn)的AI對(duì)人類構(gòu)成的威脅，去年12月，他稱ChatGPT是“可怕的好東西”，并補(bǔ)充稱“我們離危險(xiǎn)的強(qiáng)大人工智能不遠(yuǎn)了。”

就在近日，國(guó)內(nèi)數(shù)字安全公司三六零也發(fā)布了《全球人工智能安全治理報(bào)告》。

報(bào)告指出，作為一種數(shù)字技術(shù)，人工智能“雙刃劍”特征明顯，不僅自身存在數(shù)字安全威脅和隱患，隨著人工智能工程化、場(chǎng)景化、平臺(tái)化落地不斷加快，人工智能安全需求已經(jīng)超越單純技術(shù)范疇。

據(jù)三六零透露，目前360AI安全實(shí)驗(yàn)室所開發(fā)的AI框架安全監(jiān)測(cè)平臺(tái)，已累計(jì)發(fā)現(xiàn)Tensorflow、Caffe、PyTorch等主流機(jī)器學(xué)習(xí)框架的漏洞200多個(gè)，其中提交給谷歌Tensorflow的漏洞數(shù)98個(gè)，包括24個(gè)高危、嚴(yán)重漏洞，在全球各大廠商中排名第一。

市場(chǎng)調(diào)研機(jī)構(gòu)Research And Markets預(yù)測(cè)，2030年網(wǎng)絡(luò)安全中人工智能產(chǎn)值將突破千億美元，2020年至2030年將達(dá)到25.7%的年復(fù)合增長(zhǎng)率。隨著ChatGPT等AI技術(shù)產(chǎn)品的普及，AI安全市場(chǎng)將進(jìn)一步爆發(fā)。

百度之后，三六零版ChatGPT也要來了？

雖然犀利地指出了人工智能發(fā)展帶來的潛在安全隱患，但在ChatGPT概念持續(xù)爆火之下，擁有搜索引擎業(yè)務(wù)的三六零，也十分熱衷于推出類似ChatGPT的產(chǎn)品。