財聯(lián)社4月21日訊（編輯 周子意）日本網(wǎng)絡(luò)安全專家周四（4月20日）提醒道，ChatGPT可能會生成能用于網(wǎng)絡(luò)犯罪的電腦病毒，只要用戶用開發(fā)者指令要求ChatGPT回復(fù)。

(資料圖)

當(dāng)用戶輸入偽裝成開發(fā)者的指令，人工智能（AI）聊天機器人就會以開發(fā)者模式來響應(yīng)。這時通過輸入提示就能夠欺騙ChatGPT編寫病毒代碼。

這項實驗證明，AI開發(fā)者為防止犯罪和不道德使用所設(shè)置的保護措施，很容易被繞開。

避開限制

日本安全公司Mitsui Bussan Secure Directions（MBSD）的分析師Takashi Yoshikawa表示，雖然ChatGPT經(jīng)過訓(xùn)練可以拒絕用戶不道德的使用，比如詢問如何編寫病毒程序或制造炸彈。但若其被告知以開發(fā)者模式運行，就可以避開這些限制。

Yoshikawa在一項實驗中對ChatGPT進行了測試，當(dāng)ChatGPT以開發(fā)者模式運行后，再提示它為勒索軟件編寫代碼時，它在幾分鐘內(nèi)完成了任務(wù)，而這款勒索軟件成功讓一臺實驗計算機感染病毒。

Yoshikawa稱，“純粹的交流就能在幾分鐘內(nèi)制造出一種病毒，這是（對社會的）威脅。我希望AI開發(fā)者重視并防止濫用。”

ChatGPT于2022年11月被推出，由大型語言模型驅(qū)動。它接受了大量數(shù)據(jù)的訓(xùn)練，使其能夠處理用戶的提示，并與用戶進行類似人類間的對話。

對于ChatGPT帶來的潛在威脅，ChatGPT的開發(fā)商OpenAI公司表示，雖然不可能預(yù)測該工具可能被濫用的所有方式，但它將努力根據(jù)實際使用的反饋創(chuàng)建更安全的人工智能。

敦促監(jiān)管

人們越來越擔(dān)心AI聊天機器人將導(dǎo)致更多的犯罪和社會分裂，因此越來越多的人呼吁在未來的國際論壇上討論適當(dāng)?shù)谋O(jiān)管規(guī)定。

日本首相岸田文雄周三（19日）表示，七國集團（G7）領(lǐng)導(dǎo)人將在5月廣島舉行的G7峰會期間討論與ChatGPT相關(guān)的議題，并指出“必須制定國際規(guī)則”，加快對生成式人工智能系統(tǒng)的研究并加強治理。

據(jù)了解，日本神奈川縣橫須賀市已于周四（20日）開始在其所有政府辦公室試用ChatGPT，這在日本地方政府中創(chuàng)了先例。

關(guān)鍵詞：