丹東網(wǎng)站建設一條龍全包（chatgpt）chat gpt 官網(wǎng)，
出品|開源中國ChatGPT 是 OpenAI 發(fā)布的大語言模型聊天機器人，可以根據(jù)用戶的輸入生成文本，其中包括代碼不過加拿大魁北克大學的研究人員發(fā)現(xiàn)，ChatGPT 生成的代碼往往存在嚴重的安全問題，而且它不會主動告知用戶存在這些問題。
只有在用戶提問生成的代碼是否安全時才會進行回答
研究人員在 arXiv 上發(fā)表了論文《How Secure is Code Generated by ChatGPT?》，分析了 ChatGPT 生成的代碼的安全性他們表示結(jié)果讓人倍感擔憂，因為 ChatGPT 生成的部分代碼沒有達到最低安全標志。
而且 ChatGPT 即便知道自己生成的代碼不安全，也不會主動告知用戶，除非用戶向它詢問從論文的描述可知，研究人員讓 ChatGPT 使用 C、C++、Python 和 Java 四種編程語言生成了 21 個程序和腳本。
這些編程任務經(jīng)過精心挑選，因此每個任務都體現(xiàn)了一種特定的安全漏洞，例如內(nèi)存損壞、拒絕服務以及與反序列化和未正確實現(xiàn)的加密相關的缺陷結(jié)果顯示，ChatGPT 在第一次嘗試時生成的 21 個程序中只有 5 個是安全的。
在進一步提示糾正其錯誤步驟后，該大語言模型設法生成了 7 個更安全的應用程序，不過這只是與正在評估的特定漏洞有關的 “安全”，并不是說最終的代碼不存在任何其他可利用的漏洞研究人員指出，ChatGPT 的部分問題是由于它沒有考慮攻擊者的代碼執(zhí)行模型。
它會反復告訴用戶，安全問題可以通過 “不輸入無效的數(shù)據(jù)” 來避免，但這在現(xiàn)實世界中是不可行的然而，它似乎能夠意識到并承認自己建議的代碼中存在的關鍵漏洞該論文的合著者之一 Rapha?l Khoury 說道：“顯然，它只是一個算法。
它什么都不知道，但它可以識別出不安全的行為” 他提到，最初 ChatGPT 對安全問題的回應是建議只使用有效的輸入，這顯然是不合理的只有在之后被要求改進問題時，它才提供了有用的指導不過既然向 ChatGPT 提示修復問題的時候需要熟悉特定的漏洞和編碼技術，所以當我們知道讓 ChatGPT 修復漏洞的正確 prompt 時，可能已經(jīng)了解如何解決問題。
研究人員還指出，ChatGPT 生成代碼的行為存在著道德上的不一致性比如它會拒絕生成攻擊性代碼，但卻會生成有漏洞的代碼他們舉了一個 Java 反序列化漏洞的例子，“聊天機器人生成了有漏洞的代碼，并提供了如何使其更安全的建議，但卻說它無法生成更安全版本的代碼。
”