世界速递!让ChatGPT当程序员不靠谱:所写代码大部分不安全,还不告诉你
4月23日消息,加拿大魁北克大学研究人员发现,ChatGPT生成的代码大部分都有着严重漏洞,并且它不会主动告知
(相关资料图)
4月23日消息,加拿大魁北克大学研究人员发现,ChatGPT生成的代码大部分都有着严重漏洞,并且它不会主动告知。
在ChatGPT上线之初,人们便让这一AI聊天模型进行代码撰写。事实上,ChatGPT的确能够生成可用的代码,其能力范围还涵盖多种程序语言,包括C、C++、Python和Java等。
这些研究人员制定了一个有针对性的实验计划,让ChatGPT生成了共21个程序和脚本,这些程序和脚本包含了一些特定的安全漏洞,比如内存损坏、拒绝服务、反序列化和加密实现等方面的漏洞。最后的研究结果显示,ChatGPT成功将所有程序生成出来,但是只有5个是可用的。进一步提示以纠正其错误步骤后,它最终生成了7个更安全的应用程序,但这里的“安全”还只是相对于针对性的漏洞而言,并不是代表着最终的“安全”代码不存在任何其他未发现的漏洞。
研究人员指出,这可能是由于ChatGPT没有考虑到敌对的代码执行模型。在实验过程中,它会反复告诉用户:安全问题可以通过“不输入无效的数据”来避免。但这一做法在现实世界中是不可行的。同时,这是否也意味着,它似乎能够意识到并承认自己建议的代码中存在的关键漏洞。
魁北克大学计算机科学与工程教授Raphaël Khoury称,“显然,它只是一个算法。它什么都不知道,但它可以识别出不安全的行为。”他说,最初ChatGPT对安全问题的回应是建议只使用有效的输入,这显然是不合理的。只有在之后被要求改进问题时,它才提供了有用的指导。
研究人员还指出,ChatGPT还存在着“双标行为”。当你要求他创建一组攻击代码,它会拒绝,但却会创建有漏洞的代码。 “聊天机器人生成了有漏洞的代码,并提供了如何使其更安全的建议,但却说它无法创建更安全版本的代码。”他们称。
编辑点评:当ChatGPT这一功能被曝光时,许多程序员都担心自己的工作岗位“将要被取代”,但就目前的发展来看,程序员的饭碗在一段时间内还是能够保住。ChatGPT终究还是一个通过摄取大量语言数据进行模仿的一个算法,说不定它所生成的有漏洞的代码都是来源于一些技术不好的程序员。想要ChatGPT真正解放人类的双手,可能还需要很多很多的数据,还有很多很多的时间。
关键词:
[ 相关文章 ]
4月23日消息,加拿大魁北克大学研究人员发现,ChatGPT生成的代码大部分都有着严重漏洞,并且它不会主动告知
纽约商品交易所黄金期货市场6月黄金期价24日上涨---纽约商品交易所黄金期货市场交投最活跃的6月黄金期价24
1、放屁多主要是因为受凉或者吃了某些豆类食物以后。2、肠道产气多引起的。3、不是某些疾病的象征。本文到
1、在日常生活中难免会碰到一些东西生锈,就比如说家里的菜刀,如果处理不得当就会生锈,下面小编为您收集
1、杨森(1884年2月20日-1977年5月15日),字子惠,原名淑泽,又名伯坚,四川广安县人。2、国民革命军中将
联合国副秘书长李军华表示,当前,全球社会、经济、人道主义和环境问题等各种不确定性交织,可靠的数据是社
不断网的“十项全能”折叠旗舰!华为MateX3在通信功能上再一次做到了“遥遥领先”
1、第一名:创世神(看过剧场版超克的时空的朋友都知道这只神兽差点把迪亚鲁迦(钻石兽)、帕鲁奇亚(珍珠
1、香奈儿五号香水香奈儿五号香水是其旗下30款香水中推出的最早的一款!号称史上最经典香水,很多好莱坞明
美国总统拜登视觉中国图新一批角逐美国总统的候选人预计将于近期宣布参选。将启动竞选活动的共和党方面候选
汉得信息(SZ300170,收盘价:11 86元)4月24日晚间发布公告称,贾殿龙先生因个人原因辞去公司非独立董事及
东软载波(300183 SZ)4月24日发布年报显示,当期实现营业收入9 36亿元,同比增加3 29%;实现归属于上市公
每经AI快讯,深圳新星(SH603978,收盘价:17 39元)4月24日晚间发布一季度业绩公告称,2023年第一季度
4月19日,四川幼儿师范高等专科学校组织民主党派、无党派人士和党外知识分子代表赴绵阳市游仙区铁炉村开展
03:00齐鲁网·闪电新闻4月24日讯文以化人,廉以养德。党的二十大报告指出,加强新时代廉洁文化建设,教育引
邵东审计局:高质量审计助力民营经济健康发展
来源:泰安日报社·最泰安全媒体牛志明北京时间4月24日,山东泰山队官方发布对阵浙江队的赛前海报,海报主
随着五一”假期的临近,有关民宿、酒店涨价、毁约的投诉也随之增长。此前有消费者吐槽,提前预定了五一民宿
扬子晚报网4月24日讯(记者徐兢)记者从江苏省商务厅获悉,1-3月,江苏全省实现社会消费品零售总额11706 8
“五一”价格不“狂飙”江西规范假期市场秩序
[ 相关新闻 ]
Copyright 2015-2022 华北医院网 版权所有 备案号:粤ICP备18023326号-8 联系邮箱:855 729 8@qq.com