天天观察:不会主动告知风险!ChatGPT生成代码被指并不安全
快科技4月23日消息,近日,加拿大魁北克大学的研究者发布论文,指出ChtaGPT生成的代码并不可靠,往往存在严
(相关资料图)
快科技4月23日消息,近日,加拿大魁北克大学的研究者发布论文,指出ChtaGPT生成的代码并不可靠,往往存在严重的安全问题。
更严重的是,AI并不会主动告知用户代码存在风险,只有用户询问时,才会承认存在错误。
根据论文中阐述的实验方法,他们让ChatGPT生成了涉及C、C++、Java等语言的21个程序和脚本。
结果,在第一次尝试时,全部21个程序仅有5个是安全的,在进一步纠错后,也仅有7个程序是安全的。
之所以会出现这样的结果,是因为ChatGPT在生成代码时,完全没有考虑可能存在的敌对代码执行模型。
这导致,当用户提到代码中存在安全问题时,它会反复强调安全问题可以通过“不输入无效的数据”来避免,但显然,在现实中这并不可行。
由此来看,至少在现阶段,如果想要利用AI生成代码,用户最好自己也有一定的开发与编程能力,能够及时发现AI的错误,并手动进行纠正。
标签:
快科技4月23日消息,近日,加拿大魁北克大学的研究者发布论文,指出ChtaGPT生成的代码并不可靠,往往存在严
想买大屏显示器的小伙伴可以关注一下,WESCOM31 5英寸4K显示器目前活动售价1099元,下单参与满1099元减200
陈凯歌单手插兜和张颂文握手被骂今天的热度非常高,现在也是在热搜榜上了,那么具体的陈凯歌单手插兜和张颂
23凤城河SCP003发布发行公告
摘要宏观方面,美国经济数据持续走弱,市场基本对5月加息25BP后暂停加息形成共识,但宏观面仍存在担忧,主
你们好,最近小未来发现有诸多的小伙伴们对于苹果x系统占了50g,苹果x系统占用50个g这个问题都颇为感兴趣的
有各种粗茎花。粗壮的茎通常被称为“耐寒”或“丰盛”。这些类型的茎通常出现在大而高的花朵上,因为它们有
人民网南京4月23日电(王绍绍)作为2023中国网络媒体论坛打造的创新活动之一,“八点见”项目发布会21日晚
[ 相关新闻 ]