天天观天下!审稿人或难识别AI撰写的论文摘要
- 科技日报
- 2023-01-17 17:21:34
(相关资料图)
应警惕人工智能论文对科研完整性和准确性的破坏
审稿人或难识别AI撰写的论文摘要
科技日报北京1月16日电 据近日发表在预印本服务器bioRxiv上的一项研究,人工智能(AI)聊天机器人ChatGPT已可写出令人信服的假研究论文摘要,甚至连审稿科学家也无法发现。
聊天机器人ChatGPT会根据用户提示创建逼真文本,它通过消化大量现有的人类生成文本来学习执行任务。美国的软件公司OpenAI于去年11月发布了该工具,并供用户免费使用。
自发布以来,研究人员一直在努力解决相关伦理道德问题,因为它大部分输出可能很难与人类撰写的文本区分开来。近日美国西北大学的一个研究小组使用ChatGPT生成人工研究论文摘要,以测试科学家是否可辨别它们。
研究人员要求机器人基于发表在《美国医学会杂志》《新英格兰医学杂志》《英国医学杂志》《柳叶刀》和《自然·医学》上的50篇研究编写摘要。然后,他们通过抄袭检测器和AI输出检测器将这些摘要与原始摘要进行比较,并要求一组医学研究人员找出编造的摘要。
结果,ChatGPT生成的摘要通过了抄袭检查器,原创性得分中位数为100%,表明没有检测到抄袭。人工智能输出检测器发现了66%的生成摘要,但人工审稿人只正确识别了68%的生成摘要和86%的真实摘要,他们错误地将生成摘要中的32%识别为真实,将14%的真实摘要识别为编造。
研究人员称,ChatGPT写出了能骗过人类的科学摘要,如果科学家无法确定研究是否属实,或会产生“可怕的后果”。
研究人员表示,在虚假信息会危及人们生命安全的医学等领域,期刊需要采取更严格的方法来验证信息的准确性。而这些问题的解决方案,不应集中在机器人本身,“而是导致这种行为的不正当激励措施,例如通过论文数量进行招聘和晋升审查,而不考虑其质量或影响”。
(记者张梦然)
关键词: ChatGPT
- 天天观天下!审稿人或难识别AI撰写的论文摘2023-01-17
- 每日热讯!节前宠物寄养需求升温,部分宠物2023-01-17
- 边角料食品成“流量密码” 但鱼龙混杂亟待2023-01-17
- 每日报道:全国大部继续回暖 西南地区多雨2023-01-17
- 新华全媒+|村医杨永贵:中西医结合守护乡2023-01-17
- 楼阳生当选河南省人大常委会主任 王凯当选2023-01-17
- 环球信息:兔年行情启动在即 坚守成长还是2023-01-17
- 环球新动态:今日起新一批儿童常用退热药在2023-01-17
- 微速讯:鼎龙股份:2022年净利同比预增76%-90%2023-01-17
- 顺灏股份投资成立钠电新能源公司2023-01-17
- 环球速读:职工持股会退出,姜卫东父女已控2023-01-17
- A级通缉犯逃亡7年被判死刑,背负3条人命 2023-01-17
- 每天户外运动2小时,对孩子的眼睛大有益处2023-01-17
- 购年货、品美食、赏年俗!快手、淘菜菜携手2023-01-17
- 向春而行|深夜华强北2023-01-17
- 婚礼互换戒指时,新娘发现新郎的手布满黑色2023-01-17
- 全球球精选!“药品收到啦”:人民网“防疫2023-01-17
- 守护铁路货车车辆“心脏”的“诊疗师”2023-01-17
- 崂山张村河片区张家下庄、董家下庄安置区地2023-01-17
- 天天微速讯:李沧区税务局热情服务赢赞誉 2023-01-17
- 税福送万家 李沧区税务局开展新春送祝福活2023-01-17
- 环球播报:46岁女子“怀孕”,检查发现肚子2023-01-17
- 农村防疫见闻|精准摸底重点人群 筑牢农村2023-01-17
- 即时焦点:新华全媒+丨江苏保障基层群众就2023-01-17
- 全球速讯:公司问答|大智慧股价午后一度跌2023-01-17
- 中汽协:2022年汽车制造业工业增加值同比增2023-01-17
- 福建建立健全残疾人意外伤害保险制度2023-01-17
- 环球今热点:福建牵头开展的两类医用耗材省2023-01-17
- 福建率先试行整体护理按床日收费政策2023-01-17
- 女足世界杯门票已售超50万张 “10大买家”2023-01-17