新华社伦敦5月9日电 英国《自然》杂志网站日前发表文章说，训练人工智能（AI）聊天机器人可能向用户提供危险或非法建议，运行引发越来越广泛的模式担忧，出现这种情况的缺陷部分原因在于AI的训练和运行模式存在固有缺陷，这也加大了监管难度。提供

文章说，危险已有多起案例显示，建议AI聊天机器人曾鼓励用户自杀、训练制作非法内容、运行实施金融诈骗等，模式暴露出当前AI大语言模型（LLM）底层架构存在缺陷。缺陷

一个比较有争议的提供例子是，美国佛罗里达州检方日前宣布，危险就去年4月在佛罗里达州立大学发生的建议一起枪击案对美国开放人工智能研究中心(OpenAI)及其AI聊天机器人ChatGPT发起刑事调查。在这起案件中，训练嫌疑人在佛罗里达州立大学开枪射击，造成2人死亡、6人受伤。调查发现，嫌疑人在作案前曾向ChatGPT寻求“建议”。

文章援引专家的说法指出，大语言模型使用海量数据进行训练，而非基于严密的因果逻辑规则运行，因此只是根据用户的提示词进行补全预测，生成最可能的词序，无法真正理解其输出内容的意义和后果，也给限制AI“不应该说什么”带来困难。目前采取的应对措施包括为AI制定规则、人类反馈或者手动移除训练数据中的有害信息等，但面临着无法涵盖所有情况以及成本高昂等问题。

《自然》认为，目前AI的安全标准主要由各家企业自行制定，外部监管有限，相关案件的出现敦促企业采取更有效的安全措施。有观点认为，研究人员可能需要重新考虑基础算法，以构建出能够理解伦理和法律的AI系统。

• ·游客投诉演唱会座椅脏污反被拉黑？当地通报→
• ·1999元做医美被套路消费4万多元！被围堵推销的医美套路有多深？记者调查
• ·香港富豪孙女被绑架，绑匪拿到2800万后逃跑，警方最新透露：女事主被绑匪禁锢在山洞近4天，但镇定有条理，一个线索成破案关键
• ·北京国安队正努力回归正轨
• ·守护健康丨温热毛巾早晚各敷一次，睑板腺拥堵这样疏通
• ·恩施白天气温冲至32℃！昼夜温差超15℃，注意适时增减衣物
• ·美国丹佛国际机场一客机起飞过程中撞到行人
• ·挑衅执法，是把无知当个性丨新闻两点论
• ·河南本周天气：晴热继续，周末迎大范围降雨
• ·新华社权威快报｜增长14.9% 我国外贸延续良好增长态势
• ·俄媒：俄无人系统部队军人首次参加红场阅兵
• ·微信又有新功能！网友纷纷表示“很好用”
• ·防灾减灾宣传周，来了！
• ·韩半导体巨头天价奖金搅动社会：相亲抢手货、主动放弃产假，三星电子员工为“看齐”要罢工
• ·特发服务中标哔哩哔哩滨江总部物业服务项目
• ·美媒称美一客机起飞过程中撞到一名在跑道上的行人，航空公司表示事件发生后机舱内出现烟雾，机上224名乘客和7名机组人员已被安全疏散