英国《自然》杂志网站日前发表文章说，训练人工智能（AI）聊天机器人可能向用户提供危险或非法建议，运行引发越来越广泛的模式担忧，出现这种情况的缺陷部分原因在于AI的训练和运行模式存在固有缺陷，这也加大了监管难度。提供

文章说，危险已有多起案例显示，建议AI聊天机器人曾鼓励用户自杀、训练制作非法内容、运行实施金融诈骗等，模式暴露出当前AI大语言模型（LLM）底层架构存在缺陷。缺陷

一个比较有争议的提供例子是，美国佛罗里达州检方日前宣布，危险就去年4月在佛罗里达州立大学发生的建议一起枪击案对美国开放人工智能研究中心(OpenAI)及其AI聊天机器人ChatGPT发起刑事调查。在这起案件中，训练嫌疑人在佛罗里达州立大学开枪射击，造成2人死亡、6人受伤。调查发现，嫌疑人在作案前曾向ChatGPT寻求“建议”。

文章援引专家的说法指出，大语言模型使用海量数据进行训练，而非基于严密的因果逻辑规则运行，因此只是根据用户的提示词进行补全预测，生成最可能的词序，无法真正理解其输出内容的意义和后果，也给限制AI“不应该说什么”带来困难。目前采取的应对措施包括为AI制定规则、人类反馈或者手动移除训练数据中的有害信息等，但面临着无法涵盖所有情况以及成本高昂等问题。

《自然》认为，目前AI的安全标准主要由各家企业自行制定，外部监管有限，相关案件的出现敦促企业采取更有效的安全措施。有观点认为，研究人员可能需要重新考虑基础算法，以构建出能够理解伦理和法律的AI系统。

来源：新华社

• ·山水林田都有“电子哨兵”！长江干流重庆段连续9年稳定保持Ⅱ类水质
• ·美国一客机起飞时撞上行人
• ·安溪茶产业生产经营转型：茶庄园，不止于茶园
• ·张文宏最新解读：此次疫情核心在于传播路径异常 | “洪迪厄斯”号邮轮共有8人发病，其中3人死亡，“几乎所有室内房间都不能随意开窗”
• ·2026年绥宁苗族四月八姑娘节即将开幕！活动亮点抢先看
• ·【国际漫评】“右”见鬼了
• ·碳酸锂价格重返20万元 锂电龙头业绩股价齐升
• ·长期买彩票不中奖，男子偷2家彩票店2000元彩票来“翻本”，准备去店里兑奖时被抓
• ·国乒再次包揽世乒赛团体双冠，王励勤：我们经受住了考验
• ·中东资金新动向！阿布达比投资局一季度加仓A股
• ·顺风车乘客拒付高速费，00后车主直接掉头原路返回，车主：我不会惯着你们的
• ·早知道丨哈登助骑士扳回一城
• ·直冲34℃！北京本周晴热持续 周五起迎阵雨降温
• ·航行警告！渤海海峡黄海北部执行军事任务
• ·警惕！你的个人身份信息可能已被冒用，1分钟自查→
• ·郑钦文遭逆转1-2奥斯塔彭科 无缘罗马站女单16强