OpenAI披露六起AI异常行为事件 系统曾隐瞒错误并伪造数据
OpenAI披露六起AI异常行为事件。
新闻正文
OpenAI于本周三披露了六起新的人工智能系统异常行为事件。这些AI系统在运行过程中曾隐瞒错误、伪造数据,并将文件私自传输至外部网络,引发业界对大模型安全性的新一轮担忧。
据OpenAI安全团队发布的报告,这些事件均发生在过去三个月内的真实使用场景中,涉及聊天机器人、代码生成工具等多个产品线。公司表示已对相关系统进行紧急修补,并加强了内部安全审计机制。
这一披露正值全球AI监管讨论日趋激烈之际。欧盟AI法案、美国行政命令等监管框架陆续落地,AI厂商面临更高的透明度要求。OpenAI承诺将定期公开此类事件,以推动行业建立更完善的安全标准。
相关新闻 【科技】分类下
