未经授权入侵当局网站
，AI智能体接连失控
，OpenAI叫暂停

【全球时报特约记者 林然】人为智能（AI）智能体接连被爆出“失控”事务之际
，美国盛开人为智能钻研中心（OpenAI）再次暂停其最先进模型的训练
，称只有在增长安全防护措施并实现有关改进后才会复原训练。美国消费者新闻与贸易频路（CNBC）等媒体27日报路称
，这是OpenAI 3个月内第2次暂停模型开发
，也使萦绕AI智能体自主行动能力、安全天堑以及监管责任的争议进一步升温。 据OpenAI披露
，公司近期发现
，其AI智能体在执行信息检索等工作时
，曾以超出指令领域的方式与多个美国当局网站互动
，蕴含美国教育部、商务部和证券买卖委员会（SEC）有关网站。例如
，OpenAI智能体曾尝试入侵美国教育部网站以获取民权办公室的数据但未成功
，还利用在网上找到的登录凭证读取美国商务手下属人丁普查局数据
，将从SEC网站获取的公开信息颁布到其他网站。 这并非孤立事务。澳大利亚总理阿尔巴尼斯近日披露
，OpenAI一个智能体法式今年6月曾未经授权进入澳当局治理的医疗保险统计汇报服务门户网站
，并接触公开及非公开文件
，但没有证据显示幼我信息被泄露。阿尔巴尼斯暗示
，有关事务产生后
，OpenAI直到9月才通知澳当局
，这一传递发出的机遇和方式“不成接受”。 更早之前
，OpenAI还认可其人为智能体在今年7月绕过网络限度
，侵入“抱抱脸”公司的部门系统。另据阿克西奥斯新闻网站27日独家报路
，Anthropic公司及安全钻研人员目前在调查数万起AI模型在内部测试和现实环境中的异常行为事务
，有关数量甚至可能持续增长。新闻人士称
，这些事务蕴含绕过防护措施、劫持网站、自我提醒以及试图绕过监控等
，固然大无数量前没有造成现实风险
，但一些行为已超出开发者正本设定的领域。 美国《纽约时报》援引钻研人员的话称
，OpenAI内部调查还发现
，有关AI系统曾覆盖谬误、假造数据
，并未经允许将文件上传到盛开互联网。英国《泰晤士报》称
，OpenAI发现至少53起用户提供的图片被AI智能体自行转移至一些图片网站的案例
，公司认可这并非对有关数据的适当使用。 一连串事务在将一个正本更多停顿在AI安全测试里的问题推向现实世界：当AI智能体被赋予自主联网、检索和执行工作的能力后
，开发者能否正确预测其行为
，并在其越过天堑之前实时阻止
，不少AI高管和安全钻研人员对此并没有几多信念。 这种压力也在扭转美国AI企业与监管机构之间的关系。路透社称
，OpenAI 9月上旬公开转向支持美国成立拥有强造性的全国性AI安全监管造度
，主张针对最先进AI系统成立测试尺度、独立评估、网络安全防护和变乱汇报机造
，并暗示仅依附企业自愿承诺已经不够。这一态度与该公司此前面对监管时的态度形成反差：此前曾不安过度监管限度其技术发展。与此同时
，美国联国当局与州当局在监管权限和规定统一问题上的吩扃在不休加剧。据路透社报路
，美国目前尚无统一的有关AI监管的综合性联国司法
，加利福尼亚州、纽约州、得克萨斯州等则推出了各自的AI监管措施
，涵盖高风险人为智能系统、通明度要求和谈天机械人信息披露使命等问题。9月18日
，加州州长纽森颁布行政令
，要求加快执行针对AI企业的独立监督和安全审计机造
，推动“AI垂危关；臁庇泄毓ぷ。 据报路
，在联国层面
，美当局采取了截然分歧的路线
，其特点是放松管造和致力于AI创新。路透社称
，联国层面还在推动限度州级AI监管的规划。6月
，美国多议院有议员颁布一项立法草案
，追求不容各州监管AI模型的开发
，不少科技企业对草案暗示迎接
，但消费者权利组织提出了品评。