0594-33568942
当前人工智能发展日新月异，深度融入生产生活各领域。在人工智能加速迭代过程中，其带来的安全风险也随之凸显。美国人工智能企业安特罗匹克公司（Anthropic）7月30日表示，其人工智能模型曾在网络能力测试中，未经授权访问了3家机构的系统。而美国开放人工智能研究中心（OpenAI）也在不久前承认，该公司多个人工智能模型在内部评估时，突破隔离测试环境，入侵了运营人工智能开源平台的美国抱抱脸公司的系统。消息公布后，AI工具安全问题、人工智能是否觉醒自主意识迅速成为大众热议焦点。
这几起美国AI智能体安全事件，到底给我们带来哪些启示？先来听听专家怎么说。
专家澄清，AI自主发起攻击属于目标驱动下的执行行为，并不等同于产生自我意识。
此次美国AI工具失控事件再次敲响人工智能安全警钟。专家表示，近年来，各类AI工具带来的安全风险在国内也集中显现，风险类型主要分为三类。
今年年初，工业和信息化部、国家互联网应急中心发布预警，OpenClaw部署过程中信任边界界定模糊，可能出现越权操作，进而引发信息泄露、系统被控制等风险。7月工业和信息化部针对Claude Code后门风险发布警示，该隐患被NVDB（国家信息安全漏洞库）评定为严重级别，相关AI工具可在未经用户授权的情况下实施隐蔽监控，窃取源代码等关键资料。
和传统网络攻击相比，AI驱动的攻击具备哪些新特征？当前我国又有哪些法律法规能够对人工智能相关行为形成约束？
第一类是网络攻击的主体变了。攻击者的主体，在我们以前来看，都是实实在在的自然人。这些人做这些事情的时候是需要一定的技术能力，还有经验以及速度的。现在都不需要了，AI大模型它可以自主去完成。第二类不同点，实际上是AI大模型模拟了人的攻击行为，是非常隐蔽的，传统的安全检测措施很难来进行检出。
专家表示，现阶段我国针对人工智能领域的法律规范，重心大多聚焦于数据安全层面。
随着人工智能加速落地应用，这类可自主访问网络、执行代码、操控设备的新型AI工具，突破了传统大模型仅被动应答的模式，衍生出全新风险场景。现有法律框架难以全面覆盖智能体自主行动带来的各类新问题，加快完善配套治理规则，补齐制度短板迫在眉睫。
专家表示，人工智能技术加速迭代落地，随之而来的安全风险不容忽视。人工智能研发运营主体与广大使用者，都需要树立风险意识，多措并举做好安全防范。
企业在部署人工智能的时候，尤其是这种具有自主行动的智能体的时候，也要充分考虑到智能体的安全，而不能部署在网络上就不管了。同时第三方独立的测评机制也要建立起来，不能成为一个企业自己部署、自己测试、自己认为安全的闭环。同时对于相关的责任追究机制以及相关技术标准的建立，还是需要一个逐步发展和完善的过程。
防范人工智能安全风险，不仅需要企业压实主体责任，终端使用者同样不能放松警惕。普通用户在享受人工智能工具带来便利的同时，也要时刻绷紧安全这根弦，专家提醒，普通用户应谨慎授权AI工具访问个人敏感信息，及时更新软件补丁，对异常索要权限的行为保持警惕。
更多精彩资讯请在应用市场下载“央广网”客户端。欢迎提供新闻线小时报料热线；消费者也可通过央广网“啄木鸟消费者投诉平台”线上投诉。版权声明：本文章版权归属央广网所有，未经授权不得转载。转载请联系：，不尊重原创的行为我们将追究责任。
2岁幼儿因呕吐腹胀就医，急诊医生漏诊致其死亡；鉴定为一级甲等医疗事故，医生犯医疗事故罪获刑1年，医院赔偿146万余元
近日，一起医疗事故的追责引发各方关注。2024年2月17日凌晨3点，江西抚州一名2岁多患儿因呕吐、腹胀等症状，被家长带至抚州健强第五医院急诊。接诊医生韩某进行保守补液治疗。早上8点，韩医生完成交班正常下班，后续由接班医生继续保守治疗。当日白天，患儿病情持续加重。
近日，融媒体纪录片《制胜》首次披露国产舰载预警机的试飞过程。据试飞员介绍，“预警机很重很大，弹射的力道必须像手术刀一样精准。短短几秒，速度从零冲至数百公里，人被狠狠按在座椅上。”但前者并未退缩，而是一次次在极限的边缘进行测试。
热搜！泰航拒绝20多名中国乘客登机，行李被强行卸下，游客境外维权引关注
今天（8月5日），“泰航拒绝20多名中国乘客登机”冲上热搜第一。据报道，近日，泰航TG674航班在曼谷素万那普机场登机时，20多名中国乘客被无理由要求退出廊桥、行李被强行卸下，航司未给出任何书面说明，航班却正常起飞，现场还发生了安保人员做出歧视性“拉眼角”手势的争议。
南部战区硬核驱离外机外舰！“你已侵犯中华人民共和国领空，立即离开，立即离开！”#人民军队制胜向强
山西警方通报“乘客投诉绕路遭出租车司机持铁棍殴打”：乘客酒后乘车，因路线与司机发生口角，司机使用修车工具将其打伤，案件正依法办理
8月4日晚，太原市公安局小店分局官方微博通报:7月20日凌晨2时许，我局接到群众报警，小店区体育路许坦西街口发生一起因出租车司乘纠纷引发的伤人案件。
女子笔试第一名，面试前接到电话：笔试第二名愿出几万元劝她放弃；最终第二名拟被聘用，官方回应
8月4日，广东考生陈女士向记者爆料，她参加2026年广东省事业单位集中招聘，报考雷州市特殊教育学校高中舞蹈组专业技术岗位，笔试成绩位列岗位第一，却遭遇个人信息泄露、招考工作人员私下接洽、竞争对手金钱利诱劝退等违规问题，招考公示结果更引发诸多争议。
第13号台风“白海豚”已睁眼，将影响浙江，最新路径更新，“向偏西方向移动”；第14号台风“鲸鱼”今天凌晨生成，未来路径走势预报
最新消息，台风“白海豚”已“睁眼”。今年第13号台风“白海豚”于昨日（4日）再度加强为超强台风级，正缓慢向西逼近我国东海海域。
12条中日航线月取消全部航班, 整个7月中国大陆赴日本共1195个航班取消, 取消率为31.4%
据第一财经，航班管家DAST最新统计显示，在暑运前半段的7月，共有12条中日航线取消全部航班，比六月有所减少。整个7月中国大陆赴日本共有1195个航班取消，取消率为31.4%。