AI Agent新闻资料

简

ADVERTISEMENT

ADVERTISEMENT

e潮

【多点AI】当AI开始自己动手：AI Agent治理的操作蓝图

AI Agent的时代已经来临，而治理不再是“要不要”的问题，而是“怎样动手”的问题。最近与不同的AI公司交流时，我发现一个明显的趋势：大家都在谈“智能体”（AI Agent）。在中国，这已经是一个炙手可热的话题，各种创业与产品都围绕着智能体展开。这意味着一个关键的转折点——AI不再只是生成图片、撰写文章的辅助工具，而是开始“代替我们做事”，直接介入工作与生活流程。这样的变化一方面令人兴奋，因为AI Agent的确能帮人节省大量时间、提高效率；但另一方面也令人忧虑，因为一旦AI能够自主行动，它带来的风险与治理挑战就不再是理论，而是实实在在的迫切问题。最近发布的《Preparing for AI Agent Governance》报告，正是针对这一点提出具体的研究与政策操作蓝图，焦点不在于宏大的伦理争论，而是如何在不确定的环境下，逐步建立有效的制度工具。沙盒与测试平台：治理的第一步报告提出的第一个重点是“不要急于立法，而要急于准备”。准备的核心，就是沙盒（sandbox）与测试平台（testbeds）。沙盒的作用，是在可控环境内允许AI Agent运行，并由监管者与研究人员观察其行为。这种设计让社会可以低风险地获取证据：哪些风险能靠市场自然纠正，哪些则需要政策介入。举例来说，如果要测试AI报税Agent，就可以先在沙盒中让它与传统流程并行，比较两者的准确度与合规性。这样，错误不会直接影响现实，但政府能在部署前看清问题所在。这种“边做边看”的方式，比起等到全面落地后才亡羊补牢，更能减少制度上的被动。透明度与监察：黑箱是最大隐患沙盒提供了试验场，但治理不能只停留在前期。报告强调，AI Agent一旦进入社会，必须具备透明度与监察机制。这包括3个层面： ·完整日志（Logs）：每一次操作都要留下可追溯纪录。 ·即时监控（Monitoring）：在运行过程中监测异常行为，例如短时间内提交大量可疑指令。 ·事故回报（Incident Reporting）：一旦出错，必须有义务向外界通报，而不是隐藏。没有这些机制，AI Agent就只是一个“黑箱”，无法真正被问责。治理的重点因此不只是“看结果”，而是“看过程”。基建与标准：Agent ID与紧急刹车报告提出另一个核心概念：为AI Agent建立基础设施。其中最具代表性的就是“Agent ID”。每一个AI Agent都应该有身分标识，清楚记录它的开发者、功能范围以及认证状态。这样能避免出现来源不明、责任难以追究的“黑户Agent”。同时，还需要技术性的保护措施： ·紧急刹车（Circuit Breaker）：当Agent出现大规模错误行为时，能即时中断。 ·回滚机制（Rollback）：在出现错误后能撤销影响，防止灾难性扩散。 ·标准化接口（APIs）：确保不同Agent之间、以及Agent与现有系统之间能安全互通。这些安排有点像交通规则：没有红绿灯、车牌与刹车装置，车子再先进也只会带来混乱与危险。认证与审计：AI Agent也要有“执照” 另一个操作重点，是为AI Agent引入类似会计师、律师的专业认证与审计制度。不同级别的Agent应该对应不同层级的执照：初级Agent只能处理简单、低风险任务；高阶Agent才被允许进入涉及金融、医疗等高风险领域。同时，这些Agent应该接受第三方独立审计，并公开其表现纪录，例如准确度、出错率。这样既能防止滥用，也能建立社会信任。这种制度不是要拖慢创新，而是要让创新在可控的轨道内前进。政府杠杆：供需两端的推动报告提醒，治理不只是“限制”，还包括“推动”。政策可以从供需两端发力： ·需求端：例如提供补贴或税务优惠，鼓励使用经认证的AI Agent。 ·供应端：支持开发者，例如开放数据集、资助研究，帮助降低开发门槛。这种操作能避免AI Agent只成为少数大型企业的专利，而是能普及到更广泛的应用场景。国际协调：避免治理碎片化 AI Agent天然具有跨境属性。例如，一个跨国公司的Agent可能同时处理美国、欧盟和其他地区的规则。如果各地要求互不兼容，结果就是合规成本暴增。因此，报告强调国际协调的重要性。至少在透明度、认证和安全标准上，需要有一定程度的互认，避免碎片化，否则最终受害的是开发者与用户。治理要从操作开始这份研究报告最大的价值在于，它提供了一套清晰的操作蓝图：沙盒试验、透明监控、身分认证、专业审计，再加上政策杠杆与国际协调。这些不是抽象的讨论，而是可以立即启动的制度设计。 AI Agent的时代已经来临，而治理不再是“要不要”的问题，而是“怎样动手”的问题。当AI开始真正替人类“自己动手”时，社会必须同步建立能够问责与保护的基础设施。更多文章：【多点AI】AI 2027：当代理人成为我的日常基建【多点AI】全自动程式设计：程式员会消失吗？

3星期前

e潮

即时国际

AI新星Manus崛起！海外版开放注册中文版再等等

中国通用型AI代理（AI Agent）Manus近日宣布对用户开放注册，所有新注册者将一次性获得1000积分奖励，且能每日获得300免费任务积分。Manus同时推出多种阅读方案，月费分别是19美元、39美元和199美元，提供更高访问权限、专属功能和优先服务。不过，Manus中文版目前还在开放中，由阿里通义千问提供模型支持。

7月前

即时国际