近期，AI Agent正在从“辅助人完成任务”，走向更具自主性的工作模式。
Deloitte今年8月发布的一项调查显示，未来四年，74%的受访企业领导者预计近一半业务流程将围绕AI Agent重新设计，61%的受访者预计企业使用的多数AI Agent将具备较高程度的自主性。与此同时，75%的受访者认为，人与AI Agent协作创造的价值高于单纯依赖AI自动化。
这组数据背后，是AI正在发生的一次重要变化：AI正在从“生成内容”，走向“执
行任务”。过去，我们习惯让AI写一封邮件、总结一份报告、生成一张图片；而现在，AI Agent开始进一步调用工具、连接系统、完成多步骤工作流，并在一定范围内自主决定下一步应该做什么。
Google Cloud近期发布的AI基础设施报告也指出，AI Agent与传统AI工具的重要区别之一，在于它们不只是获取信息，还能够访问数据、调用API并采取行动。
这意味着，AI能力的边界正在发生变化。
当AI只是“回答问题”时，人依然是明确的执行主体。AI给出答案之后，人来判断、选择，再完成下一步行动。
但当AI开始真正“做事情”，情况就不一样了。
它可以调用什么工具？可以访问哪些数据？可以替用户完成哪些操作？当任务需要连续执行多个步骤时，AI能自主决定到什么程度？如果AI的行动超出了预期，又应该由谁介入？
这些问题正在让AI治理从一个相对后台的技术议题，逐渐走向AI产业发展的前台。
而且，这已经不是某一家企业单独面对的问题。AI治理涉及技术、产品、法律、伦理以及用户权益等多个层面，需要平台、企业、学界、监管机构以及整个社会共同参与，逐渐形成与AI发展相匹配的规则和共识。
对于长期探索AI与真实社交场景融合的Soul App而言，这同样是一个无法回避的问题。
因为当AI越来越深入人与人的真实互动，它面对的就不只是“能不能完成一项任务”，还需要回答：应该怎么做、做到什么程度，以及谁来负责。
一、从“AI生成什么”到“AI做什么”，AI治理正在进入新阶段
AI Agent的出现，首先改变的是AI治理所面对的对象。
过去，AI治理更多围绕几个典型问题展开：AI生成的信息是否准确，AI生成的图片、文本、视频是否合规，用户隐私和数据是否得到保护，以及AI是否产生有害或违规内容。
这些问题虽然复杂，但有一个共同点：治理对象主要是AI的“输出结果”。
也就是说，我们通常是在AI已经生成内容之后，再去判断这段文字有没有问题、这张图片是否合规、这段视频是否存在风险。
但AI Agent出现以后，情况开始发生变化。
当一个AI系统能够理解目标、拆解任务、调用工具、访问数据并连续执行多个步骤时，真正需要治理的就不再只是“最后生成了什么”，而是整个行动过程。
换句话说，治理对象正在从单一模型扩展为模型+数据+工具+权限+行为+人类监督。
这也是Agentic AI与传统生成式AI的重要区别之一。生成式AI更多是在响应用户的指令，而Agent则进一步拥有了“行动”的能力。它可能根据一个目标自行拆解任务，选择调用不同的工具，获取新的信息，再根据结果决定下一步。
一旦AI拥有了这种能力，治理就不能只盯着最终结果。企业需要进一步回答三个基础问题：
谁赋予AI行动权限？
AI能够行动到什么程度？
当AI的行动超出预期时，谁能够及时介入？
这也是为什么，近期围绕AI Agent的讨论开始越来越多地从“能力”转向“治理”。Gartner今年5月的相关讨论就指出，不同AI Agent的自主程度和权限范围存在差异，如果采用“一刀切”的治理方式，反而可能导致治理失效。
这背后其实涉及一个很重要的治理逻辑：AI的自主性不是一个简单的“有”或者“没有”，而是存在不同程度。
一个只能按照固定规则执行单一步骤的AI，与一个能够自主拆解任务、调用多个工具并连续完成复杂工作的Agent，其风险显然不同。相应的权限、监督方式和人工介入机制，也不应该完全一样。
因此，AI治理的下一阶段，不只是管理AI生成的内容，更是管理AI行动的边界。当AI真正进入工作和生活，安全、透明、可控也将成为越来越重要的三个关键词。
二、从技术创新到治理前置，Soul App正在建立自己的AI责任体系
从“生成”走向“行动”，意味着AI与真实世界的连接正在越来越紧密。
对于Soul App而言，这种变化尤其值得关注。如今的Soul 正在从单一的社交应用，进一步向专注于情绪感知与交互、模型与应用一体化的AI生态公司发展。
围绕情绪感知、语音交互、多模态理解和实时交互等方向，Soul持续推进AI能力建设，并通过自有应用与产业生态，让AI能力进入更加丰富的真实交互场景。
来源：Soul App官网
但技术越深入真实场景，问题也就越复杂。技术能够解决“AI能不能做到”，却并不能自动回答“AI应该做到什么程度”。
因此，今年6月23日，Soul App成立人工智能伦理与治理委员会。委员会由公司AI、产品、法务等相关负责人参与，同时邀请互联网治理、伦理学、社会学、青少年研究、法律等领域专家担任外部委员。委员会围绕AI伦理规范、技术应用边界、用户权益保护、风险评估以及伦理事件闭环管理等方向开展工作。
从组织形式来看，这并不是单纯增加一个负责“处理风险”的部门。更重要的变化在于，Soul App尝试把AI治理前置到技术创新和产品应用过程中。
过去，治理往往容易被理解为产品上线之后的风险处理：发现问题、判断风险、进行处置。
但对于AI而言，如果等到产品已经大规模进入真实场景之后再考虑治理，很多边界可能已经被实际使用方式重新定义。
因此，治理本身也需要进入技术和产品创新的过程。尤其对于一个模型与应用一体化的AI企业而言，技术、产品与治理本身就很难被完全拆开。
AI能力决定产品能够走多远，而治理能力则决定这些能力能否真正进入真实世界。
这也使Soul App的AI治理不只是对某个具体功能进行限制，而是试图建立覆盖技术、产品和应用的责任体系。
如果说AI能力决定了技术可以走多远，那么治理能力决定了这项技术能否真正进入真实世界。
三、AI也可以“治理AI”，Soul App如何应对社交场景中的新型风险？
AI Agent让AI从“生成”走向“行动”，而当这种能力进入真实社交场景之后，风险同样不再只是“一条内容是否违规”这样的问题。
例如，AI生成图片可能被用于伪造身份；AI生成文本可能被用于包装虚假人设；AI生成语音可能被用于伪造身份或实施欺诈。更进一步，一些异常账号甚至可能利用AI模拟正常的社交节奏，通过持续互动逐步建立信任关系。这些问题有一个共同特点：风险越来越隐藏在“行为链路”里。
来源：Soul App公众号
因此，单纯依靠传统的内容审核机制，很难覆盖AI时代更加复杂的风险。
Soul App逐步建立覆盖图片、文本、视频、声纹、用户行为等多个维度的多模态AI风险治理体系，就是在应对这样的变化。这里的重点，不再只是简单判断“一张图片有没有问题”，而是进一步理解：这个账号是谁，它说了什么，做了什么，与谁互动，这些行为之间是否存在异常关联。
例如针对虚假人设，平台不再只是判断一张图片或者一条文本本身是否存在问题，而是综合图片、文本以及互动行为等信息，观察账号整体行为逻辑。
如果一个账号长期通过AI生成的内容塑造某种虚假身份，同时又通过异常的互动方式与其他用户建立联系，那么真正需要识别的就不是某一条内容，而是这一系列行为组合产生的风险。
官方账号@Soul风纪球长 违规案例公示
针对异常互动，也需要进一步结合上下文语义和行为链路，对异常导流、欺诈倾向等风险进行识别。
在这样的治理逻辑下，AI风险治理逐渐从单点检测走向更完整的链路，最终形成输入治理→生成治理→输出治理→风险干预→用户保护的全链路安全体系。这背后的变化其实很明显：治理对象已经从“内容”进一步扩展到了“行为”。
而AI本身也开始成为治理的重要技术手段。
过去，AI更多被视为需要被管理的对象；而今天，随着AI识别、理解和分析能力不断增强，它也能够参与风险发现、异常识别和安全防护。因此，AI正在成为新的风险来源，也正在成为治理AI风险的重要技术手段。
换句话说，未来AI治理未必只是“用规则管AI”，也可能越来越多地变成“用AI治理AI”。
四、AI越深入真实互动，越需要把“边界”说清楚
如果说AI Agent时代需要解决的是“AI可以行动到哪里”，那么进入社交场景后，还需要回答另一个问题：用户是否清楚知道，正在和谁互动？这是社交场景与普通生产力场景之间非常重要的区别。
在办公或者信息处理场景中，用户通常知道自己面对的是AI工具。但在社交场景中，身份、关系、信任和真实体验本身就是互动的一部分。
因此，当AI参与一段社交互动时，用户是否知道AI正在参与，就不再只是一个技术问题，而是关系到真实性和用户权益的问题。
Soul App通过AI虚拟人显著标识、互动界面AI生成提示等方式，让用户能够明确知道自己正在与AI进行互动。
与此同时，通过AI社交时长提醒、《社区公约》AI相关规则更新以及未成年人保护机制，进一步明确AI应用的边界。
Soul App《社区公约》AI相关补充更新
这些具体措施背后，其实仍然指向一个核心原则：人为主体，AI是工具。
AI可以帮助用户表达，可以降低沟通成本，也可以丰富内容创作、促进用户之间建立联系。但AI不应该通过技术手段伪造真实身份、制造虚假关系、混淆AI与真人，更不能以AI互动取代真实的人际连接。
因此，AI治理并不只是“防止AI做坏事”。更重要的是，它需要保障用户的知情权、选择权以及真实的互动体验。
这也解释了为什么AI越深入真实互动，越需要把边界说清楚。当用户知道自己正在与AI互动，他可以根据自己的判断选择是否继续、如何使用；而当AI的身份被刻意隐藏，用户的选择就可能建立在错误的信息之上。
回到AI Agent的发展也是如此。
Agent拥有更强的行动能力之后，透明并不意味着告诉用户“这里有一个AI”就结束了，还需要让用户知道它拥有哪些权限、正在做什么，以及在什么情况下会需要人的介入。
对于社交平台而言，这种边界意识尤其重要，因为技术最终服务的不是一次任务，而是人与人之间的真实连接。
五、从“企业治理”到“行业共治”，AI责任需要更多参与者
AI Agent时代，还有一个越来越明显的变化：AI治理正变成整个产业、社会需要共同面对的问题。
一个AI系统可能同时涉及模型研发、数据、算法、产品设计、权限管理、内容审核、法律责任以及用户权益等多个环节。这些问题之间彼此关联，仅靠单一技术团队，很难完成完整治理。
因此，Soul App邀请来自互联网治理、伦理学、社会学、青少年研究、法律等领域的外部专家加入人工智能伦理与治理委员会。
这背后的意义并不只是增加几个专家，而是希望通过更多元的视角来回答一个越来越现实的问题：当AI进入真实社交之后，什么可以做，什么应该被限制？什么又需要通过行业共识进一步明确？
因为AI带来的影响已经很难被局限在一家企业或者一个产品内部。模型能力的发展，会影响产品形态；产品的使用方式，又可能进一步影响用户行为；而用户行为的变化，则可能反过来推动社会对于AI边界的重新认识。
因此，AI治理需要企业主动承担责任，同时也需要学界、行业、监管机构和用户等不同参与者共同推动。
在Soul App内部，委员会成立后也将根据治理需要成立专项治理小组，推动安全、算法、技术、产品、法务、审核等部门协同，形成技术治理+伦理审查+用户共治+行业协作的治理模式。
这样一来，AI治理就不再只是一个“安全部门的工作”，而逐渐成为覆盖技术、产品、伦理和用户体验的系统性机制。
这也与AI Agent的发展趋势形成呼应。当AI开始拥有越来越强的行动能力，真正需要建立的，不只是更强的模型，更是一套能够约束、监督并解释这些行动的责任体系。
因为AI的行动越自主，人的责任边界就越需要清晰。
结语：AI可以越来越“会做事”，但责任不能越来越模糊
AI正在从“会回答”走向“会行动”。从生成一段文字，到完成一个任务；从提供一个建议，到调用工具执行工作；从单点能力，到多个Agent协同完成复杂流程——AI与真实世界之间的距离正在不断缩短。
而当AI从“提供答案的工具”逐渐变成“参与行动的系统”，AI治理也必须完成一次升级。
过去，我们更多关注AI生成了什么；未来，则需要进一步关注AI做了什么、为什么这样做，以及它在行动过程中拥有怎样的权限。
从持续推进情绪感知与交互技术，到成立人工智能伦理与治理委员会，再到建立覆盖多模态内容、用户行为和互动链路的AI风险治理体系，Soul行动的核心并不是限制AI的发展，而是希望在让AI能力不断向前的同时，责任边界也同步向前。
AI可以不断突破能力边界，但不能突破责任边界。而这或许正是Agent时代AI企业真正需要回答的问题：不仅要让AI越来越会“做事”，更要让它知道什么可以做、做到哪里，以及什么时候应该把决定权交还给人。
当AI真正开始参与现实世界，技术的价值不再只由“能做多少”来衡量。真正成熟的AI，是能力越强，边界越清晰；行动越自主，责任越明确。
（免责声明：此文内容为本网站刊发或转载企业宣传资讯，仅代表作者个人观点，与本网无关。仅供读者参考，并请自行核实相关内容。）