TrustedAgent

中山大学可信智能体研究团队

智能体(Agent)

AI智能体(AI Agent)是一类能够自主感知环境、自主制定决策与规划,并可以自主执行一系列任务以实现预设目标的智能系统。

感知与搜索

执行与呈现

决策与规划

智能体基本框架

Memory

为处理长期和复杂任务,Agent具备记忆能力

Planning

将目标分解为一系列清晰、可执行的小目标

Tools

调用工具,与Chatbot的“最大”的区别

行业智能体问题

可靠与鲁棒性不足

能力边界不清晰
存在各种幻觉问题

自主规划能力弱

复杂约束下规划弱
动态场景下规划弱

决策过程缺乏解释

决策过程不可追溯
生成结果难以解释

系统安全防护脆弱

数据安全与越狱攻防
软件漏洞检测与分析

合规与偏见存隐患

隐私与版权风险突出
模型偏见难消除

行业智能体解决方案

中台:智能中枢

从能力复用转向智能决策,Agent的“大脑”与“神经系统”

后台:智能支持

从资源支撑转向数据驱动,提供各类工具和支持服务

前台:智能交互

从主动响应到自主服务,Agent 成为交互的核心

支撑技术

数据治理

建立数据集选型评估与价值评分体系,识别版权风险与投毒数据,从源头挖掘高价值语料,提升微调效率

领域微调

针对大模型幻觉、社会偏见与文本毒性,提供 Prompt 拦截、参数微调及 Agent 自我进化工具。

模型评测

联合权威机构,匹配安全治理框架 2.0。涵盖内容安全、隐私保护、版权合规及跨文化小语种检测,出具权威“体检报告”。

推理加速

基于网算存一体协同优化的大模型训练/推理加速

关于我们

中山大学可信智能体研究团队

滚动至顶部