OpenAI推出的新一代ChatGPT AI代理工具，正悄悄改变你与AI的互动方式。过去，我们习惯让AI回答问题、帮忙整理数据，但现在的AI已经可以帮你写信、安排行程，甚至帮你查网页、自动规划旅行。
近几周来，各种大型语言模型的升级和跑分已经不再流行，讨论AI聊天机器人本身不再新鲜，而是把重点转向在讨论如何利用AI提升效率。其中，“AI代理”正是各家巨头奋力争夺的下一个山头。
与此同时，NVIDIA创始人黄仁勋宣称“天天都在用”的AI搜索工具Perplexity，也早就推出帮助人们进行假日购物的AI代理；Google、OpenAI也纷纷拿出对应的产品。
这样的“主动式AI”，正在成为企业与个人生活的数字帮手。然而，这样的便利也伴随着潜在的安全风险。趋势科技近日发布报告，点出四大AI代理带来的新型风险，其中最令人担忧的，就是AI被黑客当成入侵用户生活的“跳板”。
AI代理可以集成你的行程表、信箱、工作文件甚至企业内部系统，一旦某一个环节被攻击者渗透，等同打开整个数字生活的后门。
过去，我们的数字资产通常分散在不同平台上，黑客若要访问多个系统，必须个别破解、渗透，每一层都可能遇到验证防线。但现在，AI代理的“一站式集成”功能，将这些原本独立的系统与账号集中管理，极大提升了效率，也大幅压缩了攻击者所需突破的障碍。
这样的架构代表只要AI本身遭受渗透或操控，攻击者便能横向渗透用户所有已授权的系统。举例来说，AI若被误导进入一个嵌有提示词注入攻击的网站，它可能会自动读取错误资讯并回传给企业内部应用，造成错误决策；又或是AI自主执行删除、发送或下单操作，影响将远超出单一应用的范围。
更令人担忧的是，这些集成往往是在用户毫无意识下持续进行。AI代理能即时访问并处理资讯，但用户未必得知AI目前正在对哪些账号或平台执行哪些任务，导致风险侦测困难。当所有资讯出入口集中于AI身上，它也自然成为黑客眼中最具价值、且风险扩散效应最强的破口。例如，攻击者可能通过提示词注入（Prompt Injection）的手法，在你不知情的情况下让AI代理执行某些指令，例如发送敏感数据、修改设置，甚至误导你做出错误决策。这些风险在新型AI工具日益被信任的情况下，显得更加难以发现。AI作为代表用户行动的系统，具备高度的影响力，一旦被操控，所造成的损害范围远大于传统的计算机病毒或钓鱼邮件攻击。
此外，新的AI代理可在极少人为监督下运行，这也代表了资讯安全责任从用户手中转移到了AI工具本身。然而，目前市面上的AI并未具备完善的风险预测或风控能力，使得许多行为仍需依赖企业自身的防护设计与流程。
趋势科技在报告中提出几点建议，协助企业应对AI代理带来的风险：
严格限制AI访问各项账号的权限
避免将AI完全自动化于高风险流程中
加入人类监控环节，定期检查任务执行情况
教育内部员工了解AI自主性与潜在风险
对一般用户来说，理解AI工具的“边界”至关重要。比方说，别让AI访问银行账号、健康资讯、私密联系人等高敏感数据；若非必要，也不应让AI拥有可下单、可删除或可转发的权限。企业则应更进一步设计AI访问流程，区分各种角色权限，并采用异常行为监控系统来预防问题。
最终牛股堂，AI工具的普及无可避免，但“信任不能无条件”，这才是迈入自主AI时代的基本安全准则。
红腾网配资提示：文章来自网络，不代表本站观点。
相关文章
沪深京指数
热点资讯
