人工智能代理正迅速从令人印象深刻的演示发展成为能够代表用户执行操作的真正工具，而 OpenClaw 正是引领最新一波关注浪潮的代表之一。您可能听说过这款软件曾被称为 Clawdbot 和 Moltbot，这些名称均由其创建者、奥地利开发者 Peter Steinberger 在不同的开发阶段使用。
OpenClaw 被宣传为一款无需用户手动操作的个人助理，可以代您运行软件，但同时也引发了关于访问权限和安全性的重要问题。
- 人工智能代理是能够执行操作的人工智能系统，而不仅仅是对话工具。
- 像 OpenClaw 这样的工具展现了自托管人工智能代理的强大功能。
- 然而，当代理处理不受信任的输入时，这种强大的功能也带来了新的安全风险。
- 提示注入是人工智能代理面临的主要威胁，甚至比聊天机器人更为严重。
- 持久记忆会放大错误并延长攻击时间。
- 人工智能代理功能强大，但对于大多数消费者而言，它并非安全的默认选择。
OpenClaw 为何如此受关注？
OpenClaw 之所以备受瞩目，是因为它代表着人工智能的发展方向发生了转变：从回答问题的人工智能转向能够在真实系统上主动执行任务甚至使用软件的人工智能。潜在的安全问题也意味着安全圈内对 OpenClaw 的讨论越来越多。OpenClaw 对开发者和高级用户究竟有何吸引力？
OpenClaw之所以脱颖而出，是因为它能够执行实际操作，而不仅仅是生成文本或建议。它不会告诉你该做什么，而是能够自主完成。这项技术可以代表你打开应用程序、发送消息、移动文件、运行命令并与系统直接交互。
正是这种自动化程度吸引了人们的关注。开发者和高级用户将系统级控制视为减少重复性工作或自动化工作流程的一种途径。能够“完成任务”而非仅仅在一旁提供辅助的AI代理，这一理念极具吸引力。
正是这种强大的实际操作能力，使得OpenClaw迅速从一个利基项目发展成为更广泛的讨论焦点。
OpenClaw的意义远不止于此
它清晰地展现了AI代理正在向真正行动而非仅仅做出回应和提供建议的方向转变。
随着这类技术的不断发展，关于潜在滥用的疑问也变得不可避免。OpenClaw展示了AI的发展方向。这使得它的意义远远超出了单个项目，并为关于如何控制这些代理的持续讨论奠定了基础。它们值得信任吗？
什么是 AI 智能体？它们与其他 AI 工具有何不同？
AI 智能体不仅仅是提供文本或语音答案的系统。它们可以主动规划步骤并执行操作以实现目标。它们不会仅仅提供建议，而是会决定下一步该做什么并执行。
人工智能代理可以观察情况并采取行动。这与大多数人工智能工具不同，后者通常响应提示，但会等待下一个指令。早期的例子包括像 Manus（现已被 Meta 收购）这样的任务运行代理。Manus 展示了代理如何超越简单的聊天，真正采取行动。它可以提供数据分析，甚至可以主动编写代码来解决问题，而无需明确询问该做什么。这意味着更少的人工干预。
OpenClaw 基于这种能够执行任务的人工智能理念，但以更直接、更强大的方式应用了它。
OpenClaw 是典型的人工智能代理，还是更高级的？
OpenClaw 属于人工智能代理的范畴。它提供的实现比大多数人现在熟悉的许多工具更强大。
这款人工智能工具可以规划任务并在无需持续输入的情况下采取行动。OpenClaw 可以直接与软件和操作系统交互，而不仅仅是 API 或有限的工具。这种更广泛的访问权限提高了它的实用性，使其脱颖而出。这也提高了安全性的重要性。
为什么自托管人工智能代理有所不同
自托管人工智能代理在您自己的系统本地运行，而不是在远程服务上运行。这赋予用户对配置和行为等方面的更多控制权，同时也转移了责任。
当代理拥有本地访问权限时，安全性取决于其设置方式、权限以及监控方式。控制权越大，风险也越大。
最近的项目表明，“自托管”AI代理的概念正在发生转变。例如，Moltbot（原名Clawdbot）现在可以在Cloudflare的开源Moltworker上运行。这完全消除了对专用本地硬件的需求，因为代理运行在托管平台上。
这降低了条目门槛，简化了设置，但也改变了控制权的归属。当代理运行在云基础设施上时，安全性不仅取决于代理本身，还取决于访问控制以及平台如何处理数据和权限等因素。
例如，用户可能将AI代理连接到他们的电子邮件，并期望它只读取邮件，但云设置也允许它发送电子邮件，除非用户明确关闭该权限。
AI代理与ChatGPT等聊天机器人有何不同？
ChatGPT等聊天机器人是响应式的，而AI代理是执行式的。
聊天机器人可以提供建议或解释。AI代理可以主动打开程序或执行工作流程。
例如，有些人使用OpenClaw来实现交易自动化。他们制定了规则，并要求人工智能不仅提供建议（ChatGPT 可以做到这一点），还要实际执行交易。
为什么人工智能代理会带来新的安全风险？
正如之前讨论过的，人工智能代理会采取行动，而不仅仅是提供建议。这通常意味着需要访问文件、应用程序或系统功能。
OpenClaw 被赋予的系统访问权限和自主权改变了其影响和风险。OpenClaw 会请求权限与软件交互，或执行诸如发送电子邮件或填写表单等操作，而无需您的监督。这使其成为一个难以预测的因素。
错误或操纵可能会造成实际后果。风险不仅在于智能体被告知要做什么，还在于它在执行任务时会如何解读指令。
不受信任的输入为何是一个核心问题
人工智能智能体会消耗大量外部内容（例如网页和文档）来决定下一步行动。这些内容并非总是可靠的。
指令不必是直接的。它们可以隐藏在智能体执行任务时读取的文本或数据中。这使得攻击者无需直接与智能体交互即可影响其行为。
这个问题为提示注入提供了明确的途径。提示注入是指利用不受信任的输入来引导智能体执行其原本不应执行的操作。
什么是人工智能代理中的提示注入？
提示注入是一种通过向人工智能代理输入不受信任的内容来操纵其行为的方法。
风险并非源于代码的技术缺陷，而是智能体可能将外部输入（例如即时消息或评论）视为指令。一旦发生这种情况，智能体就可能被引导执行其原本不应执行的操作。
提示注入在实际场景中的运作方式
提示注入可以是直接的，也可以是间接的。
- 直接注入是指攻击者故意在智能体读取的内容中嵌入指令。
- 间接注入是指智能体在执行正常任务时，从其处理的网站或消息中获取隐藏的或意外的指令。
关键在于行为。智能体可能会遵循其解读为指导的内容，即使这些指导来自不可信的来源。这种情况的发生并不需要软件漏洞。
为什么提示注入对人工智能智能体比对聊天机器人更危险
注入的指令通常会影响聊天机器人的回复和建议。而对于人工智能智能体来说，它们会影响其行为。
如果智能体拥有文件或系统控制权限，被篡改的指令可能会导致现实世界的改变。这就是为什么提示注入对智能体构成更大风险的原因。同样的技术，在聊天机器人中篡改文本输出，在智能体参与时也可能触发意外行为。
人工智能代理中的持久记忆是什么？
持久记忆使人工智能代理能够长期保留信息。这意味着它可以利用过去的输入来指导未来的决策，而无需每次都从头开始。
持久记忆对人工智能代理意味着什么
人工智能代理可以跨会话存储上下文和指令，并发展出偏好的“行为”。这有助于代理记住之前学习或执行过的内容，从而提高工作效率。
这也意味着早期的输入会影响后续的行为。即使用户不再意识到，先前任务中获取的指令或假设仍然会影响代理在不同情况下的行为。
持久记忆为何会增加安全风险
持久记忆会引入延迟效应。有害指令可能不会立即造成问题，但会在条件合适时再次出现。
这使得清理工作更加困难。存储的行为可能会在不同的任务中重复出现。要完全恢复代理，通常需要清除内存或重建配置，以确保消除不需要的影响。
当人工智能代理配置错误或暴露时会发生什么？
人工智能代理可能会以所有者从未预料到的方式被访问或影响，从而将一个有用的工具变成潜在的安全风险。
这种情况可能由于意外或误解而发生。如果第三方试图操纵代理，也可能发生这种情况。
人工智能代理如何意外暴露
暴露通常是由于简单的错误造成的。像身份验证不足或权限过宽这样简单的问题都可能导致代理程序可以从其预期环境之外访问。
在本地运行代理程序并不能自动确保其安全性。如果它连接到互联网或与其他系统交互，则可能受到影响。本地控制可以降低部分风险。
为什么暴露的 AI 代理程序会成为攻击面
一旦暴露，AI 代理程序就成为攻击者可以探测、测试和操纵的对象。他们可能会尝试向其输入精心设计的指令、触发操作或了解其随时间推移的行为。
由于代理程序可以执行实际操作，因此滥用行为不一定看起来像传统的黑客攻击。滥用可能包括控制行为、提取数据或导致系统发生意外更改，所有这些都无需利用经典的软件漏洞。
AI 代理程序安全中的“致命三要素”是什么？
致命三要素”指的是三个共同构成 AI 代理程序严重安全风险的条件。
这三个条件会导致严重的攻击
- 第一个条件是访问敏感数据，例如文件、凭证或内部信息。
- 第二个条件是输入不可信的信息，这意味着代理程序会使用它无法完全验证的内容。
- 第三个条件是能够执行外部操作，例如发送请求、修改系统或执行命令。
单独来看，这些因素都是可以控制的。当这三者形成组合时，它们就非常危险。一个能够读取不可信输入并据此采取行动的智能体，为操纵提供了清晰的途径。控制智能体可以执行哪些操作至关重要。
如今，普通用户应该运行人工智能智能体吗？
对大多数人来说，人工智能代理仍然是实验性工具。在合适的设置下，它们可能很有用。缺点是什么？它们也会带来一些并不总是显而易见的新风险。
何时使用人工智能代理有意义
人工智能代理在可控且低风险的场景下是有意义的。这包括在单独的设备上进行实验。有些人尝试运行仅处理非敏感任务的代理，例如整理文件或测试工作流程。
假设您想使用代理为即将到来的旅行创建行程。它可以访问相关信息来完成此操作，但会被阻止直接联系他人或进行任何过于危险的操作。
如果您能够轻松管理设置，并且所犯的错误不会造成“重大损失”，那么代理可以成为一种学习工具。关键在于控制范围并严格限制访问权限。
何时不适合使用人工智能代理
当人工智能代理可以访问敏感数据或重要帐户时，它们就不合适了。在不了解权限或外部输入风险的情况下运行代理会迅速增加风险。
选择退出也是可以的。如果便利性是以牺牲安全或安心为代价，那么今天选择不运行人工智能代理是一个合理的决定。
使用人工智能代理时，哪些基本安全措施至关重要？
基本安全措施有助于降低风险，防止错误演变成严重问题。
卡巴斯基的软件可以通过标记可疑行为并帮助保护帐户免受入侵，从而增加一层额外的保护。我们的计划 阻止一切恶意软件、病毒、勒索软件和间谍软件的攻击。
哪些安全措施最为重要
隔离是关键。尽可能在单独的设备和账户上运行代理，以免影响重要数据或系统。将权限限制在代理真正需要的范围内。我们建议您避免默认授予代理完整的系统或账户访问权限。
审批步骤也至关重要。在执行敏感操作前要求确认，可以避免出现意外行为，例如代理代表您消费。这些简单的控制措施效果显著，且不会增加太多复杂性。
人工智能代理对消费者人工智能的未来意味着什么？
人工智能代理预示着未来人工智能工具的功能将不再局限于辅助，而是会主动采取行动。但这种转变也伴随着一些权衡取舍，消费者才刚刚开始探索这些取舍。
目前的情况告诉我们人工智能代理的成熟度如何
人工智能代理功能强大，但尚不成熟。它们可以自动执行任务，但在判断和安全方面仍然存在一些问题。这并不意味着代理不会变得更安全或更可靠，而是意味着我们应该保持合理的预期。
人工智能代理展示了未来的发展方向，但要实现广泛的日常应用，需要更完善的安全保障措施和从一开始就以安全为首要考虑的工具。
相关文章：
相关产品：
常见问题
OpenClaw可以免费下载吗？
OpenClaw可以从GitHub免费下载。它是开源软件，这意味着人们可以更自由地修改和重新分发该软件。
OpenClaw容易设置吗？
虽然有一些教程可以帮助用户快速运行机器人，但复杂的设置需要时间和专业知识。因此，运行可能未正确设置的软件风险更大。
