人工智能的最新进展和发布 ChatGPT 激发了人们对人工智能作为工具的新兴趣。 代理法学硕士是开发高度专业化的人工智能并防止它们失控的最新尝试。
如今，人工智能成为每个人都在谈论的话题，人们和组织都在争先恐后地实施或使用人工智能来提高效率和利润。 然而，AI 世界中仍然存在一个恼人的问题，随着时间的推移，它变得越来越令人担忧：对齐。
人工智能协调是设计和实施人工智能系统的过程，使它们与人类的目标、价值观和期望的结果保持一致。 换句话说，对齐是为了确保人工智能不会失控。
这是人工智能的一个新兴领域，研究人员和开发人员才刚刚开始普遍意识到其重要性。 人们担心人工智能正在失控，可能会伤害或毁灭人类，这推动了人工智能更好的发展方向。
通过组合分解 AI 任务
实现保持准确性和方向的人工智能工作一致性的一种方法是通过组合——这是软件世界中的一个概念，其中通过将现有组件组合到应用程序或套件中来创建软件。
对齐通常用于训练大型语言模型（LLM）以了解特定知识领域，并在这些模型开始偏离方向时定期重新训练它们。
在人工智能中使用组合的想法是将学习模型分解为子任务，每个任务都专注于一件事。 所有软件都会定期检查每项任务，以确保它正在执行其功能 – 并且仅执行其功能。
通过使用组合将学习任务集中在一件事上，可以通过将子任务和模型与预期目标保持一致来更可靠、更准确地构建人工智能系统。
反射还是反射
教人工智能模型保持目标的一种方法是让它们使用反射——模型或任务定期检查自身，以确保它所跟踪的内容仅与其目标相匹配。 如果模型或任务偏离主题，软件可以定期重新调整任务以确保其保持重点。
任务驱动的自主代理
由于对齐的最终目标是准确性和边界执行，而组合是实现此目的的好方法，因此最终目标是开发代理系统。 每个代理都成为特定主题的领域专家。
代理化法学硕士和其他通用人工智能代理已经在开发中，在某些情况下已经发布，并且围绕该主题正在形成一个完整的人工智能代理生态系统。
人工智能研究人员 中岛阳平 发表了一篇关于他的文章 博客的标题 “任务驱动的自主代理的使用 GPT-4、松果和浪链的多样化应用”。
浪链 是一组 AI 工具和代理，可帮助开发人员通过可组合性构建代理化的 LLM。
中岛也有一个 博客条目 题为“自治代理的崛起”。 Nakajima 的文章展示了代理化 LLM 系统如何工作的图表：
AI代理操作系统
e2b.dev 发布了 EB2，它将其描述为“人工智能代理的操作系统”。 Eb2.dev 还在 GitHub 上发布了“Awesome AI Agents”列表。 还有一个很棒的 AI 代理 SDK 存储库。
未来，我们可以设想人工智能系统可以通过简单地改变选择的代理和法学硕士来进行修改，直到达到预期的结果。 人工智能代理操作系统可能会出现来为我们完成这些任务。
其他资源
除了上述资源外，还可以查看 AI 工具中心 – 特别是“AI 对齐简介：让 AI 为人类服务”和“AI 对齐的重要性”，分 5 点进行解释 人工智能联盟论坛。
还有一篇关于 AI 对齐的很好的介绍性论文，名为“理解 AI 对齐研究：系统分析”，作者为 Jan H. Kirchner、Logan Smith、Jacques Thibodeau 等人。
另一个有趣的基于网络的人工智能代理公司是 科诺系统公司。
我们必须等待，看看人工智能的未来和方向，但工作已经在顺利进行，试图减轻人工智能随着时间的推移可能带来的一些风险和潜在的负面影响。
