Claude

Claude是Anthropic人工智能公司发布的大型语言模型，拥有高级推理、视觉分析、代码生成、多语言处理、多模态等能力，对标ChatGPT、Gemini等产品。首个模型于 2023 年 3 月发布。2024 年 3 月发布的 Claude 3 还具备图像分析能力。

Constitutional AI 是 Anthropic 开发的一种训练 AI 系统（特别是像 Claude 这样的语言模型）的方法，旨在使 AI 系统无害且有用，同时不依赖于大量的人类反馈。该方法在论文“Constitutional AI: Harmlessness from AI Feedback”中详细介绍，包括两个阶段：监督学习和强化学习。

在监督学习阶段，模型会根据提示生成响应，基于一套指导原则（即“宪法”）对这些响应进行自我批判，然后修改响应。在强化学习阶段，模型会利用 AI 生成的反馈进行训练，其中 AI 会根据宪法原则评估响应。