由前OpenAI高管创立的人工智能初创公司Anthropic推出了新的大型语言模型Claude 2。
在美国和英国作为网络测试版提供，并通过付费API，新模型与其前身相比具有更高的性能和容量。
Claude 2是Claude 1.3的演变，能够搜索文档，总结内容，写作，编码和回答问题。它类似于ChatGPT等其他LLM，但接受附件，使用户能够上传文件，并让AI分析和使用它们。
Claude 2在几个方面表现优于1.3。例如，它在各种考试中得分较高，包括律师律师资格考试和美国医疗执照考试的多项选择题。它在数学和编码问题上的表现也超过了它的前身，包括Codex Human Level Python编码测试。
Anthropic的上市负责人Sandy Banerjee详细阐述了这些改进，“我们一直在努力改进模型的推理和自我意识，所以它更清楚，‘这是我喜欢遵循指令的方式’，‘我能够处理多步指令’，也更清楚它的局限性。
Claude 2的训练数据由网站、来自第三方的许可数据集和2023年初的用户数据汇编而成，比Claude 1.3的数据更新。然而，这些模型最终是相似的—Banerjee承认Claude 2是Claude 1.3的优化版本。
像其他LLM一样，Claude远非绝对正确。 TechCrunch表示 人工智能被操纵为不存在的化学品发明名称，并为生产武器级铀提供可疑的指令，等等。然而，Anthropic声称Claude 2在提供“无害”响应方面比其前身“好2倍”。
Banerjee说，“[我们的]内部红色团队评估根据非常大的一组具有代表性的有害对手提示对我们的模型进行评分，”“我们通过自动测试和手动检查相结合的方式来完成这项工作。”这对Anthropic来说很重要，因为模特的中立个性是公司营销努力的核心。
Anthropic使用了一种特殊的技术，称为”宪法AI它为克劳德2这样的模型注入了由“宪法”定义的特定价值观。目的是使模型的行为更容易理解和根据需要调整。
Anthropic的愿景是创建一个“下一代人工智能自学算法”，Claude 2只是朝着这个目标迈出的一步。
Banerjee总结道：“我们仍在努力改进我们的方法。”“当我们这样做时，我们需要确保模型最终像前一次迭代一样无害和有用。”
克劳德是什么？
克劳德是一款人工智能助手，由谷歌支持的Anthropic开发，该公司是一家由几名前OpenAI研究人员组成的初创公司。它的设计是“有益的、诚实的、无害的”，可以通过聊天界面和API访问。
Claude可以协助完成广泛的任务，包括总结、创造性和协作写作、问答和编码。
有几家公司已经实现了Claude，包括Notion、Quora和DuckDuckGo。它已被用于改进Quora的AI Chat应用程序Poe，并集成到生产力应用程序Notion中。
其他合作伙伴包括Robin AI，一家法律公司，使用Claude理解和重新起草复杂的法律文本，以及Assembly，它使用Claude转录和理解大规模音频数据。
与ChatGPT等竞争对手相比，Claude处理文件的能力可能更适合一些基于工作效率的用途。
美国和英国的用户可以通过试用Web Beta来判断这一点。
