NVIDIA开源软件可协助开发人员在AI聊天机器人上增加护栏
- 范菩盈／台北
-
最新发布的开源软件可以协助开发人员引导生成式AI应用程序创建令人印象深刻的文字回应，并使其保持在正轨上。
NeMo Guardrails将有助于确保由大型语言模型（LLMs）所驱动的智能应用程序能够准确、适当、切题且安全。该软件包括企业需要的所有代码、范例和文档，为企业用于产生文字的AI应用程序增加安全性。
现今很多产业都在采用大型语言模型（ LLMs），它是这些AI 应用程序背后的强大引擎。 他们回答客户的问题，总结冗长的文件，甚至编写软件和加速药物设计。
NeMo Guardrails 旨在协助使用者保护这个新类型人工智能应用程序的安全。
强大的模型，坚固的护栏
生成式人工智能的安全是整个产业关注的重点，NVIDIA设计了NeMo Guardrails可适用于所有大型语言模型（ LLMs）一起使用，像是 Open AI的ChatGPT。该软件可让开发人员校准以大型语言模型驱动的应用程序，使其安全并维持在一个公司专业领域范围内。
NeMo Guardrails 可以让开发人员建立三种限制：
第一，主题安全护栏可以避免应用程序偏离到不想要的领域。例如，它们可以防止客户服务助理回答关于天气的问题。第二，安全护栏确保应用程序回覆准确、适当的信息。它们可以过滤不必要的语言，并强制要求只引用可信的来源。第三，保全护栏限制应用程序仅与已知为安全的外部连结建立连接。
即使不是机器学习专家或数据科学家，几乎每个软件开发人员都可以使用NeMo Guardrails，以几行程序码快速建立新规则。
驾驭熟悉的工具
由于NeMo Guardrails是开放原始码的，因此它可以与企业应用程序开发人员使用的所有工具配合使用。例如，它可以在LangChain上运行，LangChain是一个开放原始码工具包，开发人员正在快速采用它，将第三方应用程序与大型语言模型的强大功能整合。
「使用者可以轻松地将NeMo Guardrails加入LangChain工作流程，快速为他们的 AI 应用程序建立安全限制。」LangChain工具包创造者Harrison Chase说道，他也以此命名其新创公司。此外，NeMo Guardrails 是设计能够广泛的与以大型语言模型驱动的应用程序协作，像是Zapier。Zapier这个自动化平台已有超过220万家企业使用，可直接展现用户如何将人工智能融入到他们的工作中。
Zapier AI首席产品经理Reid Robinson表示：「安全、保障和信任是负责任 AI 开发的基石，我们对NVIDIA 将这些护栏嵌入AI系统的积极方法感到兴奋。我们期待未来将人工智能作为可靠且值得信赖的一部分所带来的好处。」
NVIDIA以开放原始码的形式提供
NVIDIA正在将NeMo Guardrails整合至NVIDIA NeMo架构中，该架构包括使用者使用公司专有数据集进行语言模型训练和调整所需的一切。NeMo Framework已经在GitHub上以开源形式提供。 企业也可以透过NVIDIA AI Enterprise取得完整的企业支持服务。NeMo也是以服务的方式提供，它是NVIDIA AI Foundations的一部分，它是一系列供企业使用的云端服务，他们可以基于自己的数据集和领域知识来创建和运行定制的生成式人工智能模型。
透过使用NeMo，韩国领先的移动网络营运商打造了一个智能助理，该助理已与其客户进行了800万次对话。瑞典一个研究团队使用 NeMo 创建了可以协助该国医院、政府和企业办公室自动化文本功能的大型语言模型。
与社群一同持续努力
为生成式AI建立良好的护栏是一个艰难的问题，随着AI的演化，需要大量持续不断的研究。NVIDIA经过多年研究发展出NeMo Guardrails，并将其开源，对开发者社群的开发能量和在AI安全方面的工作做出贡献。我们在建立生成式AI护栏上的共同努力将能协助公司将其智能服务符合安全、隐私和保障要求的一致要求，从而使这些创新引擎保持在正轨上。
更多NeMo Guardrails详细信息请参考我们的技术博客。
