谷歌发布全新“开放式”AI模型 重点关注安全

谷歌发布了三款新的“开放式”生成式人工智能模型，并称这些模型比大多数模型“更安全”、“更小巧”、“更透明”。这是谷歌 Gemma 2 生成模型系列的新成员，该系列于5月份首次亮相。新模型 Gemma 2 2B、ShieldGemma 和 Gemma Scope 的设计针对略有不同的应用和用例，但都具有安全性的共同点。

Gemma 2 2B 是一个用于生成分析文本的轻量级模型，可在笔记本电脑和边缘设备等多种硬件上运行。至于 ShieldGemma，是一组“安全分类器”，旨在检测仇恨言论、骚扰和色情内容等有害信息。最后，Gemma Scope 允许开发人员“放大” Gemma 2 模型内的特定点，使其内部运作更易于解释。

它们是 Google Gemma 2系列生成模型的补充，该系列于 5 月份首次亮相。新型号 Gemma 2 2B、ShieldGemma 和 Gemma Scope 专为略有不同的应用和用例而设计，但具有共同的安全倾向。

谷歌的Gemma系列模型与Gemini模型的不同之处在于，谷歌不提供Gemini的源代码，而Gemini的源代码用于谷歌自己的产品，也可供开发者使用。相反，Gemma 是 Google 在开发者社区中培养善意的努力，就像Meta 试图对 Llama 所做的那样。

Gemma 2 2B 是一个轻量级模型，用于生成分析文本，可以在笔记本电脑和边缘设备等一系列硬件上运行。它已获得某些研究和商业应用的许可，可以从 Google 的 Vertex AI 模型库、数据科学平台 Kaggle 和 Google 的 AI Studio 工具包等来源下载。

至于 ShieldGemma，它是一个“安全分类器”的集合，试图检测仇恨言论、骚扰和露骨色情内容等毒性内容。 ShieldGemma 构建于 Gemma 2 之上，可用于过滤生成模型的提示以及模型生成的内容。

最后，Gemma Scope 允许开发人员“放大”Gemma 2 模型中的特定点，并使其内部工作原理更易于解释。谷歌在博客文章中是这样描述的：“Gemma Scope 由专门的神经网络组成，可以帮助我们解开 Gemma 2 处理的密集、复杂的信息，将其扩展为更容易分析和理解的形式。通过研究这些扩展视图，研究人员可以获得有关 Gemma 2 如何识别模式、处理信息并最终做出预测的宝贵见解。”

如果想详细了解，可以点开视频下方的链接。
谢谢观看本视频。要是喜欢，请订阅、点赞。谢谢

原文：https://techcrunch.com/2024/07/31/google-releases-new-open-ai-models-with-a-focus-on-safety/

油管：https://youtu.be/qxe8vR2ztG4