Google扩充Gemma开源家族




推出CodeGemma 和 RecurrentGemma模型


CodeGemma:专注于代码完成和代码生成任务,具备出色的数学和逻辑推理能力

RecurrentGemma:是一个为研究实验优化的高效架构,利用循环神经网络和局部注意力来提高内存效率。大


幅降低内存使用、提高吞吐量和推动研究创新。

Google同时还更新了其开源Gemma模型,发布了Gemma1.1。


CodeGemma 是一系列轻量级、最先进的开放模型,采用与创建 Gemini 模型相同的研究和技术构建。


CodeGemma 模型使用与 Gemma 模型系列相同的架构,在超过 5000 亿个主要代码标记上进行训练。因此,CodeGemma 模型在完成和生成任务中实现了最先进的代码性能,同时保持了大规模的强大理解和推理能力。


设置:要完成本教程,您首先需要完成 Gemma 设置中的设置说明。 Gemma 设置说明向您展示如何执行以下


操作:在 kaggle.com 上访问 Gemma。选择具有足够资源的 Colab 运行时来运行 Gemma 2B 模型。

生成并配置 Kaggle 用户名和 API 密钥。完成 Gemma 设置后,请继续下一部分,您将为 Colab 环境设置环境变量。


选择运行时库

要完成本教程,您需要拥有一个具有足够资源的 Colab 运行时来运行 CodeGemma 2B 模型。在这种情况下,您可以使用 T4 GPU:


在 Colab 窗口的右上角,选择 ▾(其他连接选项)。


选择更改运行时类型。

在硬件加速器下,选择 T4 GPU。

配置您的 API 密钥

要使用 Gemma,您必须提供您的 Kaggle 用户名和 Kaggle API 密钥。


要生成 Kaggle API 密钥,请转到 Kaggle 用户个人资料的“帐户”选项卡,然后选择“创建新令牌”。这将触发下载包含您的 API 凭据的 kaggle.json 文件。


在 Colab 中,选择左侧窗格中的 Secrets ,然后添加您的 Kaggle 用户名和 Kaggle API 密钥。将您的用户名存储在名称 KAGGLE_USERNAME 下,并将您的 API 密钥存储在名称 KAGGLE_KEY 下。


本教程引导您使用 CodeGemma 完成各种编码任务。要了解有关 CodeGemma 的更多信息:

有关 CodeGemma 型号的技术规格,请参阅 CodeGemma 型号卡。

在此处了解有关如何在 VertexAI 中使用 CodeGemma 的更多信息。

查看 Keras CodeGemma 快速入门。


如果像详细了解Gemma开源家族,可以点开视频下方的链接。


谢谢观看本视频。要是喜欢,请订阅、点赞。谢谢


技术报告:https://storage.googleapis.com/deepmind-media/gemma/codegemma_report.pdf

快速入门:https://ai.google.dev/gemma/docs/codegemma/keras_quickstart

Github:https://github.com/huggingface/llm-vscode


视频:https://youtu.be/P2lsdzZYKlc

留言