苹果发布专为Apple芯片设计的高效机器学习框架:MLX

 苹果发布专为Apple芯片设计的高效机器学习框架:MLX



MLX 的 API 设计与 NumPy 和 PyTorch 相似,让你能够在苹果电脑上方便地建立和训练机器学习模型。

使得在苹果电脑上进行机器学习相关的开发和研究变得更加简单和高效。

演示显示可在 M2 Ultra 上运行的 Llama v1 7B 模型。 

代码: https://github.com/ml-explore/mlx

文档:https://ml-explore.github.io/mlx/build/html/index.html

MLX 示例存储库提供了一些示例,包括:

- Transformer 语言模型训练。

- 使用 LLaMA 或 Mistral 进行的大规模文本生

- 通过 LoRA 进行的参数高效微调

- 使用稳定扩散技术的图像生成

- 使用 OpenAI 的 Whisper 进行语音识别。

案例:https://github.com/ml-explore/mlx-examples

主要特点:

1、熟悉的 API::MLX 的 API 设计与 NumPy 和 PyTorch 相似,使得用户可以方便地构建和训练复杂的机器学习模型。

2、自动微分和向量化:MLX 支持自动微分和自动向量化,这对于优化和加速机器学习模型的训练过程非常有用。

3、高效的内存管理:MLX 的统一内存模型允许在不同设备(如 CPU 和 GPU)之间高效地共享和处理数据,无需频繁地移动数据。

4、动态图构建和延迟计算:MLX 支持动态图构建和延迟计算,这使得模型的开发和调试更加灵活和高效。

MLX Data 是 Apple 机器学习研究为您带来的一个与框架无关的数据加载库。它可与 PyTorch、Jax 或 MLX 配合使用。

高效且灵活,例如能够每秒加载和处理 1000 张图像,同时还能对生成的批次运行任意 Python 转换。

代码: https://github.com/ml-explore/mlx-data

文档: https://ml-explore.github.io/mlx-data/build/html/index.html


视频:https://youtu.be/B6f3_DWewGE


留言