Apple 发布新的机器学习框架 MLX

Torch 卡没卡 Apple 脖子我不知道，但 Apple 可卡的是用户的脖子

@nomagick 我寻思没人逼谁买苹果吧

这里面的东西，与其说是跟 pytorch 冲突，还不如说是跟 sklearn 重复

@nomagick 你要是这么想，百度、vivo 啥的，也都在卡用户脖子？

别惦记你那逼生产力，谁特么用 4060 跑机器学习，直接扔点钱给 R 星，让 GTA6 上 m3max 首发，带动的销量妥妥的

卡脖子的是 nv 吧，反正几个大厂里，就 Apple 没有批量买 NV 家的显卡，以前的仇恨带到 ai 时代了。

@565656 #5 GTA6 25 年出，都 m5 了，我觉得有戏。不上 PC 的情况来看，上 mac 可能都 27 年了，m7 了。可以一上

apple 那芯片性能真的跑得动训练吗

Transformer language model training.
Large-scale text generation with LLaMA and finetuning with LoRA.
Generating images with Stable Diffusion.
Speech recognition with OpenAI's Whisper.

大模型、SD 、语音都支持了，个人玩家是差不多够用了把

PyTorch 卡 Apple 脖子？
目前的问题还是苹果硬件性能、硬件支持的特性问题吧。
把 PyTorch MPS 后端做得更完善一些，比重新开发一个框架有用多了。

用这个框架，写的在 Mac 上跑通了，但是性能不太够，想部署到 NVIDIA 显卡上训练，要重新写一遍？
有多卡/多机支持吗？

目前的问题还是苹果硬件性能、硬件支持的特性问题吧。
把 PyTorch MPS 后端做得更完善一些，比重新开发一个框架有用多了。

用这个框架，写的在 Mac 上跑通了，但是性能不太够，想部署到 NVIDIA 显卡上训练，要重新写一遍？
有多卡/多机支持吗？

PyTorch 并不会卡 Apple 脖子。如果自身没有优势，兼容已有的生态才能活下来。

突然发现发重复了，补了一句

MLX is a NumPy-like array framework designed for efficient and flexible machine learning on Apple silicon, brought to you by Apple machine learning research.

感觉像明年 AI 相关更新的副产品。如果是真的可以期待明年的新系统有：LLM Siri ，Generaating Image （相册？新 app ？） Speech recognition （更好的听写？自动字幕？）

我感觉这个项目大概率是 Apple 内部项目用的框架，开源出来也只是为了方便开源社区借鉴里面的细节（比方说完善 MPS 后端）

厨子怕是还有啥大招要出吧

看起来目前只是一个跑一些简单的 metal compute kernels 的练习作品，连 MPS routines 都没 dispatch
Python API 山寨 PyTorch 不说，还相当简陋。

pytorch 是什么情况不太清楚
但现在 tensorflow 的 metal 支持显然就只是勉强够调试，离能用还差很大一截

问题是，他 mac 又没有服务端的产品。。。开发者把这个框架调通了。。。然后呢？
总不可能买一堆 ultra 或者笔记本丢机房的嘛。。。

`import mlx as torch`