在docker有没有给Apple芯片用的镜像？

[xieyuy]

docker hub里的镜像都是Linux/amd64的，有没有给m芯片Mac的解决方案？

[XXXXRT666]

把cuda有关部分去掉就行，cuda image那里改成python，driver那边去掉，理论上没啥问题

[xenosaga]

用conda安裝基本上沒啥問題，device判斷那邊改mps才能用GPU跑

[XXXXRT666]

这边建议就别用MPS

[Lion-Wu]

mps应该不能再docker中使用，且现在mps也有一些问题。先用CPU吧

[XXXXRT666]

应该是不能的，CPU肯定没啥问题

[xieyuy]

用Rosetta 2 转译一下好像可以，但是它好像是从云端读取的，转译完的比较大不能上传到hub会报错Error response from daemon: pull access denied for gptsovits, repository does not exist or may require 'docker login': denied: requested access to the resource is denied

[xenosaga]

我用M2是 conda 直接跑不是用docker，訓練和推理一切良好pytorch版本是用2.3.0，M2靠CPU跑會慢到想哭

[Lion-Wu]

估计几个月后能用上 GPU，前几周尝试了一下 2.4.0 nightly 版本，内存泄漏是解决了，目前应该只有关于 pytorch lighting 的训练仍然存在内存泄漏以及模型质量低（最近的版本我还没测试），等 pytorch lighting 团队修吧，现在还得用 CPU

[Lion-Wu]

估计几个月后能用上 GPU，前几周尝试了一下 2.4.0 nightly 版本，内存泄漏是解决了，目前应该只有关于 pytorch lighting 的训练仍然存在内存泄漏以及模型质量低（最近的版本我还没测试），等 pytorch lighting 团队修吧，现在还得用 CPU

打错了，是lightning…