显存满了，现在大多数AI在本地显卡上跑基本不可能 有一个解决方案是把显卡驱动更新到最新（546.33），可以同时使用 共享显存计算，但是速度会非常慢，如果还是继续报错或者直接被杀（或者说闪退）就还得继续加内存条…最好的方案是租计算卡…

硬盘的容量用了1000进位而不是以2进制为底的1024进位这个问题已经是常识了，但是存储厂商这么标反而是符合标准的。可能有些朋友在Linux和macOS中见过容量单位的两个大写字母中插了一个i的，比如KiB、MiB、GiB这样的单位，那么它和我们常用的KB、MB和GB有什么区别呢？

按照目前计算机存储来说，还是应该遵循二进制。另外你可以看一下 wiki关于Giga的解释: Binary prefix The notation 1 GB can represent 1,073,741,824 (2^30) bytes or 1,000,000,000 bytes. Under the IEC 60027-2 A.2 and ISO/IEC 80000 standards, the correct notation of 230 is gibi (symbol Gi). So, 1 GiB is 1,073,741,824 bytes or 1.074 GB. Despite international standards ...

而这里的 200GB 就是 213.66 GiB 的 1-bit Hy4 版本，不过实际上也不是整模型平均 1 bit，真正的 1.3125 bpw，只落到了特定的 expert 矩阵上，整个模型平均还是 2.38 bpw。 因为 Hy4 有 78 层，除了第一层是 Dense FFN，剩下 77 层都是 MoE，然后每层有： 256 个 routed experts 1 个 shared ...

目前在Windows、Mac，Linux电脑上，都是按照二进制kiB、MiB、GiB等来显示字节数的了， 显示1GB的话就是2^30Bytes字节。 本地验证了一下：创建了2^30和10^9个字节的文件，看平台显示情况。 Windows也是显示1GB为2^30 Bytes了。

CPU内存比1:2（阿里云）或者vRAM:vCPU=2（Azure）的含义是： 虚拟处理器核心vCPU的个数与虚拟内存的大小 （以GiB为单位） 之间的比例 是1:2。 譬如AWS的 M5.large实例规格为：8GiB内存，2个vCPU。 则 CPU内存比为 2vCPU:8GiB，即1:4。

为什么微软不把GB写全写成GiB？ 今天和群友讨论了关于硬盘写的大小和Windows电脑里显示的大小不一的问题，然后我产生了这么一个疑问 要是微软把GB直接写成GiB，不就能避免这个问题… 显示全部 关注者 7

G是个通用单位，表示10的9次方， 计算机最初借用了这个单位，为了表示空间能包含多少个B（Byte，字节），但是含义却是1024*1024*1024 这个混用给大众造成了很多的困扰，特别那个硬盘空间问题。 为了解决这个问题，后来国际标准改成了 GiB， 表示1024*1024*1024个字节。 GB则表示1000*1000*1000个字节 不过 ...

RuntimeError: CUDA out of memory. Tried to allocate 20.00 MiB (GPU 0; 6.00 GiB total capacity; 192…

CUDA out of memory. Tried to allocate 2.14 GiB (GPU 0; 8.00 GiB total capacity; 280.86 MiB already…