8张RTX 3090可在全精度下运行1M上下文模型

作者表示，8张 RTX 3090 显卡足以在全精度下运行具备 100万上下文长度的特定模型。该信息仅为针对硬件显存容量的理论计算或个人观点，由于未指明具体模型名称，对实际部署和硬件采购的参考价值有限。