katago在AutoDL几款GPU实例下benchmark测试

前几天误打误撞注册了AutoDL后果然有些停不下来，算上折扣，要比阿里云、腾讯云的gpu服务器更为合适，同时AutoDL是容器化实例，这样初始化在几秒内完成，而阿里云等初始化过程中的GPU驱动、框架搭建时间有些过于漫长了。如果把时间考虑在内，AutoDL性别比就更高了。

但AutoDL受实例限制，暂时无法编译TensorRT Backend版本，编译的是cuda112版本。在不同GPU实例下简单测试了一下katago的benchmark，权重为kata1-b40c256-s10359230464-d2525387336。

使用阿里云最低端的Tesla T4，4核cpu，15G内存服务器作为参考。

在使用sabaki对弈感觉速度尚可，但经过测试，NVIDIA RTX 3060 / 12GB的成绩与阿里云的Tesla T4比想象中要差不少。

作为TeslaT4的替代者，NVIDIA RTX A4000 / 16GB成绩相比TeslaT4略好一点，也符合AutoDL首页算力排名。AutoDL北京地区实例均使用RTX A4000。

NVIDIA RTX 3090 / 24GB成绩两倍于NVIDIA RTX A4000 / 16GB，同样符合算力排名。

最令人吃惊的是NVIDIA RTX 2080Ti / 11GB，成绩直逼阿里云TeslaV100 16G。katago测试过程中，

第一次测试居然认为成绩出现误差，提示“Optimal number of threads is fairly high, increasing the search limit and trying again”自动重新测试了一遍。

不愧为显卡核d。难怪黄厂长严令禁止数据商将游戏显卡用于数据服务器上。其价格居然还要低于NVIDIA RTX A4000 / 16GB，这也是性价比最高的GPU实例。

深度学习GPU服务器是科学计算服务器的一种，科学计算服务器主要用于科学研究，是高性能计算机的一种，介于一般服务器与超级计算机之间。目前，科学计算服务器大约占整个服务器市场的5%左右，风虎云龙是目前所知国内专注于科学计算高性能服务器的厂商品牌，多年来一直紧跟科学发展，密切关注人工智能、机器学习、深度学习发展，结合科研发展需要研发生产高性能科学计算服务器，提供专业的售前、售中和售后服务，以及高性能计算集群的安装、调试、优化、培训、维护等技术支持和服务。

上海风虎信息作为深度学习服务器的专业厂商，专注为科研院所和高校师生打造高性能服务器，建议您选择深度学习服务器时需要注意以下几点：

1深度学习需要大量的并行计算资源，而且动辄计算几天甚至数周，而英伟达NVIDIA、英特尔Intel、AMD显卡（GPU)恰好适合这种工作，提供几十上百倍的加速，性能强劲的GPU能在几个小时内完成原本CPU需要数月完成的任务，所以目前深度学习乃至于机器学习领域已经全面转向GPU架构，使用GPU完成训练任务。

2如今即使使用GPU的深度学习服务器也要持续数天乃至数月（取决于数据规模和深度学习网络模型），需要使用单独的设备保障,保证训练任务能够小时长期稳定运行。

3独立的深度学习工作站（服务器）可以方便实现实验室计算资源共享，多用户可以在个人电脑编写程序，远程访问到深度学习服务器上排队使用计算资源，减少购买设备的开支并且避免了在本地计算机配置复杂的软件环境。

上海风虎信息专注于深度学习GPU服务器开发，根据TensorFlow，Pytorch，Caffe，Keras，Theano等软件计算特征，向您推荐入门级、中级、顶级GPU服务器典型配置，欢迎查阅，谢谢。

拥有高性能计算领域优秀的专业工程师团队，具有 10 年以上高性能计算 行业技术支持经验，提供专业的售前、售中和售后服务，以及高性能计算集群的安装、调 试、优化、培训、维护等技术支持和服务。在深度学习、量化计算、分子动力学、生物信 息学、雷达信号处理、地震数据处理、光学自适应、转码解码、医学成像、图像处理、密 码破解、数值分析、计算流体力学、计算机辅助设计等多个科研领域积累了深厚的技术功 底，和熟练的技术支持能力。提供 Caffe, TensorFlow, Abinit, Amber, Gromacs, Lammps, NAMD, VMD, Materials Studio, Wien2K, Gaussian, Vasp, CFX, OpenFOAM, Abaqus, Ansys, LS-DYNA, Maple, Matlab, Blast, FFTW, Nastran 等软件的安装、调 试、优化、培训、维护等技术支持和服务。

推荐的话，那首选一定是英伟达GPU服务器，
或者选择英伟达授权的官方代 理商也是可以的。

亿万克是研祥高科技控股集团旗下全资子公司。研祥集团作为中国企业500强，持续运营30年。研祥集团全球49个分支机构，三个国家级创新平台，一直致力于技术创新引领行业发展，拥有超1100项授权专利，超1300项非专利核心技术。亿万克_亚当_服务器，民族高科技制造企业领导者，自主知识产权，十大关键核心技术，为党政、金融、医疗、教育、电信、电力、交通和制造等各行业和领域的提供信息化发展和区域数字经济发展贡献自主创新的安全保障。
亿万克服务器产品线丰富，覆盖面广，可覆盖更多应用场景，为各规模、类型的企事业单位提供最恰当的解决方案。
亿万克服务器真正做到了，自主研发、能力内化、安全可信、安全可控。感兴趣请点击此处，了解一下。

GPU服务器属于异构计算服务器，将并行计算负载放到协处理器上来。英伟达GPU服务器还是挺不错的，或者是英伟达授权的官方代理商都是不错的选择。你可以去了解下思腾合力，它是英伟达精英级的合作伙伴，在原厂技术资源、GPU技术上都有多年的技术积累，还是非常不错的。

---