卷？寄！¶

背景¶

二维卷积是卷积神经网络的基础操作，可以提取数据特征，在图像识别领域应用广泛。卷积的复杂度导致训练困难，也是图像识别领域的重要瓶颈之一。

对卷积感兴趣的同学，可以去翻一翻 Ian Goodfellow 等人写的 Deep Learning 的第 9 章。我们只引用书中的一张图介绍卷积的计算。

对于矩阵 Input，我们使用一个比它规模小的多的 Kernel 进行运算。本题我们方法大概是这样：

设 Input 是 A∗B 矩阵，Kernel 是 C∗D 矩阵，对于每个位置 (i, j) ，如果可以取一个和 Kernel 大小一样的不越界矩阵(本题不考虑 padding)，我们就把这个矩阵中与 Kernel 中对应元素乘起来并求和，结果放在 Output(i,j) ​中。

计算完所有可算的 i, j ，我们就得到了卷积的输出。

下图引自 Ian Goodfellow 等人著作 Deep Learning`，很形象地表现了这一过程。因为元素运算是可向量化的，我们试图在 CPU 上使用 SIMD（单指令多数据）的方法，优化二维卷积运算。

要怎么做才好呢¶

要不，问问 chatGPT？

他说的确实对，向量化的思路没错，但是我们不打算给你太多的核心，所以你得让每一条指令都能操作多个数据。

硬件条件¶

评测平台的 CPU 是 Intel® Xeon® Platinum 8358，关闭超线程。

每次评测分配 1CPU 核心，4G 内存。

CPU 相关参数如下：

32K 数据 L1 缓存，1.25MB L2 缓存。

指令集扩展：Intel® SSE4.2, Intel® AVX, Intel® AVX2, Intel® AVX-512

评分标准¶

出题人很讲武德，你只要跑得比 chatGPT 指导他写的Python 程序快就行了。不过，出题人使用了 Intel 编译的加速优化后的Python 和numpy，所以你大概要写C++才能拿到看起来比较多的分数。

对于性能评测，每个测试点 15 分，max(0,min((T(出题人程序)/T(你的程序)−0.8)/2∗15,15))就是你的得分。

提交说明¶

我们下发的包是一个cmake 工程的骨架。改里面的answer.cpp 就行。

编译方式：运行compile.sh。

提交方式：直接提交answer.cpp。如果您需要使用其他语言，请与我们联系hpcgame@pku.edu.cn。

输入与输出说明¶

本题所有数字均为单精度浮点数，允许的浮点误差是 1∗10−5

输入文件：¶

从input.txt 读入 Input，第一个数字是行数 N，第二个数字是列数 M。后面是 N 行数据，每一行 M 个数字。

从weight.txt 读入 Kernel，第一个数字是 C，第二个数字是 D。后面是 C 行数据，每一行 D 个数字。

输出文件：¶

把你得到的 Output 输出到output.txt，第一个数字是行数 P，第二个数字是列数 Q，后面有 P 行，每行 Q 个数字。

一些提示¶

1. 输入的卷积核边长是 16 的倍数，因为 AVX512 每次可以操作 16 个 float
2. 没有 padding！16∗16 的矩阵和 2∗2 的 Kernel 输出会是 15∗15 的
3. 建议多注意数据对齐的问题，64 bytes 对齐可能会是比较好的选择，可以参考 Intel 的这篇文章。评测使用 C++ 17 标准，其中aligned_alloc 挺适合完成这个工作的。
4. 请关注缓存命中的问题，比较影响性能。

零基础友好部分¶

1. 附件有 ETH 的介绍 SIMD 的 slides，里面例子很多，强烈推荐。
2. xsimd这个C++wraper 挺好用的，所以我们帮你预装好了。
3. Intel 的手册是重要资料，在这里。
4. 知乎上有个中文教程，我们觉得还不错。

测试数据规模¶

附件¶

初始工作区

下载convolution_handout.tar.gz

ZTH SIMD 教程

下载zth_simd.pdf

输入输出样例

下载sample_data.zip