Блог

У меня есть массив с плавающей точкой,содержащий A,B,C, D 4 числа с плавающей точкой, и я хочу загрузить их в __m256 переменную, такую как AABBCCDD. Как лучше всего это сделать? Я знаю, что использование _mm256_set_ps() -это всегда вариант, но он кажется медленным с инструкциями по 8 процессорам. Спасибо.

Если бы ваши данные были результатом другого векторного вычисления (и в __m128), вам понадобился бы AVX2 vpermps ( _mm256_permutexvar_ps ) с управляющим вектором _mm256_set_epi32(3,3, 2,2, 1,1, 0,0) .

vpermps ymm составляет 1 uop на Intel, но 2 uop на Zen2 (с пропускной способностью 2 цикла). И 3 uops на Zen1 с пропускной способностью по одному на 4 такта. (https://uops.info/)

Если это был результат отдельных скалярных вычислений, вы можете перемешать их вместе с _mm_set_ps(d,d, c,c) (1x vshufps), чтобы настроить для vinsertf128.

Но с данными в памяти, я думаю, что лучше всего использовать 128-битную широковещательную загрузку, а затем перетасовку в полосе. Для этого требуется только AVX1, а на современных процессорах это 1 загрузка 1 перетасовка uop на Zen2, Haswell и более поздних версиях. Он также эффективен на Zen1: единственной перетасовкой при пересечении полосы движения является 128-битная широковещательная загрузка.

Использование перетасовки в полосе движения имеет меньшую задержку, чем пересечение полосы движения как на Intel, так и на Zen2 (256-разрядные исполнительные устройства для перетасовки). Для этого по-прежнему требуется 32-байтовая константа вектора управления перетасовкой, но если вам нужно делать это часто, она, как правило / надеюсь, останется горячей в кэше.

 __m256  duplicate4floats(void *p) {
   __m256 v = _mm256_broadcast_ps((const __m128 *) p);   // vbroadcastf128
   v = _mm256_permutevar_ps(v, _mm256_set_epi32(3,3, 2,2,  1,1, 0,0));  // vpermilps
   return v;
}
 

Современные процессоры обрабатывают широковещательные загрузки прямо в порту загрузки, не требуется перестановка uop. (Sandybridge действительно нуждается в uop для перетасовки портов 5 vbroadcastf128 , в отличие от более узких передач, но Haswell и более поздние версии являются чисто портами 2/3. Но SnB не поддерживает AVX2, поэтому перетасовка при пересечении полосы движения с детализацией менее 128 бит не была вариантом.)

Поэтому, даже если AVX2 доступен, я думаю, что инструкции AVX1 здесь более эффективны. На Zen1 vbroadcastf128 это 2 uops против 1 для 128-битного vmovups , но vpermps (пересечение полосы) составляет 3 uops против 2 для vpermilps .

К сожалению, clang пессимизирует это в vmovups нагрузку и a vpermps ymm , но GCC компилирует его так, как написано. (Божья молния)

Если вы хотите избежать использования векторной константы управления перетасовкой vpmovzxdq ymm, [mem] (2 uops на Intel), можно настроить элементы для vmovsldup (1 uops в режиме перетасовки). Или транслировать-загружать, а vunpckl/hps затем смешивать?

Я знаю, что использование _mm256_set_ps() всегда возможно, но это кажется медленным с 8 инструкциями процессора.

Тогда найдите лучший компилятор! (Или не забудьте включить оптимизацию.)

 __m256  duplicate4floats_naive(const float *p) {
   return _mm256_set_ps(p[3],p[3], p[2], p[2], p[1],p[1], p[0],p[0]);
}
 

компилируется с помощью gcc (https://godbolt.org/z/dMzh3fezE) в

 duplicate4floats_naive(float const*):
        vmovups xmm1, XMMWORD PTR [rdi]
        vpermilps       xmm0, xmm1, 80
        vpermilps       xmm1, xmm1, 250
        vinsertf128     ymm0, ymm0, xmm1, 0x1
        ret
 

Так что 3 тасовки, не очень хорошо. И его можно было бы использовать vshufps вместо vpermilps того, чтобы экономить размер кода и позволять ему работать на большем количестве портов на Ледяном озере. Но все равно значительно лучше, чем 8 инструкций.

оптимизатор перемешивания clang делает то же самое, что и с моими оптимизированными внутренними функциями, потому что именно таков clang. Это довольно приличная оптимизация, просто не совсем оптимальная.

 duplicate4floats_naive(float const*):
        vmovups xmm0, xmmword ptr [rdi]
        vmovaps ymm1, ymmword ptr [rip   .LCPI1_0] # ymm1 = [0,0,1,1,2,2,3,3]
        vpermps ymm0, ymm1, ymm0
        ret
 

_mm_load_ps -> _mm256_castps128_ps256 ->> _mm256_permute_ps