📄 ztrsm_kernel_lt_2x2_penryn.s
字号:
subpd %xmm14, %xmm11 pshufd $0x4e, %xmm9, %xmm8 pshufd $0x4e, %xmm11, %xmm10 xorpd %xmm7, %xmm8 xorpd %xmm7, %xmm10 mulpd %xmm4, %xmm9 mulpd %xmm5, %xmm8 mulpd %xmm4, %xmm11 mulpd %xmm5, %xmm10 addpd %xmm8, %xmm9 addpd %xmm10, %xmm11#endif#ifdef LT movddup -16 * SIZE(AO), %xmm0 movddup -15 * SIZE(AO), %xmm1 movddup -14 * SIZE(AO), %xmm2 movddup -13 * SIZE(AO), %xmm3 movddup -10 * SIZE(AO), %xmm4 movddup -9 * SIZE(AO), %xmm5 pshufd $0x4e, %xmm9, %xmm8 pshufd $0x4e, %xmm11, %xmm10 xorpd %xmm7, %xmm8 xorpd %xmm7, %xmm10 mulpd %xmm0, %xmm9 mulpd %xmm1, %xmm8 mulpd %xmm0, %xmm11 mulpd %xmm1, %xmm10 addpd %xmm8, %xmm9 addpd %xmm10, %xmm11 movapd %xmm9, %xmm8 movapd %xmm11, %xmm10 pshufd $0x4e, %xmm9, %xmm12 pshufd $0x4e, %xmm11, %xmm14 xorpd %xmm7, %xmm12 xorpd %xmm7, %xmm14 mulpd %xmm2, %xmm8 mulpd %xmm2, %xmm10 mulpd %xmm3, %xmm12 mulpd %xmm3, %xmm14 subpd %xmm8, %xmm13 subpd %xmm10, %xmm15 subpd %xmm12, %xmm13 subpd %xmm14, %xmm15 pshufd $0x4e, %xmm13, %xmm12 pshufd $0x4e, %xmm15, %xmm14 xorpd %xmm7, %xmm12 xorpd %xmm7, %xmm14 mulpd %xmm4, %xmm13 mulpd %xmm5, %xmm12 mulpd %xmm4, %xmm15 mulpd %xmm5, %xmm14 addpd %xmm12, %xmm13 addpd %xmm14, %xmm15#endif#ifdef RN movddup -16 * SIZE(BO), %xmm0 movddup -15 * SIZE(BO), %xmm1 movddup -14 * SIZE(BO), %xmm2 movddup -13 * SIZE(BO), %xmm3 movddup -10 * SIZE(BO), %xmm4 movddup -9 * SIZE(BO), %xmm5 pshufd $0x4e, %xmm9, %xmm8 pshufd $0x4e, %xmm13, %xmm12 xorpd %xmm7, %xmm8 xorpd %xmm7, %xmm12 mulpd %xmm0, %xmm9 mulpd %xmm1, %xmm8 mulpd %xmm0, %xmm13 mulpd %xmm1, %xmm12 addpd %xmm8, %xmm9 addpd %xmm12, %xmm13 movapd %xmm9, %xmm8 movapd %xmm13, %xmm10 pshufd $0x4e, %xmm9, %xmm12 pshufd $0x4e, %xmm13, %xmm14 xorpd %xmm7, %xmm12 xorpd %xmm7, %xmm14 mulpd %xmm2, %xmm8 mulpd %xmm2, %xmm10 mulpd %xmm3, %xmm12 mulpd %xmm3, %xmm14 subpd %xmm8, %xmm11 subpd %xmm10, %xmm15 subpd %xmm12, %xmm11 subpd %xmm14, %xmm15 pshufd $0x4e, %xmm11, %xmm10 pshufd $0x4e, %xmm15, %xmm14 xorpd %xmm7, %xmm10 xorpd %xmm7, %xmm14 mulpd %xmm4, %xmm11 mulpd %xmm5, %xmm10 mulpd %xmm4, %xmm15 mulpd %xmm5, %xmm14 addpd %xmm10, %xmm11 addpd %xmm14, %xmm15#endif#ifdef RT movddup -10 * SIZE(BO), %xmm0 movddup -9 * SIZE(BO), %xmm1 movddup -12 * SIZE(BO), %xmm2 movddup -11 * SIZE(BO), %xmm3 movddup -16 * SIZE(BO), %xmm4 movddup -15 * SIZE(BO), %xmm5 pshufd $0x4e, %xmm11, %xmm10 pshufd $0x4e, %xmm15, %xmm14 xorpd %xmm7, %xmm10 xorpd %xmm7, %xmm14 mulpd %xmm0, %xmm11 mulpd %xmm1, %xmm10 mulpd %xmm0, %xmm15 mulpd %xmm1, %xmm14 addpd %xmm10, %xmm11 addpd %xmm14, %xmm15 movapd %xmm11, %xmm8 movapd %xmm15, %xmm10 pshufd $0x4e, %xmm11, %xmm12 pshufd $0x4e, %xmm15, %xmm14 xorpd %xmm7, %xmm12 xorpd %xmm7, %xmm14 mulpd %xmm2, %xmm8 mulpd %xmm2, %xmm10 mulpd %xmm3, %xmm12 mulpd %xmm3, %xmm14 subpd %xmm8, %xmm9 subpd %xmm10, %xmm13 subpd %xmm12, %xmm9 subpd %xmm14, %xmm13 pshufd $0x4e, %xmm9, %xmm8 pshufd $0x4e, %xmm13, %xmm12 xorpd %xmm7, %xmm8 xorpd %xmm7, %xmm12 mulpd %xmm4, %xmm9 mulpd %xmm5, %xmm8 mulpd %xmm4, %xmm13 mulpd %xmm5, %xmm12 addpd %xmm8, %xmm9 addpd %xmm12, %xmm13#endif#ifdef LN subq $4 * SIZE, CO1 subq $4 * SIZE, CO2#endif movsd %xmm9, 0 * SIZE(CO1) movhpd %xmm9, 1 * SIZE(CO1) movsd %xmm13, 2 * SIZE(CO1) movhpd %xmm13, 3 * SIZE(CO1) movsd %xmm11, 0 * SIZE(CO2) movhpd %xmm11, 1 * SIZE(CO2) movsd %xmm15, 2 * SIZE(CO2) movhpd %xmm15, 3 * SIZE(CO2)#if defined(LN) || defined(LT) movapd %xmm9, -16 * SIZE(BO) movapd %xmm11, -14 * SIZE(BO) movapd %xmm13, -12 * SIZE(BO) movapd %xmm15, -10 * SIZE(BO)#else movapd %xmm9, -16 * SIZE(AO) movapd %xmm13, -14 * SIZE(AO) movapd %xmm11, -12 * SIZE(AO) movapd %xmm15, -10 * SIZE(AO)#endif#ifndef LN addq $4 * SIZE, CO1 addq $4 * SIZE, CO2#endif#if defined(LT) || defined(RN) movq K, %rax subq KK, %rax leaq (,%rax, SIZE), %rax leaq (AO, %rax, 4), AO leaq (BO, %rax, 4), BO#endif#ifdef LN subq $2, KK#endif#ifdef LT addq $2, KK#endif#ifdef RT movq K, %rax salq $1 + ZBASE_SHIFT, %rax addq %rax, AORIG#endif decq I # i -- jg,pt .L11 ALIGN_4 .L20: testq $1, M jle,pt .L39 ALIGN_4#ifdef LN movq K, %rax salq $ZBASE_SHIFT, %rax subq %rax, AORIG#endif#if defined(LN) || defined(RT) movq KK, %rax leaq (, %rax, SIZE), %rax movq AORIG, AO leaq (AO, %rax, 2), AO leaq (B, %rax, 4), BO#else movq B, BO#endif movaps -16 * SIZE(AO), %xmm0 movaps -16 * SIZE(BO), %xmm2 movaps -14 * SIZE(BO), %xmm3 pxor %xmm3, %xmm3 pxor %xmm5, %xmm5 movapd %xmm3, %xmm8 movapd %xmm3, %xmm9 movapd %xmm3, %xmm12 movapd %xmm3, %xmm13#if defined(LT) || defined(RN) movq KK, %rax#else movq K, %rax subq KK, %rax#endif sarq $2, %rax jle,pn .L25 ALIGN_4.L22: ADD1 %xmm3, %xmm12 movaps -14 * SIZE(BO), %xmm3 pshufd $0x4e, %xmm2, %xmm7 PREFETCH (PREFETCHSIZE + 0) * SIZE(AO) mulpd %xmm0, %xmm2 ADD2 %xmm5, %xmm13 mulpd %xmm0, %xmm7 ADD1 %xmm2, %xmm8 movaps -12 * SIZE(BO), %xmm2 pshufd $0x4e, %xmm3, %xmm5 mulpd %xmm0, %xmm3 ADD2 %xmm7, %xmm9 mulpd %xmm0, %xmm5 movaps -14 * SIZE(AO), %xmm0 ADD1 %xmm3, %xmm12 movaps -10 * SIZE(BO), %xmm3 pshufd $0x4e, %xmm2, %xmm7 mulpd %xmm0, %xmm2 ADD2 %xmm5, %xmm13 mulpd %xmm0, %xmm7 ADD1 %xmm2, %xmm8 movaps -8 * SIZE(BO), %xmm2 pshufd $0x4e, %xmm3, %xmm5 mulpd %xmm0, %xmm3 ADD2 %xmm7, %xmm9 mulpd %xmm0, %xmm5 movaps -12 * SIZE(AO), %xmm0 ADD1 %xmm3, %xmm12 movaps -6 * SIZE(BO), %xmm3 pshufd $0x4e, %xmm2, %xmm7 mulpd %xmm0, %xmm2 ADD2 %xmm5, %xmm13 mulpd %xmm0, %xmm7 ADD1 %xmm2, %xmm8 movaps -4 * SIZE(BO), %xmm2 pshufd $0x4e, %xmm3, %xmm5 mulpd %xmm0, %xmm3 ADD2 %xmm7, %xmm9 mulpd %xmm0, %xmm5 movaps -10 * SIZE(AO), %xmm0 ADD1 %xmm3, %xmm12 movaps -2 * SIZE(BO), %xmm3 pshufd $0x4e, %xmm2, %xmm7 mulpd %xmm0, %xmm2 ADD2 %xmm5, %xmm13 mulpd %xmm0, %xmm7 subq $ -8 * SIZE, AO ADD1 %xmm2, %xmm8 movaps 0 * SIZE(BO), %xmm2 pshufd $0x4e, %xmm3, %xmm5 mulpd %xmm0, %xmm3 ADD2 %xmm7, %xmm9 mulpd %xmm0, %xmm5 movaps -16 * SIZE(AO), %xmm0 subq $-16 * SIZE, BO subq $1, %rax jg,pt .L22 ALIGN_4.L25:#if defined(LT) || defined(RN) movq KK, %rax#else movq K, %rax subq KK, %rax#endif andq $3, %rax # if (k & 1) je,pt .L28 ALIGN_4.L26: ADD1 %xmm3, %xmm12 movaps -14 * SIZE(BO), %xmm3 pshufd $0x4e, %xmm2, %xmm7 mulpd %xmm0, %xmm2 ADD2 %xmm5, %xmm13 mulpd %xmm0, %xmm7 ADD1 %xmm2, %xmm8 movaps -12 * SIZE(BO), %xmm2 pshufd $0x4e, %xmm3, %xmm5 mulpd %xmm0, %xmm3 ADD2 %xmm7, %xmm9 mulpd %xmm0, %xmm5 movaps -14 * SIZE(AO), %xmm0 addq $2 * SIZE, AO addq $4 * SIZE, BO subq $1, %rax jg,pt .L26 ALIGN_4.L28:#if defined(LN) || defined(RT) movq KK, %rax#ifdef LN subq $1, %rax#else subq $2, %rax#endif leaq (, %rax, SIZE), %rax movq AORIG, AO leaq (AO, %rax, 2), AO leaq (B, %rax, 4), BO#endif ADD1 %xmm3, %xmm12 pcmpeqb %xmm7, %xmm7 ADD2 %xmm5, %xmm13 psllq $63, %xmm7#ifndef CONJ pshufd $0x40, %xmm7, %xmm0 shufps $0x04, %xmm7, %xmm7 pxor %xmm0, %xmm8 pxor %xmm0, %xmm12#else#if defined(LN) || defined(LT) pshufd $0x40, %xmm7, %xmm0#else pshufd $0x04, %xmm7, %xmm0#endif shufps $0x40, %xmm7, %xmm7 pxor %xmm0, %xmm9 pxor %xmm0, %xmm13#endif haddpd %xmm9, %xmm8 haddpd %xmm13, %xmm12#if defined(LN) || defined(LT) movapd -16 * SIZE(BO), %xmm9 movapd -14 * SIZE(BO), %xmm11 subpd %xmm8, %xmm9 subpd %xmm12, %xmm11#else movapd -16 * SIZE(AO), %xmm9 movapd -14 * SIZE(AO), %xmm11 subpd %xmm8, %xmm9 subpd %xmm12, %xmm11#endif#if defined(LN) || defined(LT) movddup -16 * SIZE(AO), %xmm0 movddup -15 * SIZE(AO), %xmm1 pshufd $0x4e, %xmm9, %xmm8 pshufd $0x4e, %xmm11, %xmm10 xorpd %xmm7, %xmm8 xorpd %xmm7, %xmm10 mulpd %xmm0, %xmm9 mulpd %xmm1, %xmm8 mulpd %xmm0, %xmm11 mulpd %xmm1, %xmm10 addpd %xmm8, %xmm9 addpd %xmm10, %xmm11#endif#ifdef RN movddup -16 * SIZE(BO), %xmm0 movddup -15 * SIZE(BO), %xmm1 movddup -14 * SIZE(BO), %xmm2 movddup -13 * SIZE(BO), %xmm3 movddup -10 * SIZE(BO), %xmm4 movddup -9 * SIZE(BO), %xmm5 pshufd $0x4e, %xmm9, %xmm8 xorpd %xmm7, %xmm8 mulpd %xmm0, %xmm9 mulpd %xmm1, %xmm8 addpd %xmm8, %xmm9 movapd %xmm9, %xmm8 pshufd $0x4e, %xmm9, %xmm12 xorpd %xmm7, %xmm12 mulpd %xmm2, %xmm8 mulpd %xmm3, %xmm12 subpd %xmm8, %xmm11 subpd %xmm12, %xmm11 pshufd $0x4e, %xmm11, %xmm10 xorpd %xmm7, %xmm10 mulpd %xmm4, %xmm11 mulpd %xmm5, %xmm10 addpd %xmm10, %xmm11#endif#ifdef RT movddup -10 * SIZE(BO), %xmm0 movddup -9 * SIZE(BO), %xmm1 movddup -12 * SIZE(BO), %xmm2 movddup -11 * SIZE(BO), %xmm3 movddup -16 * SIZE(BO), %xmm4 movddup -15 * SIZE(BO), %xmm5 pshufd $0x4e, %xmm11, %xmm10 xorpd %xmm7, %xmm10 mulpd %xmm0, %xmm11 mulpd %xmm1, %xmm10 addpd %xmm10, %xmm11 movapd %xmm11, %xmm8 pshufd $0x4e, %xmm11, %xmm12 xorpd %xmm7, %xmm12 mulpd %xmm2, %xmm8 mulpd %xmm3, %xmm12 subpd %xmm8, %xmm9 subpd %xmm12, %xmm9 pshufd $0x4e, %xmm9, %xmm8 xorpd %xmm7, %xmm8 mulpd %xmm4, %xmm9 mulpd %xmm5, %xmm8 addpd %xmm8, %xmm9#endif#ifdef LN subq $2 * SIZE, CO1 subq $2 * SIZE, CO2#endif movsd %xmm9, 0 * SIZE(CO1) movhpd %xmm9, 1 * SIZE(CO1) movsd %xmm11, 0 * SIZE(CO2) movhpd %xmm11, 1 * SIZE(CO2)#if defined(LN) || defined(LT) movapd %xmm9, -16 * SIZE(BO) movapd %xmm11, -14 * SIZE(BO)#else movapd %xmm9, -16 * SIZE(AO) movapd %xmm11, -14 * SIZE(AO)#endif#ifndef LN addq $2 * SIZE, CO1 addq $2 * SIZE, CO2#endif#if defined(LT) || defined(RN) movq K, %rax subq KK, %rax leaq (,%rax, SIZE), %rax leaq (AO, %rax, 2), AO leaq (BO, %rax, 4), BO#endif#ifdef LN subq $1, KK#endif#ifdef LT addq $1, KK#endif#ifdef RT movq K, %rax salq $ZBASE_SHIFT, %rax addq %rax, AORIG#endif ALIGN_4 .L39:#ifdef LN leaq (, K, SIZE), %rax leaq (B, %rax, 4), B#endif#if defined(LT) || defined(RN) movq BO, B#endif#ifdef RN addq $2, KK#endif#ifdef RT subq $2, KK#endif subq $1, J jg,pt .L01 ALIGN_4.L40: testq $1, N jle,pt .L999#if defined(LT) || defined(RN) movq A, AO#else movq A, AORIG#endif#ifdef RT movq K, %rax salq $ZBASE_SHIFT, %rax subq %rax, B subq LDC, C#endif movq C, CO1 leaq (C, LDC, 1), CO2#ifndef RT addq LDC, C#endif#ifdef LN movq OFFSET, KK addq M, KK#endif movq K, %rax salq $ZBASE_SHIFT + 1, %rax leaq (B, %rax), BB#ifdef LT movq OFFSET, KK#endif movq M, I sarq $1, I # i = (m >> 2) jle,pn .L60 ALIGN_4.L51:#ifdef LN movq K, %rax salq $1 + ZBASE_SHIFT, %rax subq %rax, AORIG#endif#if defined(LN) || defined(RT) movq KK, %rax leaq (, %rax, SIZE), %rax movq AORIG, AO leaq (AO, %rax, 4), AO
⌨️ 快捷键说明
复制代码
Ctrl + C
搜索代码
Ctrl + F
全屏模式
F11
切换主题
Ctrl + Shift + D
显示快捷键
?
增大字号
Ctrl + =
减小字号
Ctrl + -