📄 ztrsm_kernel_rt_2x2_penryn.s
字号:
movaps -14 * SIZE(BO), %xmm2 addq $2 * SIZE, AO addq $2 * SIZE, BO subq $1, %rax jg,pt .L66 ALIGN_4.L68:#if defined(LN) || defined(RT) movq KK, %rax subq $1, %rax leaq (, %rax, SIZE), %rax movq AORIG, AO leaq (AO, %rax, 2), AO leaq (B, %rax, 2), BO#endif addpd %xmm10, %xmm8 addpd %xmm11, %xmm9 pcmpeqb %xmm7, %xmm7 psllq $63, %xmm7#ifndef CONJ pshufd $0x40, %xmm7, %xmm0 shufps $0x04, %xmm7, %xmm7 pxor %xmm0, %xmm8#else#if defined(LN) || defined(LT) pshufd $0x40, %xmm7, %xmm0#else pshufd $0x04, %xmm7, %xmm0#endif shufps $0x40, %xmm7, %xmm7 pxor %xmm0, %xmm9#endif haddpd %xmm9, %xmm8#if defined(LN) || defined(LT) movapd -16 * SIZE(BO), %xmm9 subpd %xmm8, %xmm9#else movapd -16 * SIZE(AO), %xmm9 subpd %xmm8, %xmm9#endif#ifdef LN movddup -16 * SIZE(AO), %xmm0 movddup -15 * SIZE(AO), %xmm1 pshufd $0x4e, %xmm9, %xmm8 xorpd %xmm7, %xmm8 mulpd %xmm0, %xmm9 mulpd %xmm1, %xmm8 addpd %xmm8, %xmm9#endif#ifdef LT movddup -16 * SIZE(AO), %xmm0 movddup -15 * SIZE(AO), %xmm1 pshufd $0x4e, %xmm9, %xmm8 xorpd %xmm7, %xmm8 mulpd %xmm0, %xmm9 mulpd %xmm1, %xmm8 addpd %xmm8, %xmm9#endif#ifdef RN movddup -16 * SIZE(BO), %xmm0 movddup -15 * SIZE(BO), %xmm1 pshufd $0x4e, %xmm9, %xmm8 xorpd %xmm7, %xmm8 mulpd %xmm0, %xmm9 mulpd %xmm1, %xmm8 addpd %xmm8, %xmm9#endif#ifdef RT movddup -16 * SIZE(BO), %xmm0 movddup -15 * SIZE(BO), %xmm1 pshufd $0x4e, %xmm9, %xmm8 xorpd %xmm7, %xmm8 mulpd %xmm0, %xmm9 mulpd %xmm1, %xmm8 addpd %xmm8, %xmm9#endif#ifdef LN subq $2 * SIZE, CO1#endif movsd %xmm9, 0 * SIZE(CO1) movhpd %xmm9, 1 * SIZE(CO1)#if defined(LN) || defined(LT) movapd %xmm9, -16 * SIZE(BO)#else movapd %xmm9, -16 * SIZE(AO)#endif#ifndef LN addq $2 * SIZE, CO1 addq $2 * SIZE, CO2#endif#if defined(LT) || defined(RN) movq K, %rax subq KK, %rax leaq (,%rax, SIZE), %rax leaq (AO, %rax, 2), AO leaq (BO, %rax, 2), BO#endif#ifdef LN subq $1, KK#endif#ifdef LT addq $1, KK#endif#ifdef RT movq K, %rax salq $ZBASE_SHIFT, %rax addq %rax, AORIG#endif ALIGN_4 .L79:#ifdef LN leaq (, K, SIZE), %rax leaq (B, %rax, 2), B#endif#if defined(LT) || defined(RN) movq BO, B#endif#ifdef RN addq $1, KK#endif#ifdef RT subq $1, KK#endif ALIGN_4.L40: movq N, J sarq $1, J jle,pn .L999 ALIGN_4.L01:#if defined(LT) || defined(RN) movq A, AO#else movq A, AORIG#endif#ifdef RT movq K, %rax salq $1 + ZBASE_SHIFT, %rax subq %rax, B leaq (, LDC, 2), %rax subq %rax, C#endif movq C, CO1 leaq (C, LDC, 1), CO2#ifndef RT leaq (C, LDC, 2), C#endif#ifdef LN movq OFFSET, KK addq M, KK#endif movq K, %rax salq $ZBASE_SHIFT + 1, %rax movq B, BB subq %rax, BB#ifdef LT movq OFFSET, KK#endif movq M, I sarq $1, I jle,pn .L20 ALIGN_4.L11:#ifdef LN movq K, %rax salq $1 + ZBASE_SHIFT, %rax subq %rax, AORIG#endif#if defined(LN) || defined(RT) movq KK, %rax leaq (, %rax, SIZE), %rax movq AORIG, AO leaq (AO, %rax, 4), AO leaq (B, %rax, 4), BO#else movq B, BO#endif prefetcht2 -16 * SIZE(BB) subq $-8 * SIZE, BB movaps -16 * SIZE(AO), %xmm0 pxor %xmm3, %xmm3 movaps -14 * SIZE(AO), %xmm1 pxor %xmm4, %xmm4 movaps -16 * SIZE(BO), %xmm2 pxor %xmm5, %xmm5 pxor %xmm6, %xmm6#ifdef LN prefetcht0 -4 * SIZE(CO1) movapd %xmm4, %xmm8 movapd %xmm4, %xmm9 prefetcht0 -4 * SIZE(CO2)#else prefetcht0 3 * SIZE(CO1) movapd %xmm4, %xmm8 movapd %xmm4, %xmm9 prefetcht0 3 * SIZE(CO2)#endif movapd %xmm4, %xmm10 movapd %xmm4, %xmm11 movapd %xmm4, %xmm12 movapd %xmm4, %xmm13 movapd %xmm4, %xmm14 movapd %xmm4, %xmm15#if defined(LT) || defined(RN) movq KK, %rax#else movq K, %rax subq KK, %rax#endif sarq $3, %rax jle,pn .L15 ALIGN_3.L12: ADD1 %xmm3, %xmm12 movaps -14 * SIZE(BO), %xmm3 ADD1 %xmm4, %xmm14 movaps %xmm2, %xmm4 pshufd $0x4e, %xmm2, %xmm7 mulpd %xmm0, %xmm2 mulpd %xmm1, %xmm4 ADD2 %xmm5, %xmm13 ADD2 %xmm6, %xmm15 movaps %xmm7, %xmm6 mulpd %xmm0, %xmm7 mulpd %xmm1, %xmm6 ADD1 %xmm2, %xmm8 movaps -12 * SIZE(BO), %xmm2 ADD1 %xmm4, %xmm10 movaps %xmm3, %xmm4 pshufd $0x4e, %xmm3, %xmm5 mulpd %xmm0, %xmm3 mulpd %xmm1, %xmm4 ADD2 %xmm7, %xmm9 ADD2 %xmm6, %xmm11 movaps %xmm5, %xmm6 mulpd %xmm0, %xmm5 movaps -12 * SIZE(AO), %xmm0 mulpd %xmm1, %xmm6 movaps -10 * SIZE(AO), %xmm1 ADD1 %xmm3, %xmm12 movaps -10 * SIZE(BO), %xmm3 ADD1 %xmm4, %xmm14 movaps %xmm2, %xmm4 pshufd $0x4e, %xmm2, %xmm7 mulpd %xmm0, %xmm2 mulpd %xmm1, %xmm4 ADD2 %xmm5, %xmm13 ADD2 %xmm6, %xmm15 movaps %xmm7, %xmm6 mulpd %xmm0, %xmm7 mulpd %xmm1, %xmm6 ADD1 %xmm2, %xmm8 movaps -8 * SIZE(BO), %xmm2 ADD1 %xmm4, %xmm10 movaps %xmm3, %xmm4 pshufd $0x4e, %xmm3, %xmm5 mulpd %xmm0, %xmm3 mulpd %xmm1, %xmm4 ADD2 %xmm7, %xmm9 ADD2 %xmm6, %xmm11 movaps %xmm5, %xmm6 mulpd %xmm0, %xmm5 movaps -8 * SIZE(AO), %xmm0 mulpd %xmm1, %xmm6 movaps -6 * SIZE(AO), %xmm1 ADD1 %xmm3, %xmm12 movaps -6 * SIZE(BO), %xmm3 ADD1 %xmm4, %xmm14 movaps %xmm2, %xmm4 pshufd $0x4e, %xmm2, %xmm7 mulpd %xmm0, %xmm2 mulpd %xmm1, %xmm4 ADD2 %xmm5, %xmm13 ADD2 %xmm6, %xmm15 movaps %xmm7, %xmm6 mulpd %xmm0, %xmm7 mulpd %xmm1, %xmm6 ADD1 %xmm2, %xmm8 movaps -4 * SIZE(BO), %xmm2 ADD1 %xmm4, %xmm10 movaps %xmm3, %xmm4 pshufd $0x4e, %xmm3, %xmm5 mulpd %xmm0, %xmm3 mulpd %xmm1, %xmm4 ADD2 %xmm7, %xmm9 ADD2 %xmm6, %xmm11 movaps %xmm5, %xmm6 mulpd %xmm0, %xmm5 movaps -4 * SIZE(AO), %xmm0 mulpd %xmm1, %xmm6 movaps -2 * SIZE(AO), %xmm1 ADD1 %xmm3, %xmm12 movaps -2 * SIZE(BO), %xmm3 ADD1 %xmm4, %xmm14 movaps %xmm2, %xmm4 pshufd $0x4e, %xmm2, %xmm7 mulpd %xmm0, %xmm2 mulpd %xmm1, %xmm4 ADD2 %xmm5, %xmm13 ADD2 %xmm6, %xmm15 movaps %xmm7, %xmm6 mulpd %xmm0, %xmm7 mulpd %xmm1, %xmm6 ADD1 %xmm2, %xmm8 movaps 0 * SIZE(BO), %xmm2 ADD1 %xmm4, %xmm10 movaps %xmm3, %xmm4 pshufd $0x4e, %xmm3, %xmm5 mulpd %xmm0, %xmm3 mulpd %xmm1, %xmm4 ADD2 %xmm7, %xmm9 ADD2 %xmm6, %xmm11 movaps %xmm5, %xmm6 mulpd %xmm0, %xmm5 movaps 0 * SIZE(AO), %xmm0 mulpd %xmm1, %xmm6 movaps 2 * SIZE(AO), %xmm1 ADD1 %xmm3, %xmm12 movaps 2 * SIZE(BO), %xmm3 ADD1 %xmm4, %xmm14 movaps %xmm2, %xmm4 pshufd $0x4e, %xmm2, %xmm7 mulpd %xmm0, %xmm2 mulpd %xmm1, %xmm4 ADD2 %xmm5, %xmm13 ADD2 %xmm6, %xmm15 movaps %xmm7, %xmm6 mulpd %xmm0, %xmm7 mulpd %xmm1, %xmm6 ADD1 %xmm2, %xmm8 movaps 4 * SIZE(BO), %xmm2 ADD1 %xmm4, %xmm10 movaps %xmm3, %xmm4 pshufd $0x4e, %xmm3, %xmm5 mulpd %xmm0, %xmm3 mulpd %xmm1, %xmm4 ADD2 %xmm7, %xmm9 ADD2 %xmm6, %xmm11 movaps %xmm5, %xmm6 mulpd %xmm0, %xmm5 movaps 4 * SIZE(AO), %xmm0 mulpd %xmm1, %xmm6 movaps 6 * SIZE(AO), %xmm1 ADD1 %xmm3, %xmm12 movaps 6 * SIZE(BO), %xmm3 ADD1 %xmm4, %xmm14 movaps %xmm2, %xmm4 pshufd $0x4e, %xmm2, %xmm7 mulpd %xmm0, %xmm2 mulpd %xmm1, %xmm4 ADD2 %xmm5, %xmm13 ADD2 %xmm6, %xmm15 movaps %xmm7, %xmm6 mulpd %xmm0, %xmm7 mulpd %xmm1, %xmm6 ADD1 %xmm2, %xmm8 movaps 8 * SIZE(BO), %xmm2 ADD1 %xmm4, %xmm10 movaps %xmm3, %xmm4 pshufd $0x4e, %xmm3, %xmm5 mulpd %xmm0, %xmm3 mulpd %xmm1, %xmm4 ADD2 %xmm7, %xmm9 ADD2 %xmm6, %xmm11 movaps %xmm5, %xmm6 mulpd %xmm0, %xmm5 movaps 8 * SIZE(AO), %xmm0 mulpd %xmm1, %xmm6 movaps 10 * SIZE(AO), %xmm1 ADD1 %xmm3, %xmm12 movaps 10 * SIZE(BO), %xmm3 ADD1 %xmm4, %xmm14 movaps %xmm2, %xmm4 pshufd $0x4e, %xmm2, %xmm7 mulpd %xmm0, %xmm2 mulpd %xmm1, %xmm4 ADD2 %xmm5, %xmm13 ADD2 %xmm6, %xmm15 movaps %xmm7, %xmm6 mulpd %xmm0, %xmm7 mulpd %xmm1, %xmm6 ADD1 %xmm2, %xmm8 movaps 12 * SIZE(BO), %xmm2 ADD1 %xmm4, %xmm10 movaps %xmm3, %xmm4 pshufd $0x4e, %xmm3, %xmm5 mulpd %xmm0, %xmm3 mulpd %xmm1, %xmm4 ADD2 %xmm7, %xmm9 ADD2 %xmm6, %xmm11 movaps %xmm5, %xmm6 mulpd %xmm0, %xmm5 movaps 12 * SIZE(AO), %xmm0 mulpd %xmm1, %xmm6 movaps 14 * SIZE(AO), %xmm1 ADD1 %xmm3, %xmm12 movaps 14 * SIZE(BO), %xmm3 ADD1 %xmm4, %xmm14 movaps %xmm2, %xmm4 pshufd $0x4e, %xmm2, %xmm7 mulpd %xmm0, %xmm2 mulpd %xmm1, %xmm4 ADD2 %xmm5, %xmm13 ADD2 %xmm6, %xmm15 movaps %xmm7, %xmm6 mulpd %xmm0, %xmm7 mulpd %xmm1, %xmm6 ADD1 %xmm2, %xmm8 movaps 16 * SIZE(BO), %xmm2 ADD1 %xmm4, %xmm10 movaps %xmm3, %xmm4 pshufd $0x4e, %xmm3, %xmm5 mulpd %xmm0, %xmm3 mulpd %xmm1, %xmm4 ADD2 %xmm7, %xmm9 subq $-32 * SIZE, AO ADD2 %xmm6, %xmm11 movaps %xmm5, %xmm6 mulpd %xmm0, %xmm5 movaps -16 * SIZE(AO), %xmm0 mulpd %xmm1, %xmm6 movaps -14 * SIZE(AO), %xmm1 subq $-32 * SIZE, BO subq $1, %rax jg,pt .L12 ALIGN_3.L15:#if defined(LT) || defined(RN) movq KK, %rax#else movq K, %rax subq KK, %rax#endif andq $7, %rax # if (k & 1) je,pt .L18 ALIGN_3.L16: ADD1 %xmm3, %xmm12 movaps -14 * SIZE(BO), %xmm3 ADD1 %xmm4, %xmm14 movaps %xmm2, %xmm4 pshufd $0x4e, %xmm2, %xmm7 mulpd %xmm0, %xmm2 mulpd %xmm1, %xmm4 ADD2 %xmm5, %xmm13 ADD2 %xmm6, %xmm15 movaps %xmm7, %xmm6 mulpd %xmm0, %xmm7 mulpd %xmm1, %xmm6 ADD1 %xmm2, %xmm8 movaps -12 * SIZE(BO), %xmm2 ADD1 %xmm4, %xmm10 movaps %xmm3, %xmm4 pshufd $0x4e, %xmm3, %xmm5 mulpd %xmm0, %xmm3 mulpd %xmm1, %xmm4 ADD2 %xmm7, %xmm9 ADD2 %xmm6, %xmm11 movaps %xmm5, %xmm6 mulpd %xmm0, %xmm5 movaps -12 * SIZE(AO), %xmm0 mulpd %xmm1, %xmm6 movaps -10 * SIZE(AO), %xmm1 addq $4 * SIZE, AO addq $4 * SIZE, BO subq $1, %rax jg,pt .L16 ALIGN_3.L18:#if defined(LN) || defined(RT) movq KK, %rax subq $2, %rax leaq (, %rax, SIZE), %rax movq AORIG, AO leaq (AO, %rax, 4), AO leaq (B, %rax, 4), BO#endif ADD1 %xmm3, %xmm12 pcmpeqb %xmm7, %xmm7 ADD1 %xmm4, %xmm14 psllq $63, %xmm7 ADD2 %xmm5, %xmm13 ADD2 %xmm6, %xmm15#ifndef CONJ pshufd $0x40, %xmm7, %xmm0 shufps $0x04, %xmm7, %xmm7 pxor %xmm0, %xmm8 pxor %xmm0, %xmm10 pxor %xmm0, %xmm12 pxor %xmm0, %xmm14#else#if defined(LN) || defined(LT) pshufd $0x40, %xmm7, %xmm0#else pshufd $0x04, %xmm7, %xmm0#endif shufps $0x40, %xmm7, %xmm7 pxor %xmm0, %xmm9 pxor %xmm0, %xmm11 pxor %xmm0, %xmm13 pxor %xmm0, %xmm15#endif haddpd %xmm9, %xmm8 haddpd %xmm11, %xmm10 haddpd %xmm13, %xmm12 haddpd %xmm15, %xmm14#if defined(LN) || defined(LT) movapd -16 * SIZE(BO), %xmm9 movapd -14 * SIZE(BO), %xmm11 movapd -12 * SIZE(BO), %xmm13 movapd -10 * SIZE(BO), %xmm15 subpd %xmm8, %xmm9 subpd %xmm12, %xmm11 subpd %xmm10, %xmm13 subpd %xmm14, %xmm15#else movapd -16 * SIZE(AO), %xmm9 movapd -14 * SIZE(AO), %xmm13 movapd -12 * SIZE(AO), %xmm11 movapd -10 * SIZE(AO), %xmm15 subpd %xmm8, %xmm9 subpd %xmm12, %xmm11 subpd %xmm10, %xmm13 subpd %xmm14, %xmm15#endif#ifdef LN movddup -10 * SIZE(AO), %xmm0 movddup -9 * SIZE(AO), %xmm1 movddup -12 * SIZE(AO), %xmm2 movddup -11 * SIZE(AO), %xmm3 movddup -16 * SIZE(AO), %xmm4 movddup -15 * SIZE(AO), %xmm5 pshufd $0x4e, %xmm13, %xmm12 pshufd $0x4e, %xmm15, %xmm14 xorpd %xmm7, %xmm12 xorpd %xmm7, %xmm14 mulpd %xmm0, %xmm13 mulpd %xmm1, %xmm12
⌨️ 快捷键说明
复制代码
Ctrl + C
搜索代码
Ctrl + F
全屏模式
F11
切换主题
Ctrl + Shift + D
显示快捷键
?
增大字号
Ctrl + =
减小字号
Ctrl + -