📄 ztrsm_kernel_ln_2x2_penryn.s
字号:
pxor %xmm7, %xmm7#else pxor %xmm4, %xmm4 prefetcht0 3 * SIZE(CO1) pxor %xmm5, %xmm5 prefetcht0 3 * SIZE(CO1, LDC) pxor %xmm6, %xmm6 pxor %xmm7, %xmm7#endif#if defined(LT) || defined(RN) movl KK, %eax#else movl K, %eax subl KK, %eax#endif sarl $3, %eax je .L15 ALIGN_4.L11: PREFETCH (PREFETCHSIZE + 0) * SIZE(AA) ADD2 %xmm2, %xmm7 pshufd $0xb1, %xmm1, %xmm2 mulps %xmm0, %xmm1 ADD1 %xmm3, %xmm6 pshufd $0x1b, %xmm2, %xmm3 mulps %xmm0, %xmm2 ADD2 %xmm2, %xmm5 pshufd $0xb1, %xmm3, %xmm2 mulps %xmm0, %xmm3 ADD1 %xmm1, %xmm4 movaps -28 * SIZE(BB), %xmm1 mulps %xmm0, %xmm2 movaps -28 * SIZE(AA), %xmm0 ADD2 %xmm2, %xmm7 pshufd $0xb1, %xmm1, %xmm2 mulps %xmm0, %xmm1 ADD1 %xmm3, %xmm6 pshufd $0x1b, %xmm2, %xmm3 mulps %xmm0, %xmm2 ADD2 %xmm2, %xmm5 pshufd $0xb1, %xmm3, %xmm2 mulps %xmm0, %xmm3 ADD1 %xmm1, %xmm4 movaps -24 * SIZE(BB), %xmm1 mulps %xmm0, %xmm2 movaps -24 * SIZE(AA), %xmm0 ADD2 %xmm2, %xmm7 pshufd $0xb1, %xmm1, %xmm2 mulps %xmm0, %xmm1 ADD1 %xmm3, %xmm6 pshufd $0x1b, %xmm2, %xmm3 mulps %xmm0, %xmm2 ADD2 %xmm2, %xmm5 pshufd $0xb1, %xmm3, %xmm2 mulps %xmm0, %xmm3 ADD1 %xmm1, %xmm4 movaps -20 * SIZE(BB), %xmm1 mulps %xmm0, %xmm2 movaps -20 * SIZE(AA), %xmm0 ADD2 %xmm2, %xmm7 pshufd $0xb1, %xmm1, %xmm2 mulps %xmm0, %xmm1 ADD1 %xmm3, %xmm6 pshufd $0x1b, %xmm2, %xmm3 mulps %xmm0, %xmm2 ADD2 %xmm2, %xmm5 pshufd $0xb1, %xmm3, %xmm2 mulps %xmm0, %xmm3 ADD1 %xmm1, %xmm4 movaps -16 * SIZE(BB), %xmm1 mulps %xmm0, %xmm2 movaps -16 * SIZE(AA), %xmm0 PREFETCH (PREFETCHSIZE + 16) * SIZE(AA) ADD2 %xmm2, %xmm7 pshufd $0xb1, %xmm1, %xmm2 mulps %xmm0, %xmm1 ADD1 %xmm3, %xmm6 pshufd $0x1b, %xmm2, %xmm3 mulps %xmm0, %xmm2 ADD2 %xmm2, %xmm5 pshufd $0xb1, %xmm3, %xmm2 mulps %xmm0, %xmm3 ADD1 %xmm1, %xmm4 movaps -12 * SIZE(BB), %xmm1 mulps %xmm0, %xmm2 movaps -12 * SIZE(AA), %xmm0 ADD2 %xmm2, %xmm7 pshufd $0xb1, %xmm1, %xmm2 mulps %xmm0, %xmm1 ADD1 %xmm3, %xmm6 pshufd $0x1b, %xmm2, %xmm3 mulps %xmm0, %xmm2 ADD2 %xmm2, %xmm5 pshufd $0xb1, %xmm3, %xmm2 mulps %xmm0, %xmm3 ADD1 %xmm1, %xmm4 movaps -8 * SIZE(BB), %xmm1 mulps %xmm0, %xmm2 movaps -8 * SIZE(AA), %xmm0 ADD2 %xmm2, %xmm7 pshufd $0xb1, %xmm1, %xmm2 mulps %xmm0, %xmm1 ADD1 %xmm3, %xmm6 pshufd $0x1b, %xmm2, %xmm3 mulps %xmm0, %xmm2 ADD2 %xmm2, %xmm5 pshufd $0xb1, %xmm3, %xmm2 mulps %xmm0, %xmm3 ADD1 %xmm1, %xmm4 movaps -4 * SIZE(BB), %xmm1 mulps %xmm0, %xmm2 movaps -4 * SIZE(AA), %xmm0 ADD2 %xmm2, %xmm7 subl $-32 * SIZE, BB pshufd $0xb1, %xmm1, %xmm2 mulps %xmm0, %xmm1 ADD1 %xmm3, %xmm6 pshufd $0x1b, %xmm2, %xmm3 mulps %xmm0, %xmm2 ADD2 %xmm2, %xmm5 subl $-32 * SIZE, AA pshufd $0xb1, %xmm3, %xmm2 mulps %xmm0, %xmm3 ADD1 %xmm1, %xmm4 movaps -32 * SIZE(BB), %xmm1 mulps %xmm0, %xmm2 movaps -32 * SIZE(AA), %xmm0 decl %eax jne .L11 ALIGN_4 .L15:#if defined(LT) || defined(RN) movl KK, %eax#else movl K, %eax subl KK, %eax#endif andl $7, %eax # if (k & 1) BRANCH je .L14 ALIGN_4.L13: ADD2 %xmm2, %xmm7 pshufd $0xb1, %xmm1, %xmm2 mulps %xmm0, %xmm1 ADD1 %xmm3, %xmm6 pshufd $0x1b, %xmm2, %xmm3 mulps %xmm0, %xmm2 ADD2 %xmm2, %xmm5 pshufd $0xb1, %xmm3, %xmm2 mulps %xmm0, %xmm3 ADD1 %xmm1, %xmm4 movaps -28 * SIZE(BB), %xmm1 mulps %xmm0, %xmm2 movaps -28 * SIZE(AA), %xmm0 addl $4 * SIZE, AA addl $4 * SIZE, BB decl %eax jg .L13 ALIGN_4.L14:#if defined(LN) || defined(RT) movl KK, %eax#ifdef LN subl $2, %eax#else subl $2, %eax#endif movl AORIG, AA sall $ZBASE_SHIFT, %eax leal (AA, %eax, 2), AA leal (B, %eax, 2), BB#endif ADD2 %xmm2, %xmm7 pcmpeqb %xmm0, %xmm0 ADD1 %xmm3, %xmm6 psllq $63, %xmm0#ifndef CONJ pxor %xmm0, %xmm4 pxor %xmm0, %xmm6 shufps $0xb1, %xmm0, %xmm0#else#if defined(LN) || defined(LT) pxor %xmm0, %xmm5 pxor %xmm0, %xmm7#else pshufd $0xb1, %xmm0, %xmm1 pxor %xmm1, %xmm5 pxor %xmm1, %xmm7#endif#endif haddps %xmm5, %xmm4 haddps %xmm7, %xmm6 shufps $0xd8, %xmm4, %xmm4 shufps $0xd8, %xmm6, %xmm6 movaps %xmm4, %xmm5 shufps $0xe4, %xmm6, %xmm4 shufps $0xe4, %xmm5, %xmm6#if defined(LN) || defined(LT) movaps %xmm4, %xmm5 unpcklpd %xmm6, %xmm4 unpckhpd %xmm6, %xmm5 movaps -32 * SIZE(BB), %xmm2 movaps -28 * SIZE(BB), %xmm3 subps %xmm4, %xmm2 subps %xmm5, %xmm3#else movaps -32 * SIZE(AA), %xmm1 movaps -28 * SIZE(AA), %xmm5 subps %xmm4, %xmm1 subps %xmm6, %xmm5#endif#ifdef LN movaps -28 * SIZE(AA), %xmm5 pshufd $0xee, %xmm5, %xmm6 pshufd $0xbb, %xmm5, %xmm7 pshufd $0xa0, %xmm3, %xmm4 pshufd $0xf5, %xmm3, %xmm3#ifndef CONJ xorps %xmm0, %xmm3#else xorps %xmm0, %xmm4#endif mulps %xmm6, %xmm4 mulps %xmm7, %xmm3 addps %xmm4, %xmm3 pshufd $0x44, %xmm5, %xmm6 pshufd $0x11, %xmm5, %xmm7 pshufd $0xa0, %xmm3, %xmm4 pshufd $0xf5, %xmm3, %xmm1#ifndef CONJ xorps %xmm0, %xmm1#else xorps %xmm0, %xmm4#endif mulps %xmm6, %xmm4 mulps %xmm7, %xmm1 subps %xmm4, %xmm2 subps %xmm1, %xmm2 movaps -32 * SIZE(AA), %xmm5 pshufd $0x44, %xmm5, %xmm6 pshufd $0x11, %xmm5, %xmm7 pshufd $0xa0, %xmm2, %xmm4 pshufd $0xf5, %xmm2, %xmm2#ifndef CONJ xorps %xmm0, %xmm2#else xorps %xmm0, %xmm4#endif mulps %xmm6, %xmm4 mulps %xmm7, %xmm2 addps %xmm4, %xmm2#endif#ifdef LT movaps -32 * SIZE(AA), %xmm5 pshufd $0x44, %xmm5, %xmm6 pshufd $0x11, %xmm5, %xmm7 pshufd $0xa0, %xmm2, %xmm4 pshufd $0xf5, %xmm2, %xmm2#ifndef CONJ xorps %xmm0, %xmm2#else xorps %xmm0, %xmm4#endif mulps %xmm6, %xmm4 mulps %xmm7, %xmm2 addps %xmm4, %xmm2 pshufd $0xee, %xmm5, %xmm6 pshufd $0xbb, %xmm5, %xmm7 pshufd $0xa0, %xmm2, %xmm4 pshufd $0xf5, %xmm2, %xmm1#ifndef CONJ xorps %xmm0, %xmm1#else xorps %xmm0, %xmm4#endif mulps %xmm6, %xmm4 mulps %xmm7, %xmm1 subps %xmm4, %xmm3 subps %xmm1, %xmm3 movaps -28 * SIZE(AA), %xmm5 pshufd $0xee, %xmm5, %xmm6 pshufd $0xbb, %xmm5, %xmm7 pshufd $0xa0, %xmm3, %xmm4 pshufd $0xf5, %xmm3, %xmm3#ifndef CONJ xorps %xmm0, %xmm3#else xorps %xmm0, %xmm4#endif mulps %xmm6, %xmm4 mulps %xmm7, %xmm3 addps %xmm4, %xmm3#endif#ifdef RN movaps -32 * SIZE(BB), %xmm4 pshufd $0x44, %xmm4, %xmm6 pshufd $0x11, %xmm4, %xmm7 pshufd $0xa0, %xmm1, %xmm3 pshufd $0xf5, %xmm1, %xmm1#ifndef CONJ xorps %xmm0, %xmm1#else xorps %xmm0, %xmm3#endif mulps %xmm6, %xmm3 mulps %xmm7, %xmm1 addps %xmm3, %xmm1 pshufd $0xee, %xmm4, %xmm6 pshufd $0xbb, %xmm4, %xmm7 pshufd $0xa0, %xmm1, %xmm3 pshufd $0xf5, %xmm1, %xmm2#ifndef CONJ xorps %xmm0, %xmm2#else xorps %xmm0, %xmm3#endif mulps %xmm6, %xmm3 mulps %xmm7, %xmm2 subps %xmm3, %xmm5 subps %xmm2, %xmm5 movaps -28 * SIZE(BB), %xmm4 pshufd $0xee, %xmm4, %xmm6 pshufd $0xbb, %xmm4, %xmm7 pshufd $0xa0, %xmm5, %xmm3 pshufd $0xf5, %xmm5, %xmm5#ifndef CONJ xorps %xmm0, %xmm5#else xorps %xmm0, %xmm3#endif mulps %xmm6, %xmm3 mulps %xmm7, %xmm5 addps %xmm3, %xmm5#endif#ifdef RT movaps -28 * SIZE(BB), %xmm4 pshufd $0xee, %xmm4, %xmm6 pshufd $0xbb, %xmm4, %xmm7 pshufd $0xa0, %xmm5, %xmm3 pshufd $0xf5, %xmm5, %xmm5#ifndef CONJ xorps %xmm0, %xmm5#else xorps %xmm0, %xmm3#endif mulps %xmm6, %xmm3 mulps %xmm7, %xmm5 addps %xmm3, %xmm5 pshufd $0x44, %xmm4, %xmm6 pshufd $0x11, %xmm4, %xmm7 pshufd $0xa0, %xmm5, %xmm3 pshufd $0xf5, %xmm5, %xmm2#ifndef CONJ xorps %xmm0, %xmm2#else xorps %xmm0, %xmm3#endif mulps %xmm6, %xmm3 mulps %xmm7, %xmm2 subps %xmm3, %xmm1 subps %xmm2, %xmm1 movaps -32 * SIZE(BB), %xmm4 pshufd $0x44, %xmm4, %xmm6 pshufd $0x11, %xmm4, %xmm7 pshufd $0xa0, %xmm1, %xmm3 pshufd $0xf5, %xmm1, %xmm1#ifndef CONJ xorps %xmm0, %xmm1#else xorps %xmm0, %xmm3#endif mulps %xmm6, %xmm3 mulps %xmm7, %xmm1 addps %xmm3, %xmm1#endif#ifdef LN subl $4 * SIZE, CO1#endif#if defined(LN) || defined(LT) movaps %xmm2, -32 * SIZE(BB) movaps %xmm3, -28 * SIZE(BB) movlps %xmm2, 0 * SIZE(CO1) movlps %xmm3, 2 * SIZE(CO1) movhps %xmm2, 0 * SIZE(CO1, LDC) movhps %xmm3, 2 * SIZE(CO1, LDC)#else movaps %xmm1, -32 * SIZE(AA) movaps %xmm5, -28 * SIZE(AA) movlps %xmm1, 0 * SIZE(CO1) movhps %xmm1, 2 * SIZE(CO1) movlps %xmm5, 0 * SIZE(CO1, LDC) movhps %xmm5, 2 * SIZE(CO1, LDC)#endif#ifndef LN addl $4 * SIZE, CO1#endif#if defined(LT) || defined(RN) movl K, %eax subl KK, %eax sall $ZBASE_SHIFT, %eax leal (AA, %eax, 2), AA leal (BB, %eax, 2), BB#endif#ifdef LN subl $2, KK#endif#ifdef LT addl $2, KK#endif#ifdef RT movl K, %eax sall $1 + ZBASE_SHIFT, %eax addl %eax, AORIG#endif decl %ebx jg .L10 ALIGN_4.L99:#ifdef LN movl K, %eax sall $1 + ZBASE_SHIFT, %eax addl %eax, B#endif#if defined(LT) || defined(RN) movl BB, B#endif#ifdef RN addl $2, KK#endif#ifdef RT subl $2, KK#endif decl J # j -- jg .L01 ALIGN_4.L100: movl N, %eax andl $1, %eax jle .L999#if defined(LT) || defined(RN) movl A, %eax movl %eax, AA#else movl A, %eax movl %eax, AORIG#endif#ifdef RT movl K, %eax sall $ZBASE_SHIFT, %eax subl %eax, B#endif#ifdef RT subl LDC, C#endif movl C, CO1#ifndef RT addl LDC, C#endif#ifdef LN movl OFFSET, %eax addl M, %eax movl %eax, KK#endif #ifdef LT movl OFFSET, %eax movl %eax, KK#endif movl M, %ebx andl $1, %ebx jle .L130#ifdef LN movl K, %eax sall $ZBASE_SHIFT, %eax subl %eax, AORIG#endif#if defined(LN) || defined(RT) movl KK, %eax movl AORIG, AA sall $ZBASE_SHIFT, %eax addl %eax, AA#endif movl B, BB#if defined(LN) || defined(RT) movl KK, %eax sall $ZBASE_SHIFT, %eax addl %eax, BB#endif movsd -32 * SIZE(AA), %xmm0 pxor %xmm2, %xmm2 movsd -32 * SIZE(BB), %xmm1 pxor %xmm3, %xmm3 pxor %xmm4, %xmm4 pxor %xmm5, %xmm5 pxor %xmm6, %xmm6 pxor %xmm7, %xmm7#if defined(LT) || defined(RN) movl KK, %eax#else movl K, %eax subl KK, %eax#endif sarl $3, %eax je .L142 ALIGN_4.L141: addps %xmm2, %xmm4 pshufd $0x00, %xmm1, %xmm2 mulps %xmm0, %xmm2 addps %xmm3, %xmm5 pshufd $0x55, %xmm1, %xmm3 movsd -30 * SIZE(BB), %xmm1 mulps %xmm0, %xmm3 movsd -30 * SIZE(AA), %xmm0
⌨️ 快捷键说明
复制代码
Ctrl + C
搜索代码
Ctrl + F
全屏模式
F11
切换主题
Ctrl + Shift + D
显示快捷键
?
增大字号
Ctrl + =
减小字号
Ctrl + -