📄 gemv_t_sse2_barcelona.s
字号:
je .L29 movlpd 0 * SIZE(AO1), %xmm8 mulsd %xmm12, %xmm8 addsd %xmm8, %xmm0 movlpd 0 * SIZE(AO2), %xmm8 mulsd %xmm12, %xmm8 addsd %xmm8, %xmm1 movlpd 0 * SIZE(AO1, LDA, 2), %xmm8 mulsd %xmm12, %xmm8 addsd %xmm8, %xmm2 movlpd 0 * SIZE(AO2, LDA, 2), %xmm8 mulsd %xmm12, %xmm8 addsd %xmm8, %xmm3.L29:#ifdef HAVE_SSE3 haddpd %xmm0, %xmm0 haddpd %xmm1, %xmm1 haddpd %xmm2, %xmm2 haddpd %xmm3, %xmm3#else movapd %xmm0, %xmm9 movapd %xmm1, %xmm10 movapd %xmm2, %xmm11 movapd %xmm3, %xmm12 unpckhpd %xmm0, %xmm0 unpckhpd %xmm1, %xmm1 unpckhpd %xmm2, %xmm2 unpckhpd %xmm3, %xmm3 addsd %xmm9, %xmm0 addsd %xmm10, %xmm1 addsd %xmm11, %xmm2 addsd %xmm12, %xmm3#endif mulsd ALPHA, %xmm0 mulsd ALPHA, %xmm1 mulsd ALPHA, %xmm2 mulsd ALPHA, %xmm3 movq CO, TEMP addsd (TEMP), %xmm0 addq INCY, TEMP addsd (TEMP), %xmm1 addq INCY, TEMP addsd (TEMP), %xmm2 addq INCY, TEMP addsd (TEMP), %xmm3 movlpd %xmm0, (CO) addq INCY, CO movlpd %xmm1, (CO) addq INCY, CO movlpd %xmm2, (CO) addq INCY, CO movlpd %xmm3, (CO) addq INCY, CO decq J jg .L21 ALIGN_3.L30: movq N, J andq $2, J jle .L40 ALIGN_3.L31: movq A, AO1 leaq (A, LDA, 1), AO2 leaq (A, LDA, 2), A movq BUFFER, BO movapd 0 * SIZE(BO), %xmm12 pxor %xmm0, %xmm0 movapd 2 * SIZE(BO), %xmm13 pxor %xmm1, %xmm1 pxor %xmm2, %xmm2 pxor %xmm3, %xmm3 PREFETCHW 3 * SIZE(CO) movq MIN_M, I sarq $4, I jle .L34 movupd 0 * SIZE(AO1), %xmm4 movupd 0 * SIZE(AO2), %xmm5 movupd 2 * SIZE(AO1), %xmm8 movupd 2 * SIZE(AO2), %xmm9 decq I jle .L33 ALIGN_3.L32: mulpd %xmm12, %xmm4 PREFETCH PREFETCHSIZE * SIZE(AO1) addpd %xmm4, %xmm0 movupd 4 * SIZE(AO1), %xmm4 mulpd %xmm12, %xmm5 movapd 4 * SIZE(BO), %xmm12 addpd %xmm5, %xmm1 movupd 4 * SIZE(AO2), %xmm5 mulpd %xmm13, %xmm8 addpd %xmm8, %xmm0 movupd 6 * SIZE(AO1), %xmm8 mulpd %xmm13, %xmm9 movapd 6 * SIZE(BO), %xmm13 addpd %xmm9, %xmm1 movupd 6 * SIZE(AO2), %xmm9 mulpd %xmm12, %xmm4 PREFETCH PREFETCHSIZE * SIZE(AO2) addpd %xmm4, %xmm0 movupd 8 * SIZE(AO1), %xmm4 mulpd %xmm12, %xmm5 movapd 8 * SIZE(BO), %xmm12 addpd %xmm5, %xmm1 movupd 8 * SIZE(AO2), %xmm5 mulpd %xmm13, %xmm8 addpd %xmm8, %xmm0 movupd 10 * SIZE(AO1), %xmm8 mulpd %xmm13, %xmm9 movapd 10 * SIZE(BO), %xmm13 addpd %xmm9, %xmm1 movupd 10 * SIZE(AO2), %xmm9 mulpd %xmm12, %xmm4 PREFETCH (PREFETCHSIZE + 8) * SIZE(AO1) addpd %xmm4, %xmm0 movupd 12 * SIZE(AO1), %xmm4 mulpd %xmm12, %xmm5 movapd 12 * SIZE(BO), %xmm12 addpd %xmm5, %xmm1 movupd 12 * SIZE(AO2), %xmm5 mulpd %xmm13, %xmm8 addpd %xmm8, %xmm0 movupd 14 * SIZE(AO1), %xmm8 mulpd %xmm13, %xmm9 movapd 14 * SIZE(BO), %xmm13 addpd %xmm9, %xmm1 movupd 14 * SIZE(AO2), %xmm9 mulpd %xmm12, %xmm4 PREFETCH (PREFETCHSIZE + 8) * SIZE(AO2) addpd %xmm4, %xmm0 movupd 16 * SIZE(AO1), %xmm4 mulpd %xmm12, %xmm5 movapd 16 * SIZE(BO), %xmm12 addpd %xmm5, %xmm1 movupd 16 * SIZE(AO2), %xmm5 mulpd %xmm13, %xmm8 addpd %xmm8, %xmm0 movupd 18 * SIZE(AO1), %xmm8 mulpd %xmm13, %xmm9 movapd 18 * SIZE(BO), %xmm13 addpd %xmm9, %xmm1 movupd 18 * SIZE(AO2), %xmm9 subq $-16 * SIZE, AO1 subq $-16 * SIZE, AO2 subq $-16 * SIZE, BO decq I jg .L32 ALIGN_3.L33: mulpd %xmm12, %xmm4 addpd %xmm4, %xmm0 movupd 4 * SIZE(AO1), %xmm4 mulpd %xmm12, %xmm5 movapd 4 * SIZE(BO), %xmm12 addpd %xmm5, %xmm1 movupd 4 * SIZE(AO2), %xmm5 mulpd %xmm13, %xmm8 addpd %xmm8, %xmm2 movupd 6 * SIZE(AO1), %xmm8 mulpd %xmm13, %xmm9 movapd 6 * SIZE(BO), %xmm13 addpd %xmm9, %xmm3 movupd 6 * SIZE(AO2), %xmm9 mulpd %xmm12, %xmm4 addpd %xmm4, %xmm0 movupd 8 * SIZE(AO1), %xmm4 mulpd %xmm12, %xmm5 movapd 8 * SIZE(BO), %xmm12 addpd %xmm5, %xmm1 movupd 8 * SIZE(AO2), %xmm5 mulpd %xmm13, %xmm8 addpd %xmm8, %xmm2 movupd 10 * SIZE(AO1), %xmm8 mulpd %xmm13, %xmm9 movapd 10 * SIZE(BO), %xmm13 addpd %xmm9, %xmm3 movupd 10 * SIZE(AO2), %xmm9 mulpd %xmm12, %xmm4 addpd %xmm4, %xmm0 movupd 12 * SIZE(AO1), %xmm4 mulpd %xmm12, %xmm5 movapd 12 * SIZE(BO), %xmm12 addpd %xmm5, %xmm1 movupd 12 * SIZE(AO2), %xmm5 mulpd %xmm13, %xmm8 addpd %xmm8, %xmm2 movupd 14 * SIZE(AO1), %xmm8 mulpd %xmm13, %xmm9 movapd 14 * SIZE(BO), %xmm13 addpd %xmm9, %xmm3 movupd 14 * SIZE(AO2), %xmm9 mulpd %xmm12, %xmm4 addpd %xmm4, %xmm0 mulpd %xmm12, %xmm5 addpd %xmm5, %xmm1 movapd 16 * SIZE(BO), %xmm12 mulpd %xmm13, %xmm8 addpd %xmm8, %xmm2 mulpd %xmm13, %xmm9 movapd 18 * SIZE(BO), %xmm13 addpd %xmm9, %xmm3 subq $-16 * SIZE, AO1 subq $-16 * SIZE, AO2 subq $-16 * SIZE, BO.L34: movq MIN_M, I andq $8, I je .L35 movupd 0 * SIZE(AO1), %xmm4 movupd 0 * SIZE(AO2), %xmm5 movupd 2 * SIZE(AO1), %xmm8 movupd 2 * SIZE(AO2), %xmm9 mulpd %xmm12, %xmm4 addpd %xmm4, %xmm0 movupd 4 * SIZE(AO1), %xmm4 mulpd %xmm12, %xmm5 movapd 4 * SIZE(BO), %xmm12 addpd %xmm5, %xmm1 movupd 4 * SIZE(AO2), %xmm5 mulpd %xmm13, %xmm8 addpd %xmm8, %xmm2 movupd 6 * SIZE(AO1), %xmm8 mulpd %xmm13, %xmm9 movapd 6 * SIZE(BO), %xmm13 addpd %xmm9, %xmm3 movupd 6 * SIZE(AO2), %xmm9 mulpd %xmm12, %xmm4 addpd %xmm4, %xmm0 mulpd %xmm12, %xmm5 addpd %xmm5, %xmm1 movapd 8 * SIZE(BO), %xmm12 mulpd %xmm13, %xmm8 addpd %xmm8, %xmm2 mulpd %xmm13, %xmm9 movapd 10 * SIZE(BO), %xmm13 addpd %xmm9, %xmm3 subq $-8 * SIZE, AO1 subq $-8 * SIZE, AO2 subq $-8 * SIZE, BO.L35: movq MIN_M, I andq $4, I je .L36 movupd 0 * SIZE(AO1), %xmm4 movupd 0 * SIZE(AO2), %xmm5 mulpd %xmm12, %xmm4 addpd %xmm4, %xmm0 mulpd %xmm12, %xmm5 movapd 4 * SIZE(BO), %xmm12 addpd %xmm5, %xmm1 movupd 2 * SIZE(AO1), %xmm8 movupd 2 * SIZE(AO2), %xmm9 mulpd %xmm13, %xmm8 addpd %xmm8, %xmm2 mulpd %xmm13, %xmm9 movapd 6 * SIZE(BO), %xmm13 addpd %xmm9, %xmm3 subq $-4 * SIZE, AO1 subq $-4 * SIZE, AO2 subq $-4 * SIZE, BO.L36: movq MIN_M, I andq $2, I je .L37 movupd 0 * SIZE(AO1), %xmm4 movupd 0 * SIZE(AO2), %xmm5 mulpd %xmm12, %xmm4 addpd %xmm4, %xmm0 mulpd %xmm12, %xmm5 movapd 2 * SIZE(BO), %xmm12 addpd %xmm5, %xmm1 subq $-2 * SIZE, AO1 subq $-2 * SIZE, AO2 subq $-2 * SIZE, BO.L37: movq MIN_M, I andq $1, I je .L39 movlpd 0 * SIZE(AO1), %xmm8 mulsd %xmm12, %xmm8 addsd %xmm8, %xmm0 movlpd 0 * SIZE(AO2), %xmm8 mulsd %xmm12, %xmm8 addsd %xmm8, %xmm1.L39: addpd %xmm2, %xmm0 addpd %xmm3, %xmm1#ifdef HAVE_SSE3 haddpd %xmm0, %xmm0 haddpd %xmm1, %xmm1#else movapd %xmm0, %xmm9 movapd %xmm1, %xmm10 unpckhpd %xmm0, %xmm0 unpckhpd %xmm1, %xmm1 addsd %xmm9, %xmm0 addsd %xmm10, %xmm1#endif mulsd ALPHA, %xmm0 mulsd ALPHA, %xmm1 movq CO, TEMP addsd (TEMP), %xmm0 addq INCY, TEMP addsd (TEMP), %xmm1 addq INCY, TEMP movlpd %xmm0, (CO) addq INCY, CO movlpd %xmm1, (CO) addq INCY, CO ALIGN_3.L40: movq N, J andq $1, J jle .L49 ALIGN_3.L41: movq A, AO1 addq LDA, A movq BUFFER, BO movapd 0 * SIZE(BO), %xmm12 pxor %xmm0, %xmm0 movapd 2 * SIZE(BO), %xmm13 pxor %xmm1, %xmm1 pxor %xmm2, %xmm2 pxor %xmm3, %xmm3 PREFETCHW 3 * SIZE(CO) movq MIN_M, I sarq $4, I jle .L44 movupd 0 * SIZE(AO1), %xmm4 movupd 2 * SIZE(AO1), %xmm8 decq I jle .L43 ALIGN_3.L42: PREFETCH PREFETCHSIZE * SIZE(AO1) mulpd %xmm12, %xmm4 movapd 4 * SIZE(BO), %xmm12 addpd %xmm4, %xmm0 movupd 4 * SIZE(AO1), %xmm4 mulpd %xmm13, %xmm8 movapd 6 * SIZE(BO), %xmm13 addpd %xmm8, %xmm0 movupd 6 * SIZE(AO1), %xmm8 mulpd %xmm12, %xmm4 movapd 8 * SIZE(BO), %xmm12 addpd %xmm4, %xmm0 movupd 8 * SIZE(AO1), %xmm4 mulpd %xmm13, %xmm8 movapd 10 * SIZE(BO), %xmm13 addpd %xmm8, %xmm0 movupd 10 * SIZE(AO1), %xmm8 mulpd %xmm12, %xmm4 movapd 12 * SIZE(BO), %xmm12 addpd %xmm4, %xmm0 movupd 12 * SIZE(AO1), %xmm4 mulpd %xmm13, %xmm8 movapd 14 * SIZE(BO), %xmm13 addpd %xmm8, %xmm0 movupd 14 * SIZE(AO1), %xmm8 mulpd %xmm12, %xmm4 movapd 16 * SIZE(BO), %xmm12 addpd %xmm4, %xmm0 movupd 16 * SIZE(AO1), %xmm4 mulpd %xmm13, %xmm8 movapd 18 * SIZE(BO), %xmm13 addpd %xmm8, %xmm0 movupd 18 * SIZE(AO1), %xmm8 subq $-16 * SIZE, AO1 subq $-16 * SIZE, BO decq I jg .L42 ALIGN_3.L43: mulpd %xmm12, %xmm4 movapd 4 * SIZE(BO), %xmm12 addpd %xmm4, %xmm0 movupd 4 * SIZE(AO1), %xmm4 mulpd %xmm13, %xmm8 movapd 6 * SIZE(BO), %xmm13 addpd %xmm8, %xmm1 movupd 6 * SIZE(AO1), %xmm8 mulpd %xmm12, %xmm4 movapd 8 * SIZE(BO), %xmm12 addpd %xmm4, %xmm2 movupd 8 * SIZE(AO1), %xmm4 mulpd %xmm13, %xmm8 movapd 10 * SIZE(BO), %xmm13 addpd %xmm8, %xmm3 movupd 10 * SIZE(AO1), %xmm8 mulpd %xmm12, %xmm4 movapd 12 * SIZE(BO), %xmm12 addpd %xmm4, %xmm0 movupd 12 * SIZE(AO1), %xmm4 mulpd %xmm13, %xmm8 movapd 14 * SIZE(BO), %xmm13 addpd %xmm8, %xmm1 movupd 14 * SIZE(AO1), %xmm8 mulpd %xmm12, %xmm4 movapd 16 * SIZE(BO), %xmm12 addpd %xmm4, %xmm2 subq $-16 * SIZE, AO1 mulpd %xmm13, %xmm8 movapd 18 * SIZE(BO), %xmm13 addpd %xmm8, %xmm3 subq $-16 * SIZE, BO.L44: movq MIN_M, I andq $8, I je .L45 movupd 0 * SIZE(AO1), %xmm4 movupd 2 * SIZE(AO1), %xmm8 mulpd %xmm12, %xmm4 movapd 4 * SIZE(BO), %xmm12 addpd %xmm4, %xmm0 movupd 4 * SIZE(AO1), %xmm4 mulpd %xmm13, %xmm8 movapd 6 * SIZE(BO), %xmm13 addpd %xmm8, %xmm1 movupd 6 * SIZE(AO1), %xmm8 mulpd %xmm12, %xmm4 movapd 8 * SIZE(BO), %xmm12 addpd %xmm4, %xmm2 subq $-8 * SIZE, AO1 mulpd %xmm13, %xmm8 movapd 10 * SIZE(BO), %xmm13 addpd %xmm8, %xmm3 subq $-8 * SIZE, BO.L45: movq MIN_M, I andq $4, I je .L46 movupd 0 * SIZE(AO1), %xmm4 movupd 2 * SIZE(AO1), %xmm8 subq $-4 * SIZE, AO1 mulpd %xmm12, %xmm4 movapd 4 * SIZE(BO), %xmm12 addpd %xmm4, %xmm0 mulpd %xmm13, %xmm8 subq $-4 * SIZE, BO addpd %xmm8, %xmm1.L46: movq MIN_M, I andq $2, I je .L47 movupd 0 * SIZE(AO1), %xmm4 subq $-2 * SIZE, AO1 mulpd %xmm12, %xmm4 movapd 2 * SIZE(BO), %xmm12 addpd %xmm4, %xmm0 subq $-2 * SIZE, BO.L47: movq MIN_M, I andq $1, I je .L48 movlpd 0 * SIZE(AO1), %xmm8 mulsd %xmm12, %xmm8 addsd %xmm8, %xmm0.L48: addpd %xmm2, %xmm0 addpd %xmm3, %xmm1 addpd %xmm1, %xmm0#ifdef HAVE_SSE3 haddpd %xmm0, %xmm0#else movapd %xmm0, %xmm9 unpckhpd %xmm0, %xmm0 addsd %xmm9, %xmm0#endif mulsd ALPHA, %xmm0 addsd (CO), %xmm0 movlpd %xmm0, (CO) ALIGN_3.L49: addq NLDA, A addq $P, IS cmpq M, IS jl .L10 ALIGN_3.L999: movq 0(%rsp), %rbx movq 8(%rsp), %rbp movq 16(%rsp), %r12 movq 24(%rsp), %r13 movq 32(%rsp), %r14 movq 40(%rsp), %r15#ifdef WINDOWS_ABI movq 48(%rsp), %rdi movq 56(%rsp), %rsi movups 64(%rsp), %xmm6 movups 80(%rsp), %xmm7 movups 96(%rsp), %xmm8 movups 112(%rsp), %xmm9 movups 128(%rsp), %xmm10 movups 144(%rsp), %xmm11 movups 160(%rsp), %xmm12 movups 176(%rsp), %xmm13 movups 192(%rsp), %xmm14 movups 208(%rsp), %xmm15#endif addq $STACKSIZE, %rsp ret ALIGN_3 EPILOGUE
⌨️ 快捷键说明
复制代码
Ctrl + C
搜索代码
Ctrl + F
全屏模式
F11
切换主题
Ctrl + Shift + D
显示快捷键
?
增大字号
Ctrl + =
减小字号
Ctrl + -