📄 ztrsm_kernel_rt_4x2_sse.s

📁 Optimized GotoBLAS libraries
💻 S
📖 第 1 页 / 共 5 页
字号:
	leaq	BUFFER, BO	salq	$ZBASE_SHIFT, %rax	leaq	(AO, %rax, 4), AO	leaq	(B,  %rax, 2), B	leaq	(BO, %rax, 8), BO#endif#if defined(LN) || defined(LT)	movaps	%xmm0, %xmm1	unpcklpd %xmm2, %xmm0	unpckhpd %xmm2, %xmm1	movaps	%xmm4, %xmm5	unpcklpd %xmm6, %xmm4	unpckhpd %xmm6, %xmm5	movaps	 0 * SIZE(B), %xmm2	movaps	 4 * SIZE(B), %xmm3	movaps	 8 * SIZE(B), %xmm6	movaps	12 * SIZE(B), %xmm7	subps	%xmm0,  %xmm2	subps	%xmm1,  %xmm3	subps	%xmm4,  %xmm6	subps	%xmm5,  %xmm7#else	movaps	 0 * SIZE(AO), %xmm1	movaps	 4 * SIZE(AO), %xmm3	movaps	 8 * SIZE(AO), %xmm5	movaps	12 * SIZE(AO), %xmm7	subps	%xmm0,  %xmm1	subps	%xmm4,  %xmm3	subps	%xmm2,  %xmm5	subps	%xmm6,  %xmm7#endif#ifdef LN	movaps	28 * SIZE(AO), %xmm8	pshufd	 $0xee, %xmm8, %xmm9	pshufd	 $0xbb, %xmm8, %xmm10	pshufd	 $0xa0, %xmm7, %xmm0	pshufd	 $0xf5, %xmm7, %xmm7#ifndef CONJ	xorps	 %xmm15, %xmm7#else	xorps	 %xmm15, %xmm0#endif	mulps	%xmm9,  %xmm0	mulps	%xmm10, %xmm7	addps	%xmm0,  %xmm7	pshufd	 $0x44, %xmm8, %xmm9	pshufd	 $0x11, %xmm8, %xmm10	pshufd	 $0xa0, %xmm7, %xmm0	pshufd	 $0xf5, %xmm7, %xmm1#ifndef CONJ	xorps	 %xmm15, %xmm1#else	xorps	 %xmm15, %xmm0#endif	mulps	%xmm9,  %xmm0	mulps	%xmm10, %xmm1	subps	%xmm0,  %xmm6	subps	%xmm1,  %xmm6	movaps	24 * SIZE(AO), %xmm8	pshufd	 $0xee, %xmm8, %xmm9	pshufd	 $0xbb, %xmm8, %xmm10	pshufd	 $0xa0, %xmm7, %xmm0	pshufd	 $0xf5, %xmm7, %xmm1#ifndef CONJ	xorps	 %xmm15, %xmm1#else	xorps	 %xmm15, %xmm0#endif	mulps	%xmm9,  %xmm0	mulps	%xmm10, %xmm1	subps	%xmm0,  %xmm3	subps	%xmm1,  %xmm3	pshufd	 $0x44, %xmm8, %xmm9	pshufd	 $0x11, %xmm8, %xmm10	pshufd	 $0xa0, %xmm7, %xmm0	pshufd	 $0xf5, %xmm7, %xmm1#ifndef CONJ	xorps	 %xmm15, %xmm1#else	xorps	 %xmm15, %xmm0#endif	mulps	%xmm9,  %xmm0	mulps	%xmm10, %xmm1	subps	%xmm0,  %xmm2	subps	%xmm1,  %xmm2	movaps	20 * SIZE(AO), %xmm8	pshufd	 $0x44, %xmm8, %xmm9	pshufd	 $0x11, %xmm8, %xmm10	pshufd	 $0xa0, %xmm6, %xmm0	pshufd	 $0xf5, %xmm6, %xmm6#ifndef CONJ	xorps	 %xmm15, %xmm6#else	xorps	 %xmm15, %xmm0#endif	mulps	%xmm9,  %xmm0	mulps	%xmm10, %xmm6	addps	%xmm0,  %xmm6	movaps	16 * SIZE(AO), %xmm8	pshufd	 $0xee, %xmm8, %xmm9	pshufd	 $0xbb, %xmm8, %xmm10	pshufd	 $0xa0, %xmm6, %xmm0	pshufd	 $0xf5, %xmm6, %xmm1#ifndef CONJ	xorps	 %xmm15, %xmm1#else	xorps	 %xmm15, %xmm0#endif	mulps	%xmm9,  %xmm0	mulps	%xmm10, %xmm1	subps	%xmm0,  %xmm3	subps	%xmm1,  %xmm3	pshufd	 $0x44, %xmm8, %xmm9	pshufd	 $0x11, %xmm8, %xmm10	pshufd	 $0xa0, %xmm6, %xmm0	pshufd	 $0xf5, %xmm6, %xmm1#ifndef CONJ	xorps	 %xmm15, %xmm1#else	xorps	 %xmm15, %xmm0#endif	mulps	%xmm9,  %xmm0	mulps	%xmm10, %xmm1	subps	%xmm0,  %xmm2	subps	%xmm1,  %xmm2	movaps	 8 * SIZE(AO), %xmm8	pshufd	 $0xee, %xmm8, %xmm9	pshufd	 $0xbb, %xmm8, %xmm10	pshufd	 $0xa0, %xmm3, %xmm0	pshufd	 $0xf5, %xmm3, %xmm3#ifndef CONJ	xorps	 %xmm15, %xmm3#else	xorps	 %xmm15, %xmm0#endif	mulps	%xmm9,  %xmm0	mulps	%xmm10, %xmm3	addps	%xmm0,  %xmm3	pshufd	 $0x44, %xmm8, %xmm9	pshufd	 $0x11, %xmm8, %xmm10	pshufd	 $0xa0, %xmm3, %xmm0	pshufd	 $0xf5, %xmm3, %xmm1#ifndef CONJ	xorps	 %xmm15, %xmm1#else	xorps	 %xmm15, %xmm0#endif	mulps	%xmm9,  %xmm0	mulps	%xmm10, %xmm1	subps	%xmm0,  %xmm2	subps	%xmm1,  %xmm2	movaps	 0 * SIZE(AO), %xmm8	pshufd	 $0x44, %xmm8, %xmm9	pshufd	 $0x11, %xmm8, %xmm10	pshufd	 $0xa0, %xmm2, %xmm0	pshufd	 $0xf5, %xmm2, %xmm2#ifndef CONJ	xorps	 %xmm15, %xmm2#else	xorps	 %xmm15, %xmm0#endif	mulps	%xmm9,  %xmm0	mulps	%xmm10, %xmm2	addps	%xmm0,  %xmm2#endif#ifdef LT	movaps	 0 * SIZE(AO), %xmm8	pshufd	 $0x44, %xmm8, %xmm9	pshufd	 $0x11, %xmm8, %xmm10	pshufd	 $0xa0, %xmm2, %xmm0	pshufd	 $0xf5, %xmm2, %xmm2#ifndef CONJ	xorps	 %xmm15, %xmm2#else	xorps	 %xmm15, %xmm0#endif	mulps	%xmm9,  %xmm0	mulps	%xmm10, %xmm2	addps	%xmm0,  %xmm2	pshufd	 $0xee, %xmm8, %xmm9	pshufd	 $0xbb, %xmm8, %xmm10	pshufd	 $0xa0, %xmm2, %xmm0	pshufd	 $0xf5, %xmm2, %xmm1#ifndef CONJ	xorps	 %xmm15, %xmm1#else	xorps	 %xmm15, %xmm0#endif	mulps	%xmm9,  %xmm0	mulps	%xmm10, %xmm1	subps	%xmm0,  %xmm3	subps	%xmm1,  %xmm3	movaps	 4 * SIZE(AO), %xmm8	pshufd	 $0x44, %xmm8, %xmm9	pshufd	 $0x11, %xmm8, %xmm10	pshufd	 $0xa0, %xmm2, %xmm0	pshufd	 $0xf5, %xmm2, %xmm1#ifndef CONJ	xorps	 %xmm15, %xmm1#else	xorps	 %xmm15, %xmm0#endif	mulps	%xmm9,  %xmm0	mulps	%xmm10, %xmm1	subps	%xmm0,  %xmm6	subps	%xmm1,  %xmm6	pshufd	 $0xee, %xmm8, %xmm9	pshufd	 $0xbb, %xmm8, %xmm10	pshufd	 $0xa0, %xmm2, %xmm0	pshufd	 $0xf5, %xmm2, %xmm1#ifndef CONJ	xorps	 %xmm15, %xmm1#else	xorps	 %xmm15, %xmm0#endif	mulps	%xmm9,  %xmm0	mulps	%xmm10, %xmm1	subps	%xmm0,  %xmm7	subps	%xmm1,  %xmm7	movaps	 8 * SIZE(AO), %xmm8	pshufd	 $0xee, %xmm8, %xmm9	pshufd	 $0xbb, %xmm8, %xmm10	pshufd	 $0xa0, %xmm3, %xmm0	pshufd	 $0xf5, %xmm3, %xmm3#ifndef CONJ	xorps	 %xmm15, %xmm3#else	xorps	 %xmm15, %xmm0#endif	mulps	%xmm9,  %xmm0	mulps	%xmm10, %xmm3	addps	%xmm0,  %xmm3	movaps	 12 * SIZE(AO), %xmm8	pshufd	 $0x44, %xmm8, %xmm9	pshufd	 $0x11, %xmm8, %xmm10	pshufd	 $0xa0, %xmm3, %xmm0	pshufd	 $0xf5, %xmm3, %xmm1#ifndef CONJ	xorps	 %xmm15, %xmm1#else	xorps	 %xmm15, %xmm0#endif	mulps	%xmm9,  %xmm0	mulps	%xmm10, %xmm1	subps	%xmm0,  %xmm6	subps	%xmm1,  %xmm6	pshufd	 $0xee, %xmm8, %xmm9	pshufd	 $0xbb, %xmm8, %xmm10	pshufd	 $0xa0, %xmm3, %xmm0	pshufd	 $0xf5, %xmm3, %xmm1#ifndef CONJ	xorps	 %xmm15, %xmm1#else	xorps	 %xmm15, %xmm0#endif	mulps	%xmm9,  %xmm0	mulps	%xmm10, %xmm1	subps	%xmm0,  %xmm7	subps	%xmm1,  %xmm7	movaps	20 * SIZE(AO), %xmm8	pshufd	 $0x44, %xmm8, %xmm9	pshufd	 $0x11, %xmm8, %xmm10	pshufd	 $0xa0, %xmm6, %xmm0	pshufd	 $0xf5, %xmm6, %xmm6#ifndef CONJ	xorps	 %xmm15, %xmm6#else	xorps	 %xmm15, %xmm0#endif	mulps	%xmm9,  %xmm0	mulps	%xmm10, %xmm6	addps	%xmm0,  %xmm6	pshufd	 $0xee, %xmm8, %xmm9	pshufd	 $0xbb, %xmm8, %xmm10	pshufd	 $0xa0, %xmm6, %xmm0	pshufd	 $0xf5, %xmm6, %xmm1#ifndef CONJ	xorps	 %xmm15, %xmm1#else	xorps	 %xmm15, %xmm0#endif	mulps	%xmm9,  %xmm0	mulps	%xmm10, %xmm1	subps	%xmm0,  %xmm7	subps	%xmm1,  %xmm7	movaps	28 * SIZE(AO), %xmm8	pshufd	 $0xee, %xmm8, %xmm9	pshufd	 $0xbb, %xmm8, %xmm10	pshufd	 $0xa0, %xmm7, %xmm0	pshufd	 $0xf5, %xmm7, %xmm7#ifndef CONJ	xorps	 %xmm15, %xmm7#else	xorps	 %xmm15, %xmm0#endif	mulps	%xmm9,  %xmm0	mulps	%xmm10, %xmm7	addps	%xmm0,  %xmm7#endif#ifdef RN	movaps	 0 * SIZE(B), %xmm8	pshufd	 $0x44, %xmm8, %xmm9	pshufd	 $0x11, %xmm8, %xmm10	pshufd	 $0xa0, %xmm1, %xmm0	pshufd	 $0xf5, %xmm1, %xmm1	pshufd	 $0xa0, %xmm3, %xmm2	pshufd	 $0xf5, %xmm3, %xmm3#ifndef CONJ	xorps	 %xmm15, %xmm1	xorps	 %xmm15, %xmm3#else	xorps	 %xmm15, %xmm0	xorps	 %xmm15, %xmm2#endif	mulps	%xmm9,  %xmm0	mulps	%xmm9,  %xmm2	mulps	%xmm10, %xmm1	mulps	%xmm10, %xmm3	addps	%xmm0,  %xmm1	addps	%xmm2,  %xmm3	pshufd	 $0xee, %xmm8, %xmm9	pshufd	 $0xbb, %xmm8, %xmm10	pshufd	 $0xa0, %xmm1, %xmm0	pshufd	 $0xf5, %xmm1, %xmm2	pshufd	 $0xa0, %xmm3, %xmm4	pshufd	 $0xf5, %xmm3, %xmm6#ifndef CONJ	xorps	 %xmm15, %xmm2	xorps	 %xmm15, %xmm6#else	xorps	 %xmm15, %xmm0	xorps	 %xmm15, %xmm4#endif	mulps	%xmm9,  %xmm0	mulps	%xmm9,  %xmm4	mulps	%xmm10, %xmm2	mulps	%xmm10, %xmm6	subps	%xmm0,  %xmm5	subps	%xmm4,  %xmm7	subps	%xmm2,  %xmm5	subps	%xmm6,  %xmm7	movaps	 4 * SIZE(B), %xmm8	pshufd	 $0xee, %xmm8, %xmm9	pshufd	 $0xbb, %xmm8, %xmm10	pshufd	 $0xa0, %xmm5, %xmm4	pshufd	 $0xf5, %xmm5, %xmm5	pshufd	 $0xa0, %xmm7, %xmm6	pshufd	 $0xf5, %xmm7, %xmm7#ifndef CONJ	xorps	 %xmm15, %xmm5	xorps	 %xmm15, %xmm7#else	xorps	 %xmm15, %xmm4	xorps	 %xmm15, %xmm6#endif	mulps	%xmm9,  %xmm4	mulps	%xmm9,  %xmm6	mulps	%xmm10, %xmm5	mulps	%xmm10, %xmm7	addps	%xmm4,  %xmm5	addps	%xmm6,  %xmm7#endif#ifdef RT	movaps	 4 * SIZE(B), %xmm8	pshufd	 $0xee, %xmm8, %xmm9	pshufd	 $0xbb, %xmm8, %xmm10	pshufd	 $0xa0, %xmm5, %xmm0	pshufd	 $0xf5, %xmm5, %xmm5	pshufd	 $0xa0, %xmm7, %xmm2	pshufd	 $0xf5, %xmm7, %xmm7#ifndef CONJ	xorps	 %xmm15, %xmm5	xorps	 %xmm15, %xmm7#else	xorps	 %xmm15, %xmm0	xorps	 %xmm15, %xmm2#endif	mulps	%xmm9,  %xmm0	mulps	%xmm9,  %xmm2	mulps	%xmm10, %xmm5	mulps	%xmm10, %xmm7	addps	%xmm0,  %xmm5	addps	%xmm2,  %xmm7	pshufd	 $0x44, %xmm8, %xmm9	pshufd	 $0x11, %xmm8, %xmm10	pshufd	 $0xa0, %xmm5, %xmm0	pshufd	 $0xf5, %xmm5, %xmm2	pshufd	 $0xa0, %xmm7, %xmm4	pshufd	 $0xf5, %xmm7, %xmm6#ifndef CONJ	xorps	 %xmm15, %xmm2	xorps	 %xmm15, %xmm6#else	xorps	 %xmm15, %xmm0	xorps	 %xmm15, %xmm4#endif	mulps	%xmm9,  %xmm0	mulps	%xmm9,  %xmm4	mulps	%xmm10, %xmm2	mulps	%xmm10, %xmm6	subps	%xmm0,  %xmm1	subps	%xmm4,  %xmm3	subps	%xmm2,  %xmm1	subps	%xmm6,  %xmm3	movaps	 0 * SIZE(B), %xmm8	pshufd	 $0x44, %xmm8, %xmm9	pshufd	 $0x11, %xmm8, %xmm10	pshufd	 $0xa0, %xmm1, %xmm4	pshufd	 $0xf5, %xmm1, %xmm1	pshufd	 $0xa0, %xmm3, %xmm6	pshufd	 $0xf5, %xmm3, %xmm3#ifndef CONJ	xorps	 %xmm15, %xmm1	xorps	 %xmm15, %xmm3#else	xorps	 %xmm15, %xmm4	xorps	 %xmm15, %xmm6#endif	mulps	%xmm9,  %xmm4	mulps	%xmm9,  %xmm6	mulps	%xmm10, %xmm1	mulps	%xmm10, %xmm3	addps	%xmm4,  %xmm1	addps	%xmm6,  %xmm3#endif#ifdef LN	subq	$8 * SIZE, CO1	subq	$8 * SIZE, CO2#endif#if defined(LN) || defined(LT)	movaps	%xmm2,   0 * SIZE(B)	movaps	%xmm3,   4 * SIZE(B)	movaps	%xmm6,   8 * SIZE(B)	movaps	%xmm7,  12 * SIZE(B)	pshufd	$0x00, %xmm2, %xmm0	pshufd	$0x55, %xmm2, %xmm1	pshufd	$0xaa, %xmm2, %xmm4	pshufd	$0xff, %xmm2, %xmm5	movaps	%xmm0,   0 * SIZE(BO)	movaps	%xmm1,   4 * SIZE(BO)	movaps	%xmm4,   8 * SIZE(BO)	movaps	%xmm5,  12 * SIZE(BO)	pshufd	$0x00, %xmm3, %xmm0	pshufd	$0x55, %xmm3, %xmm1	pshufd	$0xaa, %xmm3, %xmm4	pshufd	$0xff, %xmm3, %xmm5	movaps	%xmm0,  16 * SIZE(BO)	movaps	%xmm1,  20 * SIZE(BO)	movaps	%xmm4,  24 * SIZE(BO)	movaps	%xmm5,  28 * SIZE(BO)	pshufd	$0x00, %xmm6, %xmm0	pshufd	$0x55, %xmm6, %xmm1	pshufd	$0xaa, %xmm6, %xmm4	pshufd	$0xff, %xmm6, %xmm5	movaps	%xmm0,  32 * SIZE(BO)	movaps	%xmm1,  36 * SIZE(BO)	movaps	%xmm4,  40 * SIZE(BO)	movaps	%xmm5,  44 * SIZE(BO)	pshufd	$0x00, %xmm7, %xmm0	pshufd	$0x55, %xmm7, %xmm1	pshufd	$0xaa, %xmm7, %xmm4	pshufd	$0xff, %xmm7, %xmm5	movaps	%xmm0,  48 * SIZE(BO)	movaps	%xmm1,  52 * SIZE(BO)	movaps	%xmm4,  56 * SIZE(BO)	movaps	%xmm5,  60 * SIZE(BO)	movlps	%xmm2,   0 * SIZE(CO1)	movlps	%xmm3,   2 * SIZE(CO1)	movlps	%xmm6,   4 * SIZE(CO1)	movlps	%xmm7,   6 * SIZE(CO1)	movhps	%xmm2,   0 * SIZE(CO2)	movhps	%xmm3,   2 * SIZE(CO2)	movhps	%xmm6,   4 * SIZE(CO2)	movhps	%xmm7,   6 * SIZE(CO2)#else	movaps	%xmm1,   0 * SIZE(AO)	movaps	%xmm3,   4 * SIZE(AO)	movaps	%xmm5,   8 * SIZE(AO)	movaps	%xmm7,  12 * SIZE(AO)	movlps	%xmm1,   0 * SIZE(CO1)	movhps	%xmm1,   2 * SIZE(CO1)	movlps	%xmm3,   4 * SIZE(CO1)	movhps	%xmm3,   6 * SIZE(CO1)	movlps	%xmm5,   0 * SIZE(CO2)	movhps	%xmm5,   2 * SIZE(CO2)	movlps	%xmm7,   4 * SIZE(CO2)	movhps	%xmm7,   6 * SIZE(CO2)#endif#ifndef LN	addq	$8 * SIZE, CO1	addq	$8 * SIZE, CO2#endif#if defined(LT) || defined(RN)	movq	K,  %rax	subq	KK, %rax	salq	$ZBASE_SHIFT, %rax	leaq	(AO, %rax, 4), AO#ifdef LT	addq	$16 * SIZE, B#endif#endif#ifdef LN	subq	$4, KK	movq	BORIG, B#endif#ifdef LT	addq	$4, KK#endif#ifdef RT	movq	K, %rax	movq	BORIG, B	salq	$2 + ZBASE_SHIFT, %rax	addq	%rax, AORIG#endif	decq	I			# i --	jg	.L11	ALIGN_4	.L20:	testq	$2, M	je	.L30#ifdef LN       movq	K, %rax       salq	$1 + ZBASE_SHIFT, %rax       subq	%rax, AORIG#endif#if defined(LN) || defined(RT)	movq	KK, %rax	movq	AORIG, AO	salq	$ZBASE_SHIFT, %rax	leaq	(AO, %rax, 2), AO#endif	leaq	BUFFER, BO#if defined(LN) || defined(RT)	movq	KK, %rax	salq	$1 + ZBASE_SHIFT, %rax	leaq	(BO, %rax, 4), BO#endif		movaps	 0 * SIZE(AO), %xmm8	movaps	16 * SIZE(AO), %xmm10	movaps	32 * SIZE(AO), %xmm12	movaps	48 * SIZE(AO), %xmm14	movaps	 0 * SIZE(BO), %xmm9	movaps	16 * SIZE(BO), %xmm11	movaps	32 * SIZE(BO), %xmm13	movaps	48 * SIZE(BO), %xmm15	pxor	%xmm0, %xmm0	pxor	%xmm1, %xmm1	pxor	%xmm2, %xmm2	pxor	%xmm3, %xmm3#if defined(LT) || defined(RN)	movq	KK, %rax#else	movq	K, %rax	subq	KK, %rax#endif	sarq	$3, %rax	je	.L25	ALIGN_4.L22:	mulps	%xmm8, %xmm9	addps	%xmm9, %xmm0
⌨️ 快捷键说明

复制代码 Ctrl + C
搜索代码 Ctrl + F
全屏模式 F11
切换主题 Ctrl + Shift + D
显示快捷键 ?
增大字号 Ctrl + =
减小字号 Ctrl + -