ztrsm_kernel_rt_2x2_sse3.s

Optimized GotoBLAS libraries

	movq	AORIG, AO
	leaq	(AO, %rax, 4), AO
	leaq	(B,  %rax, 4), BO
#endif

#if defined(LN) || defined(LT)
	movapd	 0 * SIZE(BO), %xmm8
	movapd	 2 * SIZE(BO), %xmm9
	movapd	 4 * SIZE(BO), %xmm10
	movapd	 6 * SIZE(BO), %xmm11
#else
	movapd	 0 * SIZE(AO), %xmm8
	movapd	 2 * SIZE(AO), %xmm9
	movapd	 4 * SIZE(AO), %xmm10
	movapd	 6 * SIZE(AO), %xmm11
#endif

#if   (defined(LN) || defined(LT)) && !defined(CONJ)
	subpd	%xmm0,  %xmm8
	subpd	%xmm2,  %xmm9
	subpd	%xmm4,  %xmm10
	subpd	%xmm6,  %xmm11
#elif (defined(LN) || defined(LT)) &&  defined(CONJ)
	subpd	%xmm1,  %xmm8
	subpd	%xmm3,  %xmm9
	subpd	%xmm5,  %xmm10
	subpd	%xmm7,  %xmm11
#elif (defined(RN) || defined(RT)) && !defined(CONJ)
	subpd	%xmm0,  %xmm8
	subpd	%xmm4,  %xmm9
	subpd	%xmm2,  %xmm10
	subpd	%xmm6,  %xmm11
#else
	addsubpd %xmm1,  %xmm8
	addsubpd %xmm5,  %xmm9
	addsubpd %xmm3,  %xmm10
	addsubpd %xmm7,  %xmm11
#endif

#ifdef CONJ
	pcmpeqb	%xmm7,  %xmm7
	psllq	$63,    %xmm7
#endif

#if defined(LN) || defined(RT)
#ifdef LN
	movddup	 6 * SIZE(AO), %xmm0
	movddup	 7 * SIZE(AO), %xmm1
	movddup	 4 * SIZE(AO), %xmm2
	movddup	 5 * SIZE(AO), %xmm3
	movddup	 0 * SIZE(AO), %xmm4
	movddup	 1 * SIZE(AO), %xmm5
#else
	movddup	 6 * SIZE(BO), %xmm0
	movddup	 7 * SIZE(BO), %xmm1
	movddup	 4 * SIZE(BO), %xmm2
	movddup	 5 * SIZE(BO), %xmm3
	movddup	 0 * SIZE(BO), %xmm4
	movddup	 1 * SIZE(BO), %xmm5
#endif

#ifdef CONJ
	xorpd	%xmm7, %xmm1
	xorpd	%xmm7, %xmm3
	xorpd	%xmm7, %xmm5
#endif

	movapd	%xmm10,  %xmm12
	movapd	%xmm11,  %xmm13
	SHUFPD_1 %xmm12, %xmm12
	SHUFPD_1 %xmm13, %xmm13

	mulpd	 %xmm0, %xmm10
	mulpd	 %xmm0, %xmm11
	mulpd	 %xmm1, %xmm12
	mulpd	 %xmm1, %xmm13

	addsubpd %xmm12, %xmm10
	addsubpd %xmm13, %xmm11

	movapd	%xmm10,  %xmm12
	movapd	%xmm10,  %xmm13
	movapd	%xmm11,  %xmm14
	movapd	%xmm11,  %xmm15

	SHUFPD_1 %xmm13, %xmm13
	SHUFPD_1 %xmm15, %xmm15

	mulpd	%xmm2, %xmm12
	mulpd	%xmm2, %xmm14
	mulpd	%xmm3, %xmm13
	mulpd	%xmm3, %xmm15

	addsubpd %xmm13, %xmm12
	addsubpd %xmm15, %xmm14

	subpd	 %xmm12, %xmm8
	subpd	 %xmm14, %xmm9

	movapd	%xmm8,  %xmm12
	movapd	%xmm9,  %xmm13
	SHUFPD_1 %xmm12, %xmm12
	SHUFPD_1 %xmm13, %xmm13

	mulpd	 %xmm4, %xmm8
	mulpd	 %xmm4, %xmm9
	mulpd	 %xmm5, %xmm12
	mulpd	 %xmm5, %xmm13

	addsubpd %xmm12, %xmm8
	addsubpd %xmm13, %xmm9
#endif

#if defined(LT) || defined(RN)

#ifdef LT
	movddup	 0 * SIZE(AO), %xmm0
	movddup	 1 * SIZE(AO), %xmm1
	movddup	 2 * SIZE(AO), %xmm2
	movddup	 3 * SIZE(AO), %xmm3
	movddup	 6 * SIZE(AO), %xmm4
	movddup	 7 * SIZE(AO), %xmm5
#else
	movddup	 0 * SIZE(BO), %xmm0
	movddup	 1 * SIZE(BO), %xmm1
	movddup	 2 * SIZE(BO), %xmm2
	movddup	 3 * SIZE(BO), %xmm3
	movddup	 6 * SIZE(BO), %xmm4
	movddup	 7 * SIZE(BO), %xmm5
#endif

#ifdef CONJ
	xorpd	%xmm7, %xmm1
	xorpd	%xmm7, %xmm3
	xorpd	%xmm7, %xmm5
#endif

	movapd	%xmm8,  %xmm12
	movapd	%xmm9,  %xmm13
	SHUFPD_1 %xmm12, %xmm12
	SHUFPD_1 %xmm13, %xmm13

	mulpd	 %xmm0, %xmm8
	mulpd	 %xmm0, %xmm9
	mulpd	 %xmm1, %xmm12
	mulpd	 %xmm1, %xmm13

	addsubpd %xmm12, %xmm8
	addsubpd %xmm13, %xmm9

	movapd	%xmm8,  %xmm12
	movapd	%xmm8,  %xmm13
	movapd	%xmm9,  %xmm14
	movapd	%xmm9,  %xmm15

	SHUFPD_1 %xmm13, %xmm13
	SHUFPD_1 %xmm15, %xmm15

	mulpd	%xmm2, %xmm12
	mulpd	%xmm2, %xmm14
	mulpd	%xmm3, %xmm13
	mulpd	%xmm3, %xmm15

	addsubpd %xmm13, %xmm12
	addsubpd %xmm15, %xmm14

	subpd	 %xmm12, %xmm10
	subpd	 %xmm14, %xmm11

	movapd	%xmm10,  %xmm12
	movapd	%xmm11,  %xmm13
	SHUFPD_1 %xmm12, %xmm12
	SHUFPD_1 %xmm13, %xmm13

	mulpd	 %xmm4, %xmm10
	mulpd	 %xmm4, %xmm11
	mulpd	 %xmm5, %xmm12
	mulpd	 %xmm5, %xmm13

	addsubpd %xmm12, %xmm10
	addsubpd %xmm13, %xmm11
#endif

#ifdef LN
	subq	$4 * SIZE, CO1
	subq	$4 * SIZE, CO2
#endif

#if defined(LN) || defined(LT)
	movsd	%xmm8,  0 * SIZE(CO1)
	movhpd	%xmm8,  1 * SIZE(CO1)
	movsd	%xmm10, 2 * SIZE(CO1)
	movhpd	%xmm10, 3 * SIZE(CO1)

	movsd	%xmm9,   0 * SIZE(CO2)
	movhpd	%xmm9,   1 * SIZE(CO2)
	movsd	%xmm11,  2 * SIZE(CO2)
	movhpd	%xmm11,  3 * SIZE(CO2)
#else
	movsd	%xmm8,  0 * SIZE(CO1)
	movhpd	%xmm8,  1 * SIZE(CO1)
	movsd	%xmm9,  2 * SIZE(CO1)
	movhpd	%xmm9,  3 * SIZE(CO1)

	movsd	%xmm10,  0 * SIZE(CO2)
	movhpd	%xmm10,  1 * SIZE(CO2)
	movsd	%xmm11,  2 * SIZE(CO2)
	movhpd	%xmm11,  3 * SIZE(CO2)
#endif

#if defined(LN) || defined(LT)
	movapd	%xmm8,   0 * SIZE(BO)
	movapd	%xmm9,   2 * SIZE(BO)
	movapd	%xmm10,  4 * SIZE(BO)
	movapd	%xmm11,  6 * SIZE(BO)
#else
	movapd	%xmm8,   0 * SIZE(AO)
	movapd	%xmm9,   2 * SIZE(AO)
	movapd	%xmm10,  4 * SIZE(AO)
	movapd	%xmm11,  6 * SIZE(AO)
#endif

#ifndef LN
	addq	$4 * SIZE, CO1
	addq	$4 * SIZE, CO2
#endif

#if defined(LT) || defined(RN)
	movq	K,  %rax
	subq	KK, %rax
	leaq	(,%rax, SIZE), %rax
	leaq	(AO, %rax, 4), AO
	leaq	(BO, %rax, 4), BO
#endif

#ifdef LN
	subq	$2, KK
#endif

#ifdef LT
	addq	$2, KK
#endif

#ifdef RT
       movq	K, %rax
       salq	$1 + ZBASE_SHIFT, %rax
       addq	%rax, AORIG
#endif
	decq	I			# i --
	jg	.L10
	ALIGN_4	

.L30:
	testq	$1, M
	jle	.L99

#ifdef LN
       movq	K, %rax
       salq	$0 + ZBASE_SHIFT, %rax
       subq	%rax, AORIG
#endif

#if defined(LN) || defined(RT)
	movq	KK, %rax
	leaq	(, %rax, SIZE), %rax
	movq	AORIG, AO
	leaq	(AO, %rax, 2), AO
	leaq	(B,  %rax, 4), BO
#else
	movq	B, BO
#endif	

	movapd	 0 * SIZE(AO), %xmm8
	pxor	%xmm0, %xmm0
	movddup	 0 * SIZE(BO), %xmm9
	pxor	%xmm1, %xmm1
	movapd	 8 * SIZE(AO), %xmm10
	pxor	%xmm2, %xmm2
	movddup	 8 * SIZE(BO), %xmm11
	pxor	%xmm3, %xmm3

#if defined(LT) || defined(RN)
	movq	KK, %rax
#else
	movq	K, %rax
	subq	KK, %rax
#endif
	sarq	$3, %rax
	je	.L42

.L41:
	mulpd	%xmm8, %xmm9
	PREFETCH  (PREFETCHSIZE +  0) * SIZE(AO)
	ADD1	%xmm9, %xmm0
	movddup	 1 * SIZE(BO), %xmm9
	mulpd	%xmm8, %xmm9
	ADD2	%xmm9, %xmm1
	movddup	 2 * SIZE(BO), %xmm9
	mulpd	%xmm8, %xmm9
	ADD1	%xmm9, %xmm2
	movddup	 3 * SIZE(BO), %xmm9
	mulpd	%xmm8, %xmm9
	movapd	 2 * SIZE(AO), %xmm8
	ADD2	%xmm9, %xmm3
	movddup	 4 * SIZE(BO), %xmm9
	mulpd	%xmm8, %xmm9
	ADD1	%xmm9, %xmm0
	movddup	 5 * SIZE(BO), %xmm9
	mulpd	%xmm8, %xmm9
	ADD2	%xmm9, %xmm1
	movddup	 6 * SIZE(BO), %xmm9
	mulpd	%xmm8, %xmm9
	ADD1	%xmm9, %xmm2
	movddup	 7 * SIZE(BO), %xmm9
	mulpd	%xmm8, %xmm9
	movapd	 4 * SIZE(AO), %xmm8
	ADD2	%xmm9, %xmm3
	movddup	16 * SIZE(BO), %xmm9
	mulpd	%xmm8, %xmm11
	ADD1	%xmm11, %xmm0
	movddup	 9 * SIZE(BO), %xmm11
	mulpd	%xmm8, %xmm11
	ADD2	%xmm11, %xmm1
	movddup	10 * SIZE(BO), %xmm11
	mulpd	%xmm8, %xmm11
	ADD1	%xmm11, %xmm2
	movddup	11 * SIZE(BO), %xmm11
	mulpd	%xmm8, %xmm11
	movapd	 6 * SIZE(AO), %xmm8
	ADD2	%xmm11, %xmm3
	movddup	12 * SIZE(BO), %xmm11
	mulpd	%xmm8, %xmm11
	ADD1	%xmm11, %xmm0
	movddup	13 * SIZE(BO), %xmm11
	mulpd	%xmm8, %xmm11
	ADD2	%xmm11, %xmm1
	movddup	14 * SIZE(BO), %xmm11
	mulpd	%xmm8, %xmm11
	ADD1	%xmm11, %xmm2
	movddup	15 * SIZE(BO), %xmm11
	mulpd	%xmm8, %xmm11
	movapd	16 * SIZE(AO), %xmm8
	ADD2	%xmm11, %xmm3
	movddup	24 * SIZE(BO), %xmm11
	mulpd	%xmm10, %xmm9
	ADD1	%xmm9, %xmm0
	movddup	17 * SIZE(BO), %xmm9
	mulpd	%xmm10, %xmm9
	ADD2	%xmm9, %xmm1
	movddup	18 * SIZE(BO), %xmm9
	mulpd	%xmm10, %xmm9
	ADD1	%xmm9, %xmm2
	movddup	19 * SIZE(BO), %xmm9
	mulpd	%xmm10, %xmm9
	movapd	10 * SIZE(AO), %xmm10
	ADD2	%xmm9, %xmm3
	movddup	20 * SIZE(BO), %xmm9
	mulpd	%xmm10, %xmm9
	ADD1	%xmm9, %xmm0
	movddup	21 * SIZE(BO), %xmm9
	mulpd	%xmm10, %xmm9
	ADD2	%xmm9, %xmm1
	movddup	22 * SIZE(BO), %xmm9
	mulpd	%xmm10, %xmm9
	ADD1	%xmm9, %xmm2
	movddup	23 * SIZE(BO), %xmm9
	mulpd	%xmm10, %xmm9
	movapd	12 * SIZE(AO), %xmm10
	ADD2	%xmm9, %xmm3
	movddup	32 * SIZE(BO), %xmm9
	mulpd	%xmm10, %xmm11
	ADD1	%xmm11, %xmm0
	movddup	25 * SIZE(BO), %xmm11
	mulpd	%xmm10, %xmm11
	ADD2	%xmm11, %xmm1
	movddup	26 * SIZE(BO), %xmm11
	mulpd	%xmm10, %xmm11
	ADD1	%xmm11, %xmm2
	movddup	27 * SIZE(BO), %xmm11
	mulpd	%xmm10, %xmm11
	movapd	14 * SIZE(AO), %xmm10
	ADD2	%xmm11, %xmm3
	movddup	28 * SIZE(BO), %xmm11
	mulpd	%xmm10, %xmm11
	ADD1	%xmm11, %xmm0
	movddup	29 * SIZE(BO), %xmm11
	mulpd	%xmm10, %xmm11
	ADD2	%xmm11, %xmm1
	movddup	30 * SIZE(BO), %xmm11
	mulpd	%xmm10, %xmm11
	ADD1	%xmm11, %xmm2
	movddup	31 * SIZE(BO), %xmm11
	mulpd	%xmm10, %xmm11
	movapd	24 * SIZE(AO), %xmm10
	ADD2	%xmm11, %xmm3
	movddup	40 * SIZE(BO), %xmm11

	addq   $16 * SIZE, AO
	addq   $32 * SIZE, BO
	decq   %rax
	jne    .L41

.L42:
#if defined(LT) || defined(RN)
	movq	KK, %rax
#else
	movq	K, %rax
	subq	KK, %rax
#endif
	andq	$7, %rax		# if (k & 1)
	BRANCH
	jle .L44

.L43:
	mulpd	%xmm8, %xmm9
	ADD1	%xmm9, %xmm0
	movddup	 1 * SIZE(BO), %xmm9
	mulpd	%xmm8, %xmm9
	ADD2	%xmm9, %xmm1
	movddup	 2 * SIZE(BO), %xmm9
	mulpd	%xmm8, %xmm9
	ADD1	%xmm9, %xmm2
	movddup	 3 * SIZE(BO), %xmm9
	mulpd	%xmm8, %xmm9
	movapd	 2 * SIZE(AO), %xmm8
	ADD2	%xmm9, %xmm3
	movddup	 4 * SIZE(BO), %xmm9

	addq	$2 * SIZE, AO		# aoffset  += 4
	addq	$4 * SIZE, BO		# boffset1 += 8
	decq	%rax
	jg	.L43
	ALIGN_4

.L44:
	SHUFPD_1 %xmm1, %xmm1
	SHUFPD_1 %xmm3, %xmm3

#ifndef CONJ
	addsubpd	%xmm1, %xmm0
	addsubpd	%xmm3, %xmm2
#else
	addsubpd	%xmm0, %xmm1
	addsubpd	%xmm2, %xmm3
#endif

#if defined(LN) || defined(RT)
	movq	KK, %rax
#ifdef LN
	subq	$1, %rax
#else
	subq	$2, %rax
#endif

	leaq	(, %rax, SIZE), %rax

	movq	AORIG, AO
	leaq	(AO, %rax, 2), AO
	leaq	(B,  %rax, 4), BO
#endif

#if defined(LN) || defined(LT)
	movapd	 0 * SIZE(BO), %xmm8
	movapd	 2 * SIZE(BO), %xmm9
#else
	movapd	 0 * SIZE(AO), %xmm8
	movapd	 2 * SIZE(AO), %xmm9
#endif

#if   (defined(LN) || defined(LT)) && !defined(CONJ)
	subpd	%xmm0,  %xmm8
	subpd	%xmm2,  %xmm9
#elif (defined(LN) || defined(LT)) &&  defined(CONJ)
	subpd	%xmm1,  %xmm8
	subpd	%xmm3,  %xmm9
#elif (defined(RN) || defined(RT)) && !defined(CONJ)
	subpd	%xmm0,  %xmm8
	subpd	%xmm2,  %xmm9
#else
	addsubpd %xmm1, %xmm8
	addsubpd %xmm3, %xmm9
#endif

#ifdef CONJ
	pcmpeqb	%xmm7,  %xmm7
	psllq	$63,    %xmm7
#endif

#ifdef LN
	movddup	 0 * SIZE(AO), %xmm4
	movddup	 1 * SIZE(AO), %xmm5

#ifdef CONJ
	xorpd	%xmm7, %xmm5
#endif

	movapd	%xmm8,  %xmm12
	movapd	%xmm9,  %xmm13
	SHUFPD_1 %xmm12, %xmm12
	SHUFPD_1 %xmm13, %xmm13

	mulpd	 %xmm4, %xmm8
	mulpd	 %xmm4, %xmm9
	mulpd	 %xmm5, %xmm12
	mulpd	 %xmm5, %xmm13

	addsubpd %xmm12, %xmm8
	addsubpd %xmm13, %xmm9
#endif

#ifdef LT
	movddup	 0 * SIZE(AO), %xmm0
	movddup	 1 * SIZE(AO), %xmm1

#ifdef CONJ
	xorpd	%xmm7, %xmm1
#endif

	movapd	%xmm8,  %xmm12
	movapd	%xmm9,  %xmm13
	SHUFPD_1 %xmm12, %xmm12
	SHUFPD_1 %xmm13, %xmm13

	mulpd	 %xmm0, %xmm8
	mulpd	 %xmm0, %xmm9
	mulpd	 %xmm1, %xmm12
	mulpd	 %xmm1, %xmm13

	addsubpd %xmm12, %xmm8
	addsubpd %xmm13, %xmm9
#endif

#ifdef RN
	movddup	 0 * SIZE(BO), %xmm0
	movddup	 1 * SIZE(BO), %xmm1
	movddup	 2 * SIZE(BO), %xmm2
	movddup	 3 * SIZE(BO), %xmm3
	movddup	 6 * SIZE(BO), %xmm4
	movddup	 7 * SIZE(BO), %xmm5

#ifdef CONJ
	xorpd	%xmm7, %xmm1
	xorpd	%xmm7, %xmm3
	xorpd	%xmm7, %xmm5
#endif

	movapd	%xmm8,  %xmm12
	SHUFPD_1 %xmm12, %xmm12

	mulpd	 %xmm0, %xmm8
	mulpd	 %xmm1, %xmm12

	addsubpd %xmm12, %xmm8

	movapd	%xmm8,  %xmm12
	movapd	%xmm8,  %xmm13

	SHUFPD_1 %xmm13, %xmm13

	mulpd	%xmm2, %xmm12
	mulpd	%xmm3, %xmm13

	addsubpd %xmm13, %xmm12

	subpd	 %xmm12, %xmm9

	movapd	%xmm9,  %xmm12
	SHUFPD_1 %xmm12, %xmm12

	mulpd	 %xmm4, %xmm9
	mulpd	 %xmm5, %xmm12

	addsubpd %xmm12, %xmm9
#endif


#ifdef RT
	movddup	 6 * SIZE(BO), %xmm0
	movddup	 7 * SIZE(BO), %xmm1
	movddup	 4 * SIZE(BO), %xmm2
	movddup	 5 * SIZE(BO), %xmm3
	movddup	 0 * SIZE(BO), %xmm4
	movddup	 1 * SIZE(BO), %xmm5

#ifdef CONJ
	xorpd	%xmm7, %xmm1
	xorpd	%xmm7, %xmm3
	xorpd	%xmm7, %xmm5
#endif

	movapd	%xmm9,  %xmm12
	SHUFPD_1 %xmm12, %xmm12

	mulpd	 %xmm0, %xmm9
	mulpd	 %xmm1, %xmm12

	addsubpd %xmm12, %xmm9

	movapd	%xmm9,  %xmm12
	movapd	%xmm9,  %xmm13

	SHUFPD_1 %xmm13, %xmm13

	mulpd	%xmm2, %xmm12
	mulpd	%xmm3, %xmm13

	addsubpd %xmm13, %xmm12

	subpd	 %xmm12, %xmm8

	movapd	%xmm8,  %xmm12
	SHUFPD_1 %xmm12, %xmm12

	mulpd	 %xmm4, %xmm8
	mulpd	 %xmm5, %xmm12

	addsubpd %xmm12, %xmm8
#endif

#ifdef LN
	subq	$2 * SIZE, CO1
	subq	$2 * SIZE, CO2
#endif

#if defined(LN) || defined(LT)
	movsd	%xmm8,  0 * SIZE(CO1)
	movhpd	%xmm8,  1 * SIZE(CO1)

	movsd	%xmm9,  0 * SIZE(CO2)
	movhpd	%xmm9,  1 * SIZE(CO2)
#else
	movsd	%xmm8,  0 * SIZE(CO1)
	movhpd	%xmm8,  1 * SIZE(CO1)

	movsd	%xmm9,  0 * SIZE(CO2)
	movhpd	%xmm9,  1 * SIZE(CO2)
#endif

#if defined(LN) || defined(LT)
	movapd	%xmm8,   0 * SIZE(BO)
	movapd	%xmm9,   2 * SIZE(BO)
#else
	movapd	%xmm8,   0 * SIZE(AO)
	movapd	%xmm9,   2 * SIZE(AO)
#endif

#ifndef LN
	addq	$2 * SIZE, CO1
	addq	$2 * SIZE, CO2
#endif

#if defined(LT) || defined(RN)
	movq	K,  %rax
	subq	KK, %rax
	leaq	(,%rax, SIZE), %rax
	leaq	(AO, %rax, 2), AO
	leaq	(BO, %rax, 4), BO
#endif

#ifdef LN
	subq	$1, KK
#endif

#ifdef LT
	addq	$1, KK
#endif

#ifdef RT
       movq	K, %rax
       salq	$0 + ZBASE_SHIFT, %rax
       addq	%rax, AORIG
#endif
	ALIGN_4
	
.L99:
#ifdef LN
       leaq	(, K, SIZE), %rax
       leaq	(B, %rax, 4), B
#endif

#if defined(LT) || defined(RN)
	movq	BO, B
#endif

#ifdef RN
	addq	$2, KK
#endif

#ifdef RT
	subq	$2, KK
#endif
	decq	J			# j --
	jg	.L01

	
.L999:
	movq	  0(%rsp), %rbx
	movq	  8(%rsp), %rbp
	movq	 16(%rsp), %r12
	movq	 24(%rsp), %r13
	movq	 32(%rsp), %r14
	movq	 40(%rsp), %r15

#ifdef WINDOWS_ABI
	movq	 48(%rsp), %rdi
	movq	 56(%rsp), %rsi
	movups	 64(%rsp), %xmm6
	movups	 80(%rsp), %xmm7
	movups	 96(%rsp), %xmm8
	movups	112(%rsp), %xmm9
	movups	128(%rsp), %xmm10
	movups	144(%rsp), %xmm11
	movups	160(%rsp), %xmm12
	movups	176(%rsp), %xmm13
	movups	192(%rsp), %xmm14
	movups	208(%rsp), %xmm15
#endif

	addq	$STACKSIZE, %rsp
	ret

	EPILOGUE