§
    9˜ºh  ã                   óp  — d Z ddlmZ ddlmZ ddlmZmZmZmZm	Z	m
Z
mZmZmZmZmZmZmZmZmZmZmZmZmZmZmZ ddlmZmZmZmZmZm Z m!Z!m"Z"m#Z#m$Z$m%Z%m&Z&m'Z'm(Z(m)Z)m*Z*m+Z+m,Z,m-Z-m.Z.m/Z/m0Z0m1Z1m2Z2m3Z3m4Z4m5Z5m6Z6m7Z7m8Z8m9Z9m:Z:m;Z;m<Z<m=Z=m>Z>m?Z?m@Z@mAZAmBZBmCZCmDZDmEZEmFZFmGZGmHZHmIZImJZJmKZKmLZLmMZMmNZNmOZOmPZPmQZQmRZRmSZSmTZTmUZUmVZVmWZWmXZXmYZYmZZZm[Z[m\Z\m]Z]m^Z^m_Z_m`Z`maZambZbmcZcmdZdmeZemfZfmgZgmhZhmiZimjZjmkZkmlZlmmZmmnZnmoZompZpmqZqmrZr ddlmsZsmtZtmuZumvZvmwZwmxZxmyZymzZzm{Z{m|Z|m}Z}m~Z~mZm€Z€m�Z�m‚Z‚mƒZƒ ddl„m…Z…m†Z†m‡Z‡mˆZˆm‰Z‰mŠZŠm‹Z‹mŒZŒm�Z�mŽZŽ g d¢Z�d	„ Z�d
S )zisort:skip_fileé   )Úmath)Úextra)ÚargmaxÚargminÚbitonic_mergeÚcdivÚcumprodÚcumsumÚflipÚ
interleaveÚmaxÚminÚravelÚ	reduce_orÚsigmoidÚsoftmaxÚsortÚsumÚ	swizzle2dÚtopkÚxor_sumÚzerosÚ
zeros_like)XÚPropagateNanÚTRITON_MAX_TENSOR_NUMELÚload_tensor_descriptorÚstore_tensor_descriptorÚmake_tensor_descriptorÚtensor_descriptorÚtensor_descriptor_typeÚaddÚadvanceÚarangeÚassociative_scanÚassumeÚ
async_taskÚ
atomic_addÚ
atomic_andÚ
atomic_casÚ
atomic_maxÚ
atomic_minÚ	atomic_orÚatomic_xchgÚ
atomic_xorÚbfloat16Ú
block_typeÚ	broadcastÚbroadcast_toÚcatÚcastÚclampÚconstÚ	constexprÚconstexpr_functionÚdebug_barrierÚdevice_assertÚdevice_printÚdotÚ
dot_scaledÚdtypeÚexpand_dimsÚfloat16Úfloat32Úfloat64Úfloat8e4b15Ú
float8e4nvÚ
float8e4b8Úfloat8e5Úfloat8e5b16ÚfullÚgatherÚ	histogramÚinline_asm_elementwiseÚint1Úint16Úint32Úint64Úint8ÚjoinÚloadÚmake_block_ptrÚmax_constancyÚmax_contiguousÚmaximumÚminimumÚmultiple_ofÚnum_programsÚpermuteÚpi32_tÚpointer_typeÚ
program_idÚrangeÚreduceÚreshapeÚsliceÚsplitÚstatic_assertÚstatic_printÚstatic_rangeÚstoreÚtensorÚtransÚtupleÚ
tuple_typeÚuint16Úuint32Úuint64Úuint8ÚviewÚvoidÚwhere)ÚumulhiÚexpÚexp2ÚfmaÚlogÚlog2ÚcosÚrsqrtÚsinÚsqrtÚsqrt_rnÚabsÚfdivÚdiv_rnÚerfÚfloorÚceil)
Úpair_uniform_to_normalÚphiloxÚphilox_implÚrandÚrand4xÚrandintÚ	randint4xÚrandnÚrandn4xÚuint_to_uniform_float)ˆr   r   r   r   r   r   r}   r!   r"   r#   r   r   r$   r%   r&   r'   r(   r)   r*   r+   r,   r-   r.   r/   r   r0   r1   r2   r3   r4   r   r‚   r5   r6   r7   r8   rx   r	   r
   r9   r:   r;   r   r<   r=   r>   r€   rs   rt   r?   r   r~   r   r@   rA   rB   rC   rD   rE   rF   rG   r�   ru   rH   rI   rJ   rK   r   rL   rM   rN   rO   rP   rQ   rR   rv   rw   rS   r   r   rT   rU   rV   r   rW   rX   rY   rƒ   rZ   r„   r…   r[   r\   r]   r†   r‡   rˆ   r‰   rŠ   r‹   r^   r   r_   r   r`   ry   ra   r   rz   r   r   rb   r{   r|   rc   rd   re   rf   r   r   rg   r   rh   ri   rk   rl   rm   rn   rŒ   rr   ro   rp   rq   r   r   r   c                 óÌ  — ddl m} t          | |¦  «        rBt          | ¦  «        j                             dd ¦  «        }t          d„ | D ¦   «         |¦  «        S | d         dk    rD| dd …         } d}| d         dk    r| dd …         } d	}t          | ¦  «        }t          ||¬
¦  «        S |  	                    d¦  «        �rs|  
                    d¦  «        d                              d¦  «        }| 
                    dd¬¦  «        \  }}| 
                    dd¬¦  «        \  }}d„ |                     d¦  «         
                    d¦  «        D ¦   «         }|                     d¦  «        }	t          |	¦  «        }
t          |¦  «        }t          |¦  «        }t          t          g|z  ¦  «        }t          t          g|z  ¦  «        }t!          ||¦  «        }|
rJddlm} ddlm} t+          |	t-          |¬¦  «        ¦  «        }	t          |	|¦  «        sJ ‚ |||||	¦  «        S t)          |||¦  «        S | dk    rt.          S i dt0          “dt2          “dt4          “dt6          “dt8          “dt:          “dt<          “dt>          “dt@          “d tB          “d!tD          “d"tF          “d#t          “d$t          “d%tB          “d&tH          “d'tJ          “tL          tN          tB          d(œ¥}||          S ))Né    )ri   Ú_fieldsc                 ó,   — g | ]}t          |¦  «        ‘ŒS © )Ú	str_to_ty)Ú.0Úxs     ú`/var/www/html/services/rag-service/venv/lib/python3.11/site-packages/triton/language/__init__.pyú
<listcomp>zstr_to_ty.<locals>.<listcomp>  s   € Ð6Ð6Ð6¨A�9 Q™<œ<Ð6Ð6Ð6ó    Ú*r   FÚkT)Ú
element_tyr6   Ú
tensordescú<ú>ú[é   )Úmaxsplitú]c                 óP   — g | ]#}t          |                     ¦   «         ¦  «        ‘Œ$S r‘   )ÚintÚstrip)r“   Úss     r•   r–   zstr_to_ty.<locals>.<listcomp>&  s&   € ÐRÐRÐR¨!•s˜1Ÿ7š7™9œ9‘~”~ÐRÐRÐRr—   ú,)ÚNVMMASharedLayout)r    r7   Úfp8e4nvÚfp8e4b8Úfp8e5Úfp8e5b16Úfp8e4b15Úfp16Úbf16Úfp32Úfp64Úi1Úi8Úi16Úi32Úi64Úu1Úu8Úu16)Úu32Úu64ÚB)(Úbuiltinsri   Ú
isinstanceÚtypeÚ__dict__Úgetrj   r’   r\   Ú
startswithrb   ÚrstripÚlstripÚlenrN   rO   r0   Ú+triton.experimental.gluon.language._layoutsr§   Ú4triton.experimental.gluon.language.nvidia.hopper.tmar    ÚevalÚdictr7   rD   rE   rF   rG   rC   r@   r/   rA   rB   rL   rP   rM   rn   rk   rl   rm   )Únameri   Úfieldsr6   ÚtyÚinnerr>   ÚrestÚblock_shapeÚlayoutÚis_gluonÚndimÚ
shape_typeÚstride_typeÚblockr§   Úgluon_tensor_descriptor_typeÚtyss                     r•   r’   r’     se  € ØÐÐÐÐÐå�$˜ÑÔð @Ý�d‘”Ô$×(Ò(¨°DÑ9Ô9ˆÝÐ6Ð6°Ð6Ñ6Ô6¸Ñ?Ô?Ð?àˆA„w�#‚~€~Ø�A�B�BŒxˆØˆØ�Œ7�cŠ>ˆ>Ø˜˜˜”8ˆDØˆEÝ�t‰_Œ_ˆÝ r°Ð7Ñ7Ô7Ð7à‡‚�|Ñ$Ô$ñ FØ—
’
˜3‘” Ô"×)Ò)¨#Ñ.Ô.ˆØ—k’k #°�kÑ2Ô2‰ˆˆtØ ŸJšJ s°Q˜JÑ7Ô7Ñˆ�TØRÐR¨{×/AÒ/AÀ#Ñ/FÔ/F×/LÒ/LÈSÑ/QÔ/QÐRÑRÔRˆØ—’˜SÑ!Ô!ˆÝ�v‘;”;ˆÝ˜%Ñ Ô ˆÝ�;ÑÔˆÝ¥ ¨$¡Ñ/Ô/ˆ
å ¥5 '¨D¡.Ñ2Ô2ˆÝ˜5 +Ñ.Ô.ˆØð 	XØUÐUÐUÐUÐUÐUð Dð  Dð  Dð  Dð  Dð  DÝ˜&¥$Ð9JÐ"KÑ"KÔ"KÑLÔLˆFÝ˜fÐ&7Ñ8Ô8Ð8Ð8Ð8Ø/Ð/°°zÀ;ÐPVÑWÔWÐWÝ% e¨Z¸ÑEÔEÐEàˆ{ÒÐÝÐðØ•:ðà•:ðð 	•ðð 	•Kð	ð
 	•Kðð 	•ðð 	•ðð 	•ðð 	•ðð 	�dðð 	�dðð 	�uðð 	�uðð 	�uðð 	�dðð  	�eð!ð" 	�vð#õ$ ÝÝð)ð ð €Cð, ˆtŒ9Ðr—   N)‘Ú__doc__Ú r   r   Ústandardr   r   r   r   r	   r
   r   r   r   r   r   r   r   r   r   r   r   r   r   r   r   Úcorer   r   r   r   r   r   r    r!   r"   r#   r$   r%   r&   r'   r(   r)   r*   r+   r,   r-   r.   r/   r0   r1   r2   r3   r4   r5   r6   r7   r8   r9   r:   r;   r<   r=   r>   r?   r@   rA   rB   rC   rD   rE   rF   rG   rH   rI   rJ   rK   rL   rM   rN   rO   rP   rQ   rR   rS   rT   rU   rV   rW   rX   rY   rZ   r[   r\   r]   r^   r_   r`   ra   rb   rc   rd   re   rf   rg   rh   ri   rj   rk   rl   rm   rn   ro   rp   rq   rr   rs   rt   ru   rv   rw   rx   ry   rz   r{   r|   r}   r~   r   r€   r�   r‚   Úrandomrƒ   r„   r…   r†   r‡   rˆ   r‰   rŠ   r‹   rŒ   Ú__all__r’   r‘   r—   r•   ú<module>rÝ      s´  ðØ Ð ð Ð Ð Ð Ð Ð Ø Ð Ð Ð Ð Ð ðð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð.Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yð Yðtð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ðð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ð ðIð Ið I€ðX>ð >ð >ð >ð >r—   