
    h                     <   S SK r S SKJr  S SKJr  S/ SQ4S/ SQ4S/ S	Q4S
/ SQ4S/ SQ4S/ SQ4S/ SQ4S/ SQ4S/ SQ4S/ SQ4S/ SQ4S/ SQ4S/ SQ4/r\ R                  R                  S\5      S 5       r\ R                  R                  SS / S!Q4/5      S" 5       r	g)#    N)Tamil)ORTHu   கிறிஸ்துமஸ் மற்றும் இனிய புத்தாண்டு வாழ்த்துக்கள்)u!   கிறிஸ்துமஸ்   மற்றும்u   இனியu   புத்தாண்டுu'   வாழ்த்துக்கள்uy   எனக்கு என் குழந்தைப் பருவம் நினைவிருக்கிறது)u   எனக்குu	   என்u   குழந்தைப்u   பருவம்u-   நினைவிருக்கிறதுu0   உங்கள் பெயர் என்ன?)u   உங்கள்u   பெயர்   என்ன?u  ஏறத்தாழ இலங்கைத் தமிழரில் மூன்றிலொரு பங்கினர் இலங்கையை விட்டு வெளியேறிப் பிற நாடுகளில் வாழ்கின்றனர்)u   ஏறத்தாழu   இலங்கைத்u   தமிழரில்u   மூன்றிலொருu   பங்கினர்u   இலங்கையைu   விட்டுu   வெளியேறிப்u	   பிறu   நாடுகளில்u$   வாழ்கின்றனர்uK  இந்த ஃபோனுடன் சுமார் ரூ.2,990 மதிப்புள்ள போட் ராக்கர்ஸ் நிறுவனத்தின் ஸ்போர்ட் புளூடூத் ஹெட்போன்ஸ் இலவசமாக வழங்கப்படவுள்ளது.)u   இந்தu   ஃபோனுடன்u   சுமார்u   ரூ.2,990u   மதிப்புள்ளu   போட்u   ராக்கர்ஸ்u$   நிறுவனத்தின்u   ஸ்போர்ட்u   புளூடூத்u   ஹெட்போன்ஸ்u   இலவசமாகu0   வழங்கப்படவுள்ளது.u   மட்டக்களப்பில் பல இடங்களில் வீட்டுத் திட்டங்களுக்கு இன்று அடிக்கல் நாட்டல்)u*   மட்டக்களப்பில்u   பலu   இடங்களில்u   வீட்டுத்u*   திட்டங்களுக்குu   இன்றுu   அடிக்கல்u   நாட்டல்u  ஐ போன்க்கு முகத்தை வைத்து அன்லாக் செய்யும் முறை மற்றும் விரலால் தொட்டு அன்லாக் செய்யும் முறையை வாட்ஸ் ஆப் நிறுவனம் இதற்கு முன் கண்டுபிடித்தது)u   ஐu   போன்க்குu   முகத்தைu   வைத்து   அன்லாக்   செய்யும்u   முறைr   u   விரலால்u   தொட்டுr	   r
   u   முறையைu   வாட்ஸ்u	   ஆப்   நிறுவனம்u   இதற்குu   முன்u*   கண்டுபிடித்ததுu0   இது ஒரு வாக்கியம்.)u	   இது	   ஒருu   வாக்கியம்r   u   தன்னாட்சி கார்கள் காப்பீட்டு பொறுப்பை உற்பத்தியாளரிடம் மாற்றுகின்றன)u   தன்னாட்சிu   கார்கள்u   காப்பீட்டுu   பொறுப்பைu0   உற்பத்தியாளரிடம்u$   மாற்றுகின்றனu   நடைபாதை விநியோக ரோபோக்களை தடை செய்வதை சான் பிரான்சிஸ்கோ கருதுகிறது)u   நடைபாதைu   விநியோகu   ரோபோக்களைu	   தடைu   செய்வதைu   சான்u$   பிரான்சிஸ்கோu   கருதுகிறதுu{   லண்டன் ஐக்கிய இராச்சியத்தில் ஒரு பெரிய நகரம்.)u   லண்டன்u   ஐக்கியu*   இராச்சியத்தில்r   u   பெரியu   நகரம்r   uB   என்ன வேலை செய்கிறீர்கள்?)r   u   வேலைu'   செய்கிறீர்கள்r   uQ   எந்த கல்லூரியில் படிக்கிறாய்?)u   எந்தu!   கல்லூரியில்u!   படிக்கிறாய்r   ztext,expected_tokensc                 b    U " U5      nU Vs/ s H  oDR                   PM     nnX%:X  d   eg s  snf )N)text)ta_tokenizerr   expected_tokenstokenstoken
token_lists         \/home/james-whalen/.local/lib/python3.13/site-packages/spacy/tests/lang/ta/test_tokenizer.pytest_ta_tokenizer_basicr      s3    $F*01&**&J1((( 2s   ,u   ஆப்பிள் நிறுவனம் யு.கே. தொடக்க நிறுவனத்தை ஒரு லட்சம் கோடிக்கு வாங்கப் பார்க்கிறது)
u   ஆப்பிள்r      யு.கே.u   தொடக்கu   நிறுவனத்தைr   u   லட்சம்u   கோடிக்குu   வாங்கப்u!   பார்க்கிறதுc                     [        5       nUR                  R                  S[        S0/5        U" U 5      nU Vs/ s H  oDR                  PM     nnX:X  d   eg s  snf )Nr   )r   	tokenizeradd_special_caser   r   )r   r   nlpr   r   r   s         r   test_ta_tokenizer_special_caser      sY    . 'CMM""#3t=M6N5OPYF*01&**&J1((( 2s   A)
pytestspacy.lang.tar   spacy.symbolsr   TA_BASIC_TOKENIZATION_TESTSmarkparametrizer   r        r   <module>r$      sH      	V 	d
 	D 	R 89wx 	`	
" 	V	
( 	[		
 	N	
2 	;	
 	J	

 	C		
 	F	
 	M	
 	\	
QQ h /1LM) N)  l	
())()r#   