AI Coding செலவைக் கணக்கிடுவது ஏன் கடினம்? நிறுவனங்களின் புதிய IT சவால்!
பெரிய கார்ப்பரேட் நிறுவனங்கள் மற்றும் ஐடி (IT) நிறுவனங்கள் தங்களின் மென்பொருள் தயாரிப்புக்கும் (Software Development) தகவல் தொழில்நுட்பத் தேவைகளுக்கும் AI தொழில்நுட்பத்தை நோக்கி மிக வேகமாக மாறி வருகின்றன. ஆனால், இந்த மாற்றம் நிறுவன நிதியியல் தலைவர்களுக்கு (CFOs) ஒரு புதிய தலைவலியைக் கொண்டு வந்துள்ளது.
ஒரு குறிப்பிட்ட வேலையைச் செய்து முடிக்க AI-க்கு எவ்வளவு செலவாகும் என்பதைத் துல்லியமாகக் கணக்கிடுவது மிகப்பெரிய சவாலாக உருவெடுத்துள்ளது. சமீபத்தில் தி வால் ஸ்ட்ரீட் இதழில் (The Wall Street Journal) வெளியான கட்டுரை ஒன்று, AI பயன்பாட்டுச் செலவைக் கணக்கிடுவதில் உள்ள சிக்கல்களை விரிவாக எடுத்துரைக்கிறது.
AI டோக்கன் (Token) என்றால் என்ன? கட்டணம் எவ்வாறு வசூலிக்கப்படுகிறது?
பாரம்பரிய மென்பொருட்களைப் போல AI கருவிகளுக்குத் தனிநபர் உரிமக் கட்டணம் (Per-Seat License) வசூலிக்கப்படுவதில்லை; மாறாக 'டோக்கன்' (Tokens) அடிப்படையில் கட்டணம் வசூலிக்கப்படுகிறது.
டோக்கன் கணக்கீடு: AI உலகில் சொற்கள் அல்லது சொற்களின் பகுதிகள் 'டோக்கன்கள்' எனப்படுகின்றன. தோராயமாக 100 ஆங்கில வார்த்தைகள் என்பது 75 டோக்கன்களுக்குச் சமம்.
டாக்ஸி மீட்டர் போன்றது: நீங்கள் AI-க்குக் கொடுக்கும் உள்ளீடு (Input Prompt) மற்றும் AI தரும் வெளியீடு (Output Response) ஆகிய இரண்டிற்கும் டோக்கன் கட்டணம் உண்டு. உள்ளீட்டிலும் வெளியீட்டிலும் எவ்வளவு டோக்கன் உள்ளதோ அதற்கு இணையாக பணம் வசூலிப்பார்கள். டாக்ஸி மீட்டர் ஓடுவது போல, AI மாடல் எவ்வளவு யோசித்து வார்த்தைகளை உருவாக்குகிறதோ, அவ்வளவு கட்டணம் எகிறும்.
கணிக்க முடியாத IT பட்ஜெட்: WSJ கட்டுரை கூறும் தகவல்கள்
- 89% நிறுவனங்களால் கணிக்க முடியவில்லை: AI செலவுகளை 10% துல்லியத்துடன் கூட முன்னறிவிக்க இயலவில்லை என்று ஆய்வில் பங்கேற்ற 89% நிறுவனங்கள் (11% மட்டுமே முடியும் என்றன) தெரிவித்துள்ளன.
- 30 மடங்கு செலவு வித்தியாசம்: ஒரே வேலையை AI செய்யும்போது, ஒவ்வொரு முறையும் அது பயன்படுத்தும் டோக்கன்களின் எண்ணிக்கை 30 மடங்கு (30x) வரை மாறுபடுவதாகப் பெஞ்ச்மார்க் சோதனைகள் காட்டுகின்றன.
பெஞ்ச்மார்க் சோதனை: 5 முறை மீண்டும் மீண்டும் சோதிக்கப்பட்ட LLM-கள்
சமீபத்தில் Google, Anthropic மற்றும் OpenAI ஆகிய நிறுவனங்களின் முன்னணி மாடல்களை (LLMs) வைத்து ஒரு முக்கியமான கோடிங் பெஞ்ச்மார்க் சோதனை நடத்தப்பட்டது.
இதில் ஒரே கோடிங் பணியை முடிப்பதற்காக இரண்டு விதமான பிராம்ட்கள் (Prompts) கொடுக்கப்பட்டு, 5 முறை தொடர்ந்து சோதிக்கப்பட்டன.
சோதனையில் வெளிவந்த முடிவுகள்:
- மாறும் டோக்கன் அளவு: ஒரே மாதிரியான பிராம்ட் கொடுக்கப்பட்ட போதிலும், ஒவ்வொரு முறையும் AI பயன்படுத்திய டோக்கன்களின் எண்ணிக்கை பெருமளவில் மாறுபட்டது.
- தோல்வியில் முடிந்த முயற்சிகள் (Failures): சில முயற்சிகளில் AI மாடல்கள் சரியான நிரலாக்கம் (Code) தராமல், பிழைகளுடன் (Errors) பாதியிலேயே நின்று தோல்வியடைந்தன.
- Agentic Loops: AI முகவர்கள் (Agents) ஒரு பிழையைத் திருத்த மீண்டும் மீண்டும் மறுமுயற்சி செய்யும்போது (Loops), கட்டுப்பாடன்றி டோக்கன்களை எரித்து (வீணடித்து) செலவை உயர்த்துகின்றன.
மலிவான மாடலா? அல்லது ஆழமான சிந்தனை மாடலா? (Fast vs Reasoning Models)
இந்தச் சோதனையானது குறைந்த கட்டணத்தில் வேகமாக இயங்கும் சாதாரண மாடல்களுக்கும், அதிகக் கட்டணம் கொண்ட ஆழமான சிந்தனை திறன் கொண்ட (Deep Reasoning) மாடல்களுக்கும் இடையே நடத்தப்பட்டது.
- மலிவான மாடல்களின் ஏமாற்றம்: குறைந்த டோக்கன் விலை கொண்ட மாடல்கள், கோடிங் சிக்கலைத் தீர்க்க முடியாமல் மீண்டும் மீண்டும் முயற்சி செய்து (Retries) அதிக டோக்கன்களை வீணடித்து இறுதியில் தோல்வியடைந்தன.
- ஆழமான மாடல்களின் வெற்றி: மாறாக, அதிக டோக்கன் விலை கொண்ட ஆழமான சிந்தனை மாடல்கள் (Deep Reasoning Models), முதல் முயற்சியிலேயே சிக்கலைத் துல்லியமாகத் தீர்த்தன.
முக்கிய பார்வை: டோக்கன் விலை அதிகமாக இருந்தாலும், ஒரே முயற்சியில் சரியாகச் செய்து முடிப்பதால் Deep Reasoning மாடல்களின் சராசரி மொத்தச் செலவு (Average Cost Per Task), மலிவான மாடல்களை விடக் குறைவாகவே அமைந்தது!
| அம்சம் (Feature) | வேகமான / மலிவான மாடல்கள் (Fast Models) | ஆழமான சிந்தனை மாடல்கள் (Deep Reasoning Models) |
|---|---|---|
| ஒரு டோக்கன் விலை | மிகக் குறைவு | அதிகம் |
| பணி வெற்றி விகிதம் | குறைவு (Errors & Retries) | மிக அதிகம் |
| Agentic Loop செலவு | மீண்டும் மீண்டும் இயங்கி டோக்கன்களை எறிக்கும் | துல்லியமான பாதையில் விரைந்து முடிக்கும் |
| மொத்த பணிச் செலவு | அதிகம் (தோல்விகளால்) | குறைவு (சராசரியில்) |
சுருக்கம்
ஒரு திறமை மிக்க மனிதனாலேயே ஒரு நிரலாக்கத்தை (அல்லது அதன் பாகத்தை) ஒரே சுற்றில் முழுதும் துல்லியமாக இயங்கச் செய்ய இயலாது. ஒரு புள்ளியியல் கருவி செய்ய இயலுமா?
கருத்துகள் இல்லை:
கருத்துரையிடுக