AI PC vs Cloud AI: உங்கள் சாதனத்தில் என்ன மாறுகிறது?
சிலிக்கான் தனியுரிமை நோக்கிய மாற்றம்
ஒவ்வொரு ப்ராம்ப்டையும் தொலைதூர சர்வர் பண்ணைகளுக்கு அனுப்பும் காலம் முடிவுக்கு வருகிறது. கடந்த சில ஆண்டுகளாக, டெக் உலகம் மொழி மற்றும் படங்களைச் செயலாக்க பிரம்மாண்டமான கிளவுட் கிளஸ்டர்களைச் சார்ந்து இருந்தது. இந்த அணுகுமுறை ஆரம்பத்தில் நன்றாக வேலை செய்தது, ஆனால் லேட்டன்சி மற்றும் பிரைவசி சிக்கல்களை உருவாக்கியது. இப்போது, கவனம் உங்கள் டெஸ்க்டாப்பில் இருக்கும் ஹார்டுவேர் மீது திரும்பியுள்ளது. முன்னணி சிப் தயாரிப்பாளர்கள் லேப்டாப் மற்றும் டெஸ்க்டாப்புகளில் இந்த பணிகளை உள்ளூர் மட்டத்திலேயே கையாள சிறப்பு கூறுகளை இணைக்கின்றனர். இது கிளவுட் சார்ந்திருப்பதிலிருந்து ஒரு அடிப்படை மாற்றத்தைக் குறிக்கிறது. உங்கள் அடுத்த கணினி, இணைய இணைப்பு இல்லாமலேயே மாடல்களை இயக்கும் திறனைக் கொண்டு மதிப்பிடப்படும் என்பதே இதன் சாராம்சம். இது ஒரு சிறிய அப்கிரேட் மட்டுமல்ல, பெர்சனல் கம்ப்யூட்டிங் செயல்படும் விதத்தில் ஒரு கட்டமைப்பு மாற்றமாகும். கிளவுடிலிருந்து சாதனத்திற்கு இந்த வேலைகளை மாற்றுவதன் மூலம், பயனர்கள் வேகம் மற்றும் பாதுகாப்பைப் பெறுகிறார்கள். அடிப்படைப் பணிகளைச் செய்ய எப்போதும் அதிவேக இணையம் தேவை என்ற கட்டாயமும் குறைகிறது. கிளவுட் பெரிய டேட்டாசெட்களைக் கையாள, உங்கள் லோக்கல் மெஷின் உங்கள் தனிப்பட்ட தரவு மற்றும் உடனடி தொடர்புகளைக் கையாளும் ஒரு ஹைப்ரிட் மாடலை நோக்கித் தொழில் நுட்ப உலகம் நகர்கிறது.
நியூரல் பிராசஸிங் யூனிட் (NPU) என்றால் என்ன?
இந்த மாற்றத்தைப் புரிந்துகொள்ள, நீங்கள் நியூரோ பிராசஸிங் யூனிட் அல்லது NPU-வைப் பார்க்க வேண்டும். பல தசாப்தங்களாக, சென்ட்ரல் பிராசஸிங் யூனிட் (CPU) கணினியின் மூளையாகச் செயல்பட்டது. இது பொதுவான பணிகளைத் துல்லியமாகக் கையாண்டது. பின்னர், கிராபிக்ஸ் பிராசஸிங் யூனிட் (GPU) கேமிங் மற்றும் வீடியோ எடிட்டிங்கிற்கான கடினமான கணித வேலைகளைக் கவனித்துக்கொண்டது. NPU என்பது நவீன சிலிக்கானின் மூன்றாவது தூண். இது செயற்கை நுண்ணறிவை இயக்கும் மேட்ரிக்ஸ் பெருக்கத்திற்காகவே பிரத்யேகமாக வடிவமைக்கப்பட்ட ஒரு பிராசஸர். பொதுவான பணிகளைச் செய்யும் CPU போலன்றி, NPU ஒரு ஸ்பெஷலிஸ்ட். இது மிகக் குறைந்த மின்சாரத்தைப் பயன்படுத்தி வினாடிக்கு பில்லியன் கணக்கான செயல்பாடுகளைச் செய்கிறது. இந்த ஹார்டுவேர் ‘ஆன்-டிவைஸ் இன்ஃபெரன்ஸ்’ (on-device inference) செய்ய அனுமதிக்கிறது. இன்ஃபெரன்ஸ் என்பது ஒரு மாடல் இயங்கி பதிலை வழங்கும் செயல்முறை. நீங்கள் கிளவுட் சேவையில் ஒரு ப்ராம்ப்டை டைப் செய்யும்போது, அந்த இன்ஃபெரன்ஸ் ஒரு பெரிய கார்ப்பரேஷனுக்குச் சொந்தமான சர்வரில் நடக்கும். NPU இருந்தால், அந்த இன்ஃபெரன்ஸ் உங்கள் மடியிலேயே நடக்கும். இதனால்தான் ஒவ்வொரு லேப்டாப் பெட்டியிலும் புதிய மார்க்கெட்டிங் லேபிள்களைப் பார்க்கிறீர்கள். ஹார்டுவேர் பேட்டரியை ஒரு மணி நேரத்தில் தீர்க்காமல் இந்த வேலைகளைச் செய்ய முடியும் என்பதை நிறுவனங்கள் காட்ட விரும்புகின்றன. இந்த குறிப்பிட்ட பணிகளுக்கு GPU-வை விட NPU மிகவும் திறமையானது. இது வீடியோ காலில் உங்கள் பின்னணியை மங்கலாக்கும்போது அல்லது மீட்டிங்கை நேரலையில் டிரான்ஸ்க்ரைப் செய்யும்போது லேப்டாப்பின் ஃபேன் சத்தம் போடாமல் இருக்க உதவுகிறது.
கிளவுட்டின் பௌதிக எல்லைகள்
கிளவுட்டின் பௌதிக எல்லைகள்
லோக்கல் AI-க்கான தேவை பயனரின் வசதிக்காக மட்டுமல்ல, நம் உலகின் பௌதிக எல்லைகளால் தூண்டப்பட்ட ஒரு அவசியம். டேட்டா சென்டர்கள் ஒரு எல்லையை எட்டிவிட்டன. ஒரு புதிய ஹைப்பர்ஸ்கேல் வசதியை உருவாக்க அதிக நிலமும் நிலையான மின் இணைப்பும் தேவை. பல பகுதிகளில், புதிய டேட்டா சென்டருக்கான அனுமதி பெற பல ஆண்டுகள் ஆகிறது. இந்த வசதிகள் குளிர்ச்சிக்காக மில்லியன் கணக்கான கேலன் தண்ணீரை பயன்படுத்துவதால் உள்ளூர் எதிர்ப்பு அதிகரித்து வருகிறது. அவை உள்ளூர் மின்சாரக் கட்டமைப்புக்கும் பெரும் அழுத்தத்தை ஏற்படுத்துகின்றன. இன்ஃபெரன்ஸை லோக்கல் சாதனத்திற்கு மாற்றுவதன் மூலம், நிறுவனங்கள் இந்த உள்கட்டமைப்புத் தடைகளைத் தவிர்க்கலாம். ஒரு பில்லியன் பயனர்கள் தங்கள் மாடல்களை உள்ளூரில் இயக்கினால், மைய மின் கட்டமைப்பின் தேவை கணிசமாகக் குறையும். இது உலகளாவிய வளப் பிரச்சனைக்கு ஒரு நடைமுறைத் தீர்வு. கம்ப்யூட்டிங்கின் சுற்றுச்சூழல் செலவு சில பிரம்மாண்டமான, தண்ணீர் தாகம் கொண்ட மையங்களில் குவிக்கப்படுவதற்குப் பதிலாக, மில்லியன் கணக்கான தனிப்பட்ட சாதனங்களுக்குப் பகிர்ந்தளிக்கப்படுவதை நாம் காண்கிறோம். சிலிக்கான் இந்த சுமையைக் கையாளும் நிலையை எட்டியுள்ளதால், இந்த மாற்றம் இப்போது நடக்கிறது. கிளவுட் அதன் பௌதிக மற்றும் சமூக அமைப்புகளை உடைக்காமல் எல்லையற்ற அளவில் வளர முடியாது என்ற உண்மையை ஏற்று, AI-நேட்டிவ் ஹார்டுவேர் பக்கம் உலகம் திரும்பியுள்ளது.
உங்கள் உள்ளங்கையில் லோக்கல் பவர்
இந்த ஹார்டுவேரின் நடைமுறை தாக்கம் ஒரு நவீன நிபுணரின் அன்றாட வாழ்க்கையில் தெளிவாகத் தெரியும். சாரா என்ற மார்க்கெட்டிங் மேனேஜர், மோசமான வைஃபை கொண்ட ரயிலில் பயணம் செய்வதாகக் கற்பனை செய்து கொள்ளுங்கள். பழைய மாடலில், வலுவான இணைப்பு இல்லாமல் சாரா தனது மேம்பட்ட கருவிகளைப் பயன்படுத்த முடியாது. ஒரு AI PC இருந்தால், அவர் ஐம்பது பக்க ஆவணத்தைத் திறந்து உடனடியாகச் சுருக்கம் கேட்கலாம். லோக்கல் ஹார்டுவேர் எந்தத் தரவையும் சர்வருக்கு அனுப்பாமல் விரைவாகச் செயலாக்குகிறது. இதுதான் ஆன்-டிவைஸ் இன்ஃபெரன்ஸின் உண்மை. இது இணைப்புச் சிக்கலை நீக்குகிறது. அன்றைய தினம், சாரா ஒரு சமூக ஊடக பிரச்சாரத்திற்காக வீடியோவை எடிட் செய்ய வேண்டும். அவரது லோக்கல் NPU அந்தப் பணியைக் கையாண்டு, பின்னணியை நீக்குகிறது. இது எந்த தாமதமும் இல்லாமல் நேரலையில் நடக்கிறது. கிளவுட் மாடலில், அவர் வீடியோவை அப்லோட் செய்து, செயலாக்கத்திற்காகக் காத்திருந்து, பின் ரிசல்ட்டை டவுன்லோட் செய்ய வேண்டும். நேரம் மிச்சமாகும். முக்கியமாக, அவரது நிறுவனத்தின் ரகசியத் தரவு அவரது ஹார்ட் டிரைவை விட்டு வெளியேறாது. ஹெல்த்கேர் அல்லது சட்டம் போன்ற துறைகளில் தரவுப் பாதுகாப்பு சட்டப்பூர்வத் தேவையாக இருப்பதால் இது மிக முக்கியமான காரணி. மார்க்கெட்டிங் லேபிள்களுக்கும் உண்மையான பயன்பாட்டிற்கும் உள்ள வித்தியாசம் இந்தச் சிறிய தருணங்களில் தெரியும். AI ஸ்டிக்கர் கொண்ட லேப்டாப்பில் சற்று சிறந்த பிராசஸர் இருக்கலாம், ஆனால் உண்மையான AI-நேட்டிவ் சாதனம் பணிப்பாய்வையே (workflow) மாற்றும். இது வீடியோ காலின் போது நேரடி மொழிபெயர்ப்பு போன்ற அம்சங்களை அனுமதிக்கிறது, அங்கு ஆடியோ உள்ளூரிலேயே மொழிபெயர்க்கப்படுகிறது. ஆடியோ சர்வருக்குச் சென்று திரும்பி வரும்போது ஏற்படும் அந்த சங்கடமான தாமதத்தை இது தடுக்கிறது.
BotNews.today ஆனது உள்ளடக்கத்தை ஆராய்ச்சி செய்யவும், எழுதவும், திருத்தவும் மற்றும் மொழிபெயர்க்கவும் AI கருவிகளைப் பயன்படுத்துகிறது. தகவலை பயனுள்ளதாகவும், தெளிவானதாகவும், நம்பகமானதாகவும் வைத்திருக்க எங்கள் குழு செயல்முறையை மதிப்பாய்வு செய்து மேற்பார்வையிடுகிறது.
ஆன்-டிவைஸ் இன்டெலிஜென்ஸின் மறைமுகச் செலவுகள்
இந்த புதிய சாதனங்களை மதிப்பிடும்போது சாக்ரடிக் சந்தேகம் அவசியம். இந்த மாற்றத்தால் உண்மையில் யார் பயனடைகிறார்கள்? லோக்கல் AI-க்கு மாறுவது பயனருக்கு உண்மையான முன்னேற்றமா அல்லது உற்பத்தியாளர்கள் ஹார்டுவேரை மாற்ற வற்புறுத்தும் வழியா? உங்கள் தற்போதைய லேப்டாப் உங்கள் வேலைகளுக்குச் சரியாக இருந்தால், NPU-வின் கூடுதல் மதிப்பு அந்தச் செலவை நியாயப்படுத்துமா? இந்த இயந்திரங்களின் ஆயுட்காலத்தையும் நாம் கருத்தில் கொள்ள வேண்டும். AI மாடல்கள் ஒவ்வொரு மாதமும் அளவில் பெரிதாகி வருகின்றன. இன்றைய மாடல்களுக்குப் போதுமான சிப், இரண்டு ஆண்டுகளில் காலாவதியாகிவிடலாம். மென்பொருள் தேவைகளுக்கு ஏற்ப அப்கிரேட் செய்ய வேண்டிய அழுத்தத்தால் மின்னணு கழிவுகள் அதிகரிக்கும் அபாயம் உள்ளது. பிரைவசிக்கான மறைமுகச் செலவுகள் என்ன? லோக்கல் பிராசஸிங் பாதுகாப்பானது என்றாலும், பயனர் தனது தரவு மற்றும் மாடல் மேலாண்மைக்குத் தானே பொறுப்பாக வேண்டும். ஒரு லோக்கல் மாடல் தோல்வியடைந்தாலோ அல்லது தவறான தகவலைக் கொடுத்தாலோ, அதை உடனடியாகச் சரிசெய்ய மத்திய அதிகாரம் ஏதுமில்லை. பேட்டரி ஆயுள் குறித்த கூற்றுகளையும் நாம் கேள்வி கேட்க வேண்டும். உற்பத்தியாளர்கள் பெரும்பாலும் ஈர்க்கக்கூடிய நேரத்தைச் சொல்கிறார்கள், ஆனால் அந்த எண்கள் லேசான பணிகளுக்கு மட்டுமே பொருந்தும். NPU அதிக சுமையில் இருக்கும்போது, GPU-வைப் போலவே பேட்டரி வேகமாகத் தீர்ந்துவிடுமா? இந்த கேள்விகளை மார்க்கெட்டிங் பொருட்கள் பெரும்பாலும் புறக்கணிக்கின்றன. லோக்கல் பிராசஸிங் மற்றும் கிளவுட் வசதிக்கு இடையிலான நிஜ உலக வர்த்தக பரிமாற்றங்களைக் காட்டும் வெளிப்படையான பெஞ்ச்மார்க் முடிவுகளை நாம் பார்க்க வேண்டும். நாங்கள் கவர் செய்ய வேண்டும் என்று நீங்கள் நினைக்கும் AI கதை, கருவி, போக்கு அல்லது கேள்வி உங்களிடம் உள்ளதா? உங்கள் கட்டுரை யோசனையை எங்களுக்கு அனுப்பவும் — அதைக் கேட்க நாங்கள் விரும்புகிறோம்.
AI சிலிக்கானின் உட்புறம்
பவர் யூசர்களுக்கு, லோக்கல் AI-க்கு மாறுவது என்பது வெறும் ஸ்டிக்கர்களைப் பற்றியது மட்டுமல்ல. இது மென்பொருள் அடுக்கு மற்றும் அது ஹார்டுவேருடன் எவ்வாறு இணைகிறது என்பது பற்றியது. ஒரு AI PC-யிலிருந்து அதிக பலனைப் பெற, நீங்கள் ஆதரிக்கப்படும் API-கள் மற்றும் கட்டமைப்புகளைப் பார்க்க வேண்டும். விண்டோஸ் டெவலப்பர்கள் விண்டோஸ் கோபைலட் ரன்டைமை (Windows Copilot Runtime) அதிகம் பயன்படுத்துகின்றனர், இது ஆப்ஸ் இமேஜ் ரெகக்னிஷன் அல்லது டெக்ஸ்ட் ஜெனரேஷன் போன்ற பணிகளுக்கு NPU-வைப் பயன்படுத்த அனுமதிக்கிறது. மேக் பக்கத்தில், கோர் ML (Core ML) இதை பல ஆண்டுகளாகச் செய்து வருகிறது, ஆனால் இப்போது ஆதரிக்கப்படும் மாடல்களின் அளவு அதிகரித்து வருகிறது. இந்த சாதனங்களின் தொழில்நுட்ப வரம்புகள் முக்கியமாக மெமரி பேண்ட்வித் மற்றும் லோக்கல் ஸ்டோரேஜ் மூலம் வரையறுக்கப்படுகின்றன. ஒரு பெரிய லாங்குவேஜ் மாடல் மெமரியில் இருக்க கணிசமான அளவு RAM தேவைப்படுகிறது. உங்கள் சிஸ்டத்தில் 8GB RAM மட்டுமே இருந்தால், பிரவுசர் மற்றும் மின்னஞ்சலைத் திறந்து வைத்துக்கொண்டு, ஒரு சிக்கலான மாடலை உள்ளூரில் இயக்குவது கடினம். பவர் யூசர்கள் குறைந்தது 16GB அல்லது 32GB அதிவேக மெமரி கொண்ட சிஸ்டம்களைத் தேட வேண்டும். டிஸ்க்கிலிருந்து இந்த மாடல்களை ஏற்றுவது ஒரு தடையை உருவாக்கக்கூடும் என்பதால் ஸ்டோரேஜ் வேகமும் முக்கியம்.
- NPU-கள் TOPS-ல் அளவிடப்படுகின்றன, அதாவது Tera Operations Per Second.
- லோக்கல் மாடல்கள் பெரும்பாலும் தங்கள் அளவைக் குறைக்க FP32-லிருந்து INT8 அல்லது INT4-க்கு குவாண்டிசேஷனைப் (quantization) பயன்படுத்துகின்றன.
பணிப்பாய்வு ஒருங்கிணைப்பு அடுத்த கட்டமாகும். LM Studio அல்லது Ollama போன்ற கருவிகளைப் பயன்படுத்தி பிரபலமான மாடல்களின் லோக்கல் பதிப்புகளை இயக்குவதற்கு அதிக கருவிகள் வருகின்றன. இந்த அப்ளிகேஷன்கள் கிளவுட் வழங்குநர்களின் சந்தாக் கட்டணங்களைத் தவிர்க்க உதவுகின்றன. இருப்பினும், சில மென்பொருள் விற்பனையாளர்கள் இன்னும் விதிக்கக்கூடிய API வரம்புகள் குறித்து நீங்கள் அறிந்திருக்க வேண்டும். உங்களிடம் ஹார்டுவேர் இருந்தாலும், சில மென்பொருள்கள் இன்னும் ஹோம் சர்வரைச் சரிபார்க்கும் வகையில் கோட் செய்யப்பட்டுள்ளன. சமீபத்திய AI ஹார்டுவேர் அறிக்கைகளைச் சரிபார்ப்பது, எந்த சாதனங்கள் லோக்கல் மேம்பாட்டிற்கு உண்மையிலேயே திறந்திருக்கும் என்பதைக் கண்டறிய உதவும்.
பயனர்களுக்கான நடைமுறைத் தேர்வு
கிளவுட் சார்ந்த பணிப்பாய்வு மற்றும் AI PC ஆகியவற்றுக்கு இடையே தேர்வு செய்வது உங்கள் குறிப்பிட்ட தேவைகள் மற்றும் பட்ஜெட்டைப் பொறுத்தது. நீங்கள் பெரும்பாலும் மின்னஞ்சல்களை எழுதுபவர் மற்றும் வீடியோக்களைப் பார்ப்பவர் என்றால், கிளவுட் இன்னும் செலவு குறைந்த விருப்பமாகும். அரிதாகவே பயன்படுத்தப்போகும் சிறப்பு சிலிக்கானுக்கு நீங்கள் அதிக பணம் செலுத்த வேண்டியதில்லை. இருப்பினும், நீங்கள் முக்கியமான தரவுகளைக் கையாளும் நிபுணராகவோ அல்லது மோசமான இணைப்பு உள்ள சூழலில் வேலை செய்பவராகவோ இருந்தால், லோக்கல் AI இயந்திரத்தில் முதலீடு செய்வது அவசியம். உங்கள் தரவு உங்கள் சாதனத்திலேயே இருக்கும் என்ற மன அமைதி ஒரு குறிப்பிடத்தக்க நன்மையாகும்.
ஆசிரியரின் குறிப்பு: கணினித் துறையில் நிபுணர்கள் அல்லாதவர்கள், ஆனால் செயற்கை நுண்ணறிவைப் புரிந்துகொள்ளவும், அதை அதிக நம்பிக்கையுடன் பயன்படுத்தவும், ஏற்கனவே வந்துகொண்டிருக்கும் எதிர்காலத்தைப் பின்தொடரவும் விரும்பும் மக்களுக்காக, பலமொழி AI செய்திகள் மற்றும் வழிகாட்டல் மையமாக இந்த தளத்தை நாங்கள் உருவாக்கினோம்.
ஹார்டுவேர் உலகம் இப்போது நிலையானது அல்ல. இன்டெல் மற்றும் மைக்ரோசாப்ட் போன்ற நிறுவனங்களின் உயர் செயல்திறன் கொண்ட NPU-களின் அறிமுகம், ஒரு லேப்டாப் எப்படி இருக்க வேண்டும் என்பதற்கான அடிப்படைத் தரத்தை மாற்றியுள்ளது. intel.com, microsoft.com அல்லது nvidia.com போன்ற அவர்களின் அதிகாரப்பூர்வ தளங்களில் அவர்கள் தங்கள் சமீபத்திய சிப்களை எவ்வாறு நிலைநிறுத்துகிறார்கள் என்பதைப் பார்க்கலாம். உங்கள் உண்மையான அன்றாடப் பணிகளின் அடிப்படையில் முடிவெடுங்கள், ஹைப்பைப் பார்த்து அல்ல. லோக்கல் AI ஒரு சக்திவாய்ந்த கருவி, ஆனால் அது உங்கள் பணிப்பாய்வுக்குப் பொருந்தி, உங்களுக்கு இருக்கும் ஒரு சிக்கலைத் தீர்த்தால் மட்டுமே பயனுள்ளது. ஒரு பிழையைக் கண்டறிந்தீர்களா அல்லது திருத்தப்பட வேண்டிய ஒன்று இருக்கிறதா? எங்களுக்குத் தெரியப்படுத்துங்கள்.
