AI PCs ਬਨਾਮ Cloud AI: ਤੁਹਾਡੀ ਡਿਵਾਈਸ ‘ਤੇ ਕੀ ਬਦਲ ਰਿਹਾ ਹੈ?

ਸਿਲੀਕਾਨ ਪ੍ਰਾਈਵੇਸੀ ਵੱਲ ਇੱਕ ਕਦਮ

ਹਰ ਇੱਕ ਪ੍ਰੋਂਪਟ ਨੂੰ ਦੂਰ-ਦੁਰਾਡੇ ਸਰਵਰ ਫਾਰਮਾਂ ‘ਤੇ ਭੇਜਣ ਦਾ ਦੌਰ ਹੁਣ ਖਤਮ ਹੋ ਰਿਹਾ ਹੈ। ਪਿਛਲੇ ਕੁਝ ਸਾਲਾਂ ਤੋਂ, ਟੈਕ ਦੁਨੀਆ ਭਾਸ਼ਾ ਅਤੇ ਚਿੱਤਰਾਂ ਨੂੰ ਪ੍ਰੋਸੈਸ ਕਰਨ ਲਈ ਵੱਡੇ ਕਲਾਉਡ ਕਲੱਸਟਰਾਂ ‘ਤੇ ਨਿਰਭਰ ਸੀ। ਇਹ ਪਹੁੰਚ ਸ਼ੁਰੂਆਤੀ ਸਮੇਂ ਲਈ ਤਾਂ ਠੀਕ ਸੀ, ਪਰ ਇਸ ਨਾਲ ਲੈਟੈਂਸੀ ਅਤੇ ਪ੍ਰਾਈਵੇਸੀ ਦੀਆਂ ਸਮੱਸਿਆਵਾਂ ਪੈਦਾ ਹੋ ਗਈਆਂ। ਹੁਣ, ਸਾਰਾ ਧਿਆਨ ਤੁਹਾਡੀ ਮੇਜ਼ ‘ਤੇ ਪਏ ਹਾਰਡਵੇਅਰ ‘ਤੇ ਹੈ। ਵੱਡੇ ਚਿੱਪ ਨਿਰਮਾਤਾ ਲੈਪਟਾਪਾਂ ਅਤੇ ਡੈਸਕਟਾਪਾਂ ਵਿੱਚ ਵਿਸ਼ੇਸ਼ ਕੰਪੋਨੈਂਟਸ ਜੋੜ ਰਹੇ ਹਨ ਤਾਂ ਜੋ ਇਹ ਕੰਮ ਸਥਾਨਕ ਤੌਰ ‘ਤੇ (locally) ਕੀਤੇ ਜਾ ਸਕਣ। ਇਹ ਬਦਲਾਅ ਕਲਾਉਡ ‘ਤੇ ਪੂਰੀ ਨਿਰਭਰਤਾ ਤੋਂ ਇੱਕ ਵੱਡੀ ਤਬਦੀਲੀ ਹੈ। ਮੁੱਖ ਗੱਲ ਇਹ ਹੈ ਕਿ ਤੁਹਾਡੇ ਅਗਲੇ ਕੰਪਿਊਟਰ ਨੂੰ ਇਸ ਆਧਾਰ ‘ਤੇ ਪਰਖਿਆ ਜਾਵੇਗਾ ਕਿ ਉਹ ਬਿਨਾਂ ਇੰਟਰਨੈਟ ਦੇ ਕਿੰਨਾ ਵਧੀਆ ਕੰਮ ਕਰ ਸਕਦਾ ਹੈ। ਇਹ ਸਿਰਫ਼ ਇੱਕ ਛੋਟਾ ਜਿਹਾ ਅਪਗ੍ਰੇਡ ਨਹੀਂ ਹੈ, ਸਗੋਂ ਇਹ ਪਰਸਨਲ ਕੰਪਿਊਟਿੰਗ ਦੇ ਕੰਮ ਕਰਨ ਦੇ ਤਰੀਕੇ ਵਿੱਚ ਇੱਕ ਬੁਨਿਆਦੀ ਬਦਲਾਅ ਹੈ। ਕੰਮ ਨੂੰ ਕਲਾਉਡ ਤੋਂ ਡਿਵਾਈਸ ‘ਤੇ ਲਿਆਉਣ ਨਾਲ, ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਸਪੀਡ ਅਤੇ ਸੁਰੱਖਿਆ ਮਿਲਦੀ ਹੈ। ਇਸ ਨਾਲ ਬੁਨਿਆਦੀ ਕੰਮਾਂ ਲਈ ਹਰ ਸਮੇਂ ਹਾਈ-ਸਪੀਡ ਕਨੈਕਸ਼ਨ ਦੀ ਲੋੜ ਵੀ ਖਤਮ ਹੋ ਜਾਂਦੀ ਹੈ। ਉਦਯੋਗ ਇੱਕ ਹਾਈਬ੍ਰਿਡ ਮਾਡਲ ਵੱਲ ਵਧ ਰਿਹਾ ਹੈ ਜਿੱਥੇ ਕਲਾਉਡ ਵੱਡੇ ਡੇਟਾਸੈਟਾਂ ਨੂੰ ਸੰਭਾਲਦਾ ਹੈ ਅਤੇ ਤੁਹਾਡੀ ਮਸ਼ੀਨ ਤੁਹਾਡੇ ਨਿੱਜੀ ਡੇਟਾ ਅਤੇ ਤੁਰੰਤ ਇੰਟਰੈਕਸ਼ਨਾਂ ਨੂੰ ਮੈਨੇਜ ਕਰਦੀ ਹੈ।

Neural Processing Unit (NPU) ਦੇ ਅੰਦਰ

ਇਸ ਬਦਲਾਅ ਨੂੰ ਸਮਝਣ ਲਈ, ਤੁਹਾਨੂੰ Neural Processing Unit ਜਾਂ NPU ‘ਤੇ ਨਜ਼ਰ ਮਾਰਨੀ ਪਵੇਗੀ। ਦਹਾਕਿਆਂ ਤੋਂ, Central Processing Unit ਜਾਂ CPU ਕੰਪਿਊਟਰ ਦੇ ਦਿਮਾਗ ਵਜੋਂ ਕੰਮ ਕਰਦਾ ਸੀ। ਬਾਅਦ ਵਿੱਚ, Graphics Processing Unit ਜਾਂ GPU ਨੇ ਗੇਮਿੰਗ ਅਤੇ ਵੀਡੀਓ ਐਡਿਟਿੰਗ ਲਈ ਭਾਰੀ ਗਣਿਤਿਕ ਕੰਮ ਸੰਭਾਲ ਲਏ। NPU ਆਧੁਨਿਕ ਸਿਲੀਕਾਨ ਦਾ ਤੀਜਾ ਥੰਮ੍ਹ ਹੈ। ਇਹ ਖਾਸ ਤੌਰ ‘ਤੇ ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ ਲਈ ਬਣਿਆ ਪ੍ਰੋਸੈਸਰ ਹੈ। CPU ਦੇ ਉਲਟ, ਜੋ ਇੱਕ ਜਨਰਲਿਸਟ ਹੈ, NPU ਇੱਕ ਸਪੈਸ਼ਲਿਸਟ ਹੈ ਜੋ ਬਹੁਤ ਘੱਟ ਪਾਵਰ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਪ੍ਰਤੀ ਸਕਿੰਟ ਅਰਬਾਂ ਆਪਰੇਸ਼ਨ ਕਰ ਸਕਦਾ ਹੈ। ਇਹ ਹਾਰਡਵੇਅਰ ‘ਆਨ-ਡਿਵਾਈਸ ਇਨਫਰੈਂਸ’ (on-device inference) ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦਾ ਹੈ। ਇਨਫਰੈਂਸ ਉਹ ਪ੍ਰਕਿਰਿਆ ਹੈ ਜਿੱਥੇ ਇੱਕ ਮਾਡਲ ਅਸਲ ਵਿੱਚ ਚੱਲਦਾ ਹੈ ਅਤੇ ਜਵਾਬ ਦਿੰਦਾ ਹੈ। ਜਦੋਂ ਤੁਸੀਂ ਕਲਾਉਡ ਸਰਵਿਸ ‘ਤੇ ਪ੍ਰੋਂਪਟ ਟਾਈਪ ਕਰਦੇ ਹੋ, ਤਾਂ ਉਹ ਇਨਫਰੈਂਸ ਕਿਸੇ ਵੱਡੀ ਕਾਰਪੋਰੇਸ਼ਨ ਦੇ ਸਰਵਰ ‘ਤੇ ਹੁੰਦੀ ਹੈ। NPU ਨਾਲ, ਇਹ ਤੁਹਾਡੀ ਗੋਦ ਵਿੱਚ ਪਏ ਲੈਪਟਾਪ ‘ਤੇ ਹੁੰਦੀ ਹੈ। ਇਹੀ ਕਾਰਨ ਹੈ ਕਿ ਤੁਸੀਂ ਹਰ ਲੈਪਟਾਪ ਬਾਕਸ ‘ਤੇ ਨਵੇਂ ਮਾਰਕੀਟਿੰਗ ਲੇਬਲ ਦੇਖਦੇ ਹੋ। ਨਿਰਮਾਤਾ ਇਹ ਦਿਖਾਉਣ ਲਈ ਉਤਸੁਕ ਹਨ ਕਿ ਉਨ੍ਹਾਂ ਦਾ ਹਾਰਡਵੇਅਰ ਬੈਟਰੀ ਖਤਮ ਕੀਤੇ ਬਿਨਾਂ ਇਹ ਕੰਮ ਕਰ ਸਕਦਾ ਹੈ। NPU ਇਨ੍ਹਾਂ ਖਾਸ ਕੰਮਾਂ ਲਈ GPU ਨਾਲੋਂ ਕਿਤੇ ਜ਼ਿਆਦਾ ਕੁਸ਼ਲ ਹੈ। ਇਹ ਲੈਪਟਾਪ ਦੇ ਪੱਖਿਆਂ ਨੂੰ ਸ਼ਾਂਤ ਰੱਖਦਾ ਹੈ ਜਦੋਂ ਇਹ ਵੀਡੀਓ ਕਾਲ ਵਿੱਚ ਤੁਹਾਡੇ ਬੈਕਗ੍ਰਾਊਂਡ ਨੂੰ ਬਲਰ ਕਰਦਾ ਹੈ ਜਾਂ ਮੀਟਿੰਗ ਨੂੰ ਰੀਅਲ-ਟਾਈਮ ਵਿੱਚ ਟ੍ਰਾਂਸਕ੍ਰਾਈਬ ਕਰਦਾ ਹੈ।

ਕਲਾਉਡ ਦੀਆਂ ਭੌਤਿਕ ਸੀਮਾਵਾਂ

ਕਲਾਉਡ ਦੀਆਂ ਭੌਤਿਕ ਸੀਮਾਵਾਂ

ਸਥਾਨਕ AI ਲਈ ਜ਼ੋਰ ਸਿਰਫ਼ ਉਪਭੋਗਤਾ ਦੀ ਸਹੂਲਤ ਬਾਰੇ ਨਹੀਂ ਹੈ। ਇਹ ਸਾਡੀ ਦੁਨੀਆ ਦੀਆਂ ਭੌਤਿਕ ਸੀਮਾਵਾਂ ਦੁਆਰਾ ਚਲਾਈ ਗਈ ਇੱਕ ਜ਼ਰੂਰਤ ਹੈ। ਡੇਟਾ ਸੈਂਟਰ ਇੱਕ ਸੀਮਾ ਤੱਕ ਪਹੁੰਚ ਰਹੇ ਹਨ। ਇੱਕ ਨਵੀਂ ਹਾਈਪਰਸਕੇਲ ਸਹੂਲਤ ਬਣਾਉਣ ਲਈ ਬਹੁਤ ਜ਼ਿਆਦਾ ਜ਼ਮੀਨ ਅਤੇ ਇੱਕ ਸਥਿਰ ਗਰਿੱਡ ਕਨੈਕਸ਼ਨ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ। ਕਈ ਖੇਤਰਾਂ ਵਿੱਚ, ਨਵੇਂ ਡੇਟਾ ਸੈਂਟਰ ਲਈ ਪਰਮਿਟ ਲੈਣ ਵਿੱਚ ਕਈ ਸਾਲ ਲੱਗ ਜਾਂਦੇ ਹਨ। ਸਥਾਨਕ ਪੱਧਰ ‘ਤੇ ਵਿਰੋਧ ਵਧ ਰਿਹਾ ਹੈ ਕਿਉਂਕਿ ਇਹ ਸਹੂਲਤਾਂ ਕੂਲਿੰਗ ਲਈ ਲੱਖਾਂ ਗੈਲਨ ਪਾਣੀ ਦੀ ਵਰਤੋਂ ਕਰਦੀਆਂ ਹਨ। ਉਹ ਸਥਾਨਕ ਪਾਵਰ ਗਰਿੱਡਾਂ ‘ਤੇ ਵੀ ਭਾਰੀ ਦਬਾਅ ਪਾਉਂਦੀਆਂ ਹਨ। ਇਨਫਰੈਂਸ ਨੂੰ ਸਥਾਨਕ ਡਿਵਾਈਸ ‘ਤੇ ਲਿਜਾ ਕੇ, ਕੰਪਨੀਆਂ ਇਨ੍ਹਾਂ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਦੀਆਂ ਰੁਕਾਵਟਾਂ ਨੂੰ ਪਾਰ ਕਰ ਸਕਦੀਆਂ ਹਨ। ਜੇ ਇੱਕ ਅਰਬ ਉਪਭੋਗਤਾ ਆਪਣੇ ਮਾਡਲ ਸਥਾਨਕ ਤੌਰ ‘ਤੇ ਚਲਾਉਂਦੇ ਹਨ, ਤਾਂ ਕੇਂਦਰੀ ਗਰਿੱਡ ‘ਤੇ ਮੰਗ ਕਾਫ਼ੀ ਘੱਟ ਜਾਂਦੀ ਹੈ। ਇਹ ਇੱਕ ਗਲੋਬਲ ਸਰੋਤ ਸਮੱਸਿਆ ਦਾ ਵਿਹਾਰਕ ਹੱਲ ਹੈ। ਅਸੀਂ ਇੱਕ ਅਜਿਹਾ ਬਦਲਾਅ ਦੇਖ ਰਹੇ ਹਾਂ ਜਿੱਥੇ ਕੰਪਿਊਟਿੰਗ ਦੀ ਵਾਤਾਵਰਣਕ ਲਾਗਤ ਨੂੰ ਕੁਝ ਵੱਡੇ ਹੱਬਾਂ ਵਿੱਚ ਕੇਂਦਰਿਤ ਕਰਨ ਦੀ ਬਜਾਏ ਲੱਖਾਂ ਡਿਵਾਈਸਾਂ ਵਿੱਚ ਵੰਡਿਆ ਜਾ ਰਿਹਾ ਹੈ। ਇਹ ਬਦਲਾਅ ਹੁਣ ਹੋ ਰਿਹਾ ਹੈ ਕਿਉਂਕਿ ਸਿਲੀਕਾਨ ਉਸ ਪੱਧਰ ‘ਤੇ ਪਹੁੰਚ ਗਿਆ ਹੈ ਜਿੱਥੇ ਇਹ ਭਾਰ ਸੰਭਾਲ ਸਕਦਾ ਹੈ। AI-ਨੇਟਿਵ ਹਾਰਡਵੇਅਰ ਲਈ ਹਾਲੀਆ ਜ਼ੋਰ ਇਸ ਹਕੀਕਤ ਦਾ ਸਿੱਧਾ ਜਵਾਬ ਹੈ ਕਿ ਕਲਾਉਡ ਭੌਤਿਕ ਅਤੇ ਸਮਾਜਿਕ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਤੋੜੇ ਬਿਨਾਂ ਅਨੰਤ ਤੌਰ ‘ਤੇ ਸਕੇਲ ਨਹੀਂ ਕਰ ਸਕਦਾ।

ਤੁਹਾਡੇ ਹੱਥ ਦੀ ਤਲੀ ਵਿੱਚ ਸਥਾਨਕ ਸ਼ਕਤੀ

ਇਸ ਹਾਰਡਵੇਅਰ ਦਾ ਵਿਹਾਰਕ ਪ੍ਰਭਾਵ ਇੱਕ ਆਧੁਨਿਕ ਪੇਸ਼ੇਵਰ ਦੇ ਰੋਜ਼ਾਨਾ ਜੀਵਨ ਵਿੱਚ ਸਭ ਤੋਂ ਵਧੀਆ ਦੇਖਿਆ ਜਾ ਸਕਦਾ ਹੈ। ਕਲਪਨਾ ਕਰੋ ਕਿ ਸਾਰਾਹ ਨਾਮ ਦੀ ਇੱਕ ਮਾਰਕੀਟਿੰਗ ਮੈਨੇਜਰ ਇੱਕ ਟ੍ਰੇਨ ਵਿੱਚ ਸਫ਼ਰ ਕਰ ਰਹੀ ਹੈ ਜਿੱਥੇ Wi-Fi ਕਮਜ਼ੋਰ ਹੈ। ਪੁਰਾਣੇ ਮਾਡਲ ਵਿੱਚ, ਸਾਰਾਹ ਇੱਕ ਮਜ਼ਬੂਤ ਕਨੈਕਸ਼ਨ ਤੋਂ ਬਿਨਾਂ ਆਪਣੇ ਐਡਵਾਂਸਡ ਟੂਲਸ ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਿੱਚ ਅਸਮਰੱਥ ਹੁੰਦੀ। ਇੱਕ AI PC ਦੇ ਨਾਲ, ਉਹ ਇੱਕ ਪੰਜਾਹ ਪੰਨਿਆਂ ਦਾ ਦਸਤਾਵੇਜ਼ ਖੋਲ੍ਹ ਸਕਦੀ ਹੈ ਅਤੇ ਤੁਰੰਤ ਸਾਰ (summary) ਮੰਗ ਸਕਦੀ ਹੈ। ਸਥਾਨਕ ਹਾਰਡਵੇਅਰ ਬਿਨਾਂ ਕਿਸੇ ਸਰਵਰ ਨੂੰ ਡੇਟਾ ਭੇਜੇ ਜਾਣਕਾਰੀ ਨੂੰ ਤੇਜ਼ੀ ਨਾਲ ਪ੍ਰੋਸੈਸ ਕਰਦਾ ਹੈ। ਇਹ ਆਨ-ਡਿਵਾਈਸ ਇਨਫਰੈਂਸ ਦੀ ਹਕੀਕਤ ਹੈ। ਇਹ ਕਨੈਕਟੀਵਿਟੀ ਦੀ ਰੁਕਾਵਟ ਨੂੰ ਦੂਰ ਕਰਦਾ ਹੈ। ਦਿਨ ਵਿੱਚ ਬਾਅਦ ਵਿੱਚ, ਸਾਰਾਹ ਨੂੰ ਸੋਸ਼ਲ ਮੀਡੀਆ ਮੁਹਿੰਮ ਲਈ ਇੱਕ ਵੀਡੀਓ ਐਡਿਟ ਕਰਨ ਦੀ ਲੋੜ ਹੈ। ਉਸਦਾ ਸਥਾਨਕ NPU ਵਿਸ਼ੇ ਦੀ ਪਛਾਣ ਕਰਨ ਅਤੇ ਬੈਕਗ੍ਰਾਊਂਡ ਹਟਾਉਣ ਦਾ ਕੰਮ ਸੰਭਾਲਦਾ ਹੈ। ਇਹ ਜ਼ੀਰੋ ਲੈਟੈਂਸੀ ਨਾਲ ਰੀਅਲ-ਟਾਈਮ ਵਿੱਚ ਹੁੰਦਾ ਹੈ। ਕਲਾਉਡ ਮਾਡਲ ਵਿੱਚ, ਉਸਨੂੰ ਵੀਡੀਓ ਅਪਲੋਡ ਕਰਨਾ ਪੈਂਦਾ, ਪ੍ਰੋਸੈਸਿੰਗ ਦੀ ਉਡੀਕ ਕਰਨੀ ਪੈਂਦੀ, ਅਤੇ ਫਿਰ ਨਤੀਜਾ ਡਾਊਨਲੋਡ ਕਰਨਾ ਪੈਂਦਾ। ਬਚਿਆ ਸਮਾਂ ਕਾਫ਼ੀ ਹੈ। ਸਭ ਤੋਂ ਮਹੱਤਵਪੂਰਨ, ਉਸਦੀ ਕੰਪਨੀ ਦਾ ਪ੍ਰੋਪ੍ਰਾਈਟਰੀ ਡੇਟਾ ਉਸਦੀ ਹਾਰਡ ਡਰਾਈਵ ਤੋਂ ਕਦੇ ਬਾਹਰ ਨਹੀਂ ਜਾਂਦਾ। ਇਹ ਹੈਲਥਕੇਅਰ ਜਾਂ ਕਾਨੂੰਨ ਵਰਗੇ ਉਦਯੋਗਾਂ ਲਈ ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਕਾਰਕ ਹੈ ਜਿੱਥੇ ਡੇਟਾ ਪ੍ਰਾਈਵੇਸੀ ਇੱਕ ਕਾਨੂੰਨੀ ਜ਼ਰੂਰਤ ਹੈ। ਮਾਰਕੀਟਿੰਗ ਲੇਬਲਾਂ ਅਤੇ ਅਸਲ ਵਰਤੋਂ ਦੇ ਮਾਮਲਿਆਂ ਵਿਚਕਾਰ ਅੰਤਰ ਅਕਸਰ ਇਹਨਾਂ ਛੋਟੇ ਪਲਾਂ ਵਿੱਚ ਪਾਇਆ ਜਾਂਦਾ ਹੈ। AI ਸਟਿੱਕਰ ਵਾਲੇ ਲੈਪਟਾਪ ਵਿੱਚ ਸ਼ਾਇਦ ਇੱਕ ਥੋੜ੍ਹਾ ਬਿਹਤਰ ਪ੍ਰੋਸੈਸਰ ਹੋਵੇ, ਪਰ ਇੱਕ ਸੱਚਾ AI-ਨੇਟਿਵ ਡਿਵਾਈਸ ਵਰਕਫਲੋ ਨੂੰ ਬਦਲ ਦਿੰਦਾ ਹੈ। ਇਹ ਵੀਡੀਓ ਕਾਲ ਦੌਰਾਨ ਲਾਈਵ ਅਨੁਵਾਦ ਵਰਗੀਆਂ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦਾ ਹੈ ਜਿੱਥੇ ਆਡੀਓ ਦਾ ਅਨੁਵਾਦ ਸਥਾਨਕ ਤੌਰ ‘ਤੇ ਕੀਤਾ ਜਾਂਦਾ ਹੈ। ਇਹ ਉਸ ਅਜੀਬ ਦੇਰੀ ਨੂੰ ਰੋਕਦਾ ਹੈ ਜੋ ਉਦੋਂ ਹੁੰਦੀ ਹੈ ਜਦੋਂ ਆਡੀਓ ਨੂੰ ਸਰਵਰ ਤੱਕ ਜਾਣਾ ਅਤੇ ਵਾਪਸ ਆਉਣਾ ਪੈਂਦਾ ਹੈ।

ਇਹ ਉਹ ਵਰਤੋਂ ਦੇ ਮਾਮਲੇ ਹਨ ਜੋ ਮਾਇਨੇ ਰੱਖਦੇ ਹਨ। ਇਹ ਫਲੈਸ਼ੀ ਡੈਮੋ ਬਾਰੇ ਨਹੀਂ ਹਨ, ਸਗੋਂ ਕੰਪਿਊਟਰ ਨੂੰ ਰੀਅਲ-ਟਾਈਮ ਵਿੱਚ ਉਪਭੋਗਤਾ ਦੀਆਂ ਲੋੜਾਂ ਲਈ ਵਧੇਰੇ ਜਵਾਬਦੇਹ ਬਣਾਉਣ ਬਾਰੇ ਹਨ।

ਆਨ-ਡਿਵਾਈਸ ਇੰਟੈਲੀਜੈਂਸ ਦੀਆਂ ਲੁਕੀਆਂ ਹੋਈਆਂ ਲਾਗਤਾਂ

ਇਹਨਾਂ ਨਵੀਆਂ ਡਿਵਾਈਸਾਂ ਦਾ ਮੁਲਾਂਕਣ ਕਰਦੇ ਸਮੇਂ ਸੋਕਰੇਟਿਕ ਸੰਦੇਹਵਾਦ ਜ਼ਰੂਰੀ ਹੈ। ਸਾਨੂੰ ਇਹ ਪੁੱਛਣਾ ਚਾਹੀਦਾ ਹੈ ਕਿ ਇਸ ਬਦਲਾਅ ਤੋਂ ਅਸਲ ਵਿੱਚ ਕਿਸ ਨੂੰ ਫਾਇਦਾ ਹੁੰਦਾ ਹੈ। ਕੀ ਸਥਾਨਕ AI ਵੱਲ ਵਧਣਾ ਉਪਭੋਗਤਾ ਲਈ ਇੱਕ ਅਸਲ ਸੁਧਾਰ ਹੈ, ਜਾਂ ਇਹ ਨਿਰਮਾਤਾਵਾਂ ਲਈ ਹਾਰਡਵੇਅਰ ਰਿਫ੍ਰੈਸ਼ ਚੱਕਰ ਨੂੰ ਮਜਬੂਰ ਕਰਨ ਦਾ ਇੱਕ ਤਰੀਕਾ ਹੈ? ਜੇ ਤੁਹਾਡਾ ਮੌਜੂਦਾ ਲੈਪਟਾਪ ਤੁਹਾਡੇ ਕੰਮਾਂ ਲਈ ਬਿਲਕੁਲ ਸਹੀ ਕੰਮ ਕਰ ਰਿਹਾ ਹੈ, ਤਾਂ ਕੀ NPU ਦਾ ਜੋੜ ਲਾਗਤ ਨੂੰ ਜਾਇਜ਼ ਠਹਿਰਾਉਣ ਲਈ ਕਾਫ਼ੀ ਮੁੱਲ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ? ਸਾਨੂੰ ਇਹਨਾਂ ਮਸ਼ੀਨਾਂ ਦੀ ਲੰਬੀ ਉਮਰ ‘ਤੇ ਵੀ ਵਿਚਾਰ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ। AI ਮਾਡਲ ਹਰ ਮਹੀਨੇ ਆਕਾਰ ਅਤੇ ਗੁੰਝਲਤਾ ਵਿੱਚ ਵੱਧ ਰਹੇ ਹਨ। ਇੱਕ ਚਿੱਪ ਜੋ ਅੱਜ ਦੇ ਮਾਡਲਾਂ ਲਈ ਕਾਫ਼ੀ ਸ਼ਕਤੀਸ਼ਾਲੀ ਹੈ, ਉਹ ਦੋ ਸਾਲਾਂ ਵਿੱਚ ਪੁਰਾਣੀ ਹੋ ਸਕਦੀ ਹੈ। ਇਹ ਇਲੈਕਟ੍ਰਾਨਿਕ ਰਹਿੰਦ-ਖੂੰਹਦ ਦੇ ਵਧਣ ਦਾ ਜੋਖਮ ਪੈਦਾ ਕਰਦਾ ਹੈ ਕਿਉਂਕਿ ਉਪਭੋਗਤਾ ਸੌਫਟਵੇਅਰ ਲੋੜਾਂ ਨਾਲ ਤਾਲਮੇਲ ਰੱਖਣ ਲਈ ਅਪਗ੍ਰੇਡ ਕਰਨ ਲਈ ਦਬਾਅ ਮਹਿਸੂਸ ਕਰਦੇ ਹਨ। ਪ੍ਰਾਈਵੇਸੀ ਦੀਆਂ ਲੁਕੀਆਂ ਹੋਈਆਂ ਲਾਗਤਾਂ ਕੀ ਹਨ? ਹਾਲਾਂਕਿ ਸਥਾਨਕ ਪ੍ਰੋਸੈਸਿੰਗ ਵਧੇਰੇ ਸੁਰੱਖਿਅਤ ਹੈ, ਇਸਦਾ ਮਤਲਬ ਇਹ ਵੀ ਹੈ ਕਿ ਉਪਭੋਗਤਾ ਆਪਣੇ ਖੁਦ ਦੇ ਡੇਟਾ ਰਿਡੰਡੈਂਸੀ ਅਤੇ ਮਾਡਲ ਪ੍ਰਬੰਧਨ ਲਈ ਜ਼ਿੰਮੇਵਾਰ ਹੈ। ਜੇ ਕੋਈ ਸਥਾਨਕ ਮਾਡਲ ਫੇਲ੍ਹ ਹੋ ਜਾਂਦਾ ਹੈ ਜਾਂ ਗਲਤ ਜਾਣਕਾਰੀ ਦਿੰਦਾ ਹੈ, ਤਾਂ ਹਰ ਕਿਸੇ ਲਈ ਇਸਨੂੰ ਤੁਰੰਤ ਪੈਚ ਕਰਨ ਲਈ ਕੋਈ ਕੇਂਦਰੀ ਅਥਾਰਟੀ ਨਹੀਂ ਹੈ। ਸਾਨੂੰ ਬੈਟਰੀ ਲਾਈਫ ਦੇ ਦਾਅਵਿਆਂ ‘ਤੇ ਵੀ ਸਵਾਲ ਉਠਾਉਣੇ ਚਾਹੀਦੇ ਹਨ। ਨਿਰਮਾਤਾ ਅਕਸਰ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਘੰਟਿਆਂ ਦਾ ਹਵਾਲਾ ਦਿੰਦੇ ਹਨ, ਪਰ ਉਹ ਅੰਕੜੇ ਆਮ ਤੌਰ ‘ਤੇ ਹਲਕੇ ਕੰਮਾਂ ‘ਤੇ ਲਾਗੂ ਹੁੰਦੇ ਹਨ। ਜਦੋਂ NPU ਭਾਰੀ ਲੋਡ ਦੇ ਅਧੀਨ ਹੁੰਦਾ ਹੈ, ਤਾਂ ਕੀ ਬੈਟਰੀ ਉਨੀ ਹੀ ਤੇਜ਼ੀ ਨਾਲ ਖਤਮ ਹੁੰਦੀ ਹੈ ਜਿੰਨੀ ਇਹ GPU ਨਾਲ ਹੁੰਦੀ? ਇਹ ਉਹ ਸਵਾਲ ਹਨ ਜੋ ਮਾਰਕੀਟਿੰਗ ਸਮੱਗਰੀ ਅਕਸਰ ਨਜ਼ਰਅੰਦਾਜ਼ ਕਰ ਦਿੰਦੀ ਹੈ। ਸਾਨੂੰ ਪਾਰਦਰਸ਼ੀ ਬੈਂਚਮਾਰਕ ਦੇਖਣ ਦੀ ਲੋੜ ਹੈ ਜੋ ਸਥਾਨਕ ਪ੍ਰੋਸੈਸਿੰਗ ਅਤੇ ਕਲਾਉਡ ਸਹੂਲਤ ਵਿਚਕਾਰ ਅਸਲ-ਸੰਸਾਰ ਦੇ ਸਮਝੌਤਿਆਂ ਨੂੰ ਦਰਸਾਉਂਦੇ ਹਨ। ਕੀ ਤੁਹਾਡੇ ਕੋਲ ਕੋਈ AI ਕਹਾਣੀ, ਟੂਲ, ਰੁਝਾਨ ਜਾਂ ਸਵਾਲ ਹੈ ਜੋ ਤੁਹਾਨੂੰ ਲੱਗਦਾ ਹੈ ਕਿ ਸਾਨੂੰ ਕਵਰ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ? ਸਾਨੂੰ ਆਪਣਾ ਲੇਖ ਦਾ ਵਿਚਾਰ ਭੇਜੋ — ਅਸੀਂ ਇਸਨੂੰ ਸੁਣਨਾ ਪਸੰਦ ਕਰਾਂਗੇ।

AI ਸਿਲੀਕਾਨ ਦੇ ਹੁੱਡ ਦੇ ਹੇਠਾਂ

ਪਾਵਰ ਯੂਜ਼ਰ ਲਈ, ਸਥਾਨਕ AI ਵੱਲ ਤਬਦੀਲੀ ਸਿਰਫ਼ ਸਟਿੱਕਰਾਂ ਤੋਂ ਵੱਧ ਹੈ। ਇਹ ਸੌਫਟਵੇਅਰ ਸਟੈਕ ਅਤੇ ਇਹ ਹਾਰਡਵੇਅਰ ਨਾਲ ਕਿਵੇਂ ਜੁੜਦਾ ਹੈ, ਇਸ ਬਾਰੇ ਹੈ। AI PC ਦਾ ਵੱਧ ਤੋਂ ਵੱਧ ਲਾਭ ਉਠਾਉਣ ਲਈ, ਤੁਹਾਨੂੰ ਸਮਰਥਿਤ APIs ਅਤੇ ਫਰੇਮਵਰਕ ‘ਤੇ ਨਜ਼ਰ ਮਾਰਨ ਦੀ ਲੋੜ ਹੈ। ਵਿੰਡੋਜ਼ ਡਿਵੈਲਪਰ ਤੇਜ਼ੀ ਨਾਲ Windows Copilot Runtime ਦੀ ਵਰਤੋਂ ਕਰ ਰਹੇ ਹਨ, ਜੋ ਐਪਸ ਨੂੰ ਚਿੱਤਰ ਪਛਾਣ ਜਾਂ ਟੈਕਸਟ ਜਨਰੇਸ਼ਨ ਵਰਗੇ ਕੰਮਾਂ ਲਈ NPU ਵਿੱਚ ਟੈਪ ਕਰਨ ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦਾ ਹੈ। ਮੈਕ ਵਾਲੇ ਪਾਸੇ, Core ML ਸਾਲਾਂ ਤੋਂ ਇਹ ਕਰ ਰਿਹਾ ਹੈ, ਪਰ ਸਮਰਥਿਤ ਮਾਡਲਾਂ ਦਾ ਪੈਮਾਨਾ ਵਧ ਰਿਹਾ ਹੈ। ਇਹਨਾਂ ਡਿਵਾਈਸਾਂ ਦੀਆਂ ਤਕਨੀਕੀ ਰੁਕਾਵਟਾਂ ਮੁੱਖ ਤੌਰ ‘ਤੇ ਮੈਮੋਰੀ ਬੈਂਡਵਿਡਥ ਅਤੇ ਸਥਾਨਕ ਸਟੋਰੇਜ ਦੁਆਰਾ ਪਰਿਭਾਸ਼ਿਤ ਕੀਤੀਆਂ ਜਾਂਦੀਆਂ ਹਨ। ਇੱਕ ਵੱਡੇ ਲੈਂਗੂਏਜ ਮਾਡਲ ਨੂੰ ਮੈਮੋਰੀ ਵਿੱਚ ਰਹਿਣ ਲਈ ਕਾਫ਼ੀ ਮਾਤਰਾ ਵਿੱਚ RAM ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ। ਜੇਕਰ ਤੁਹਾਡੇ ਸਿਸਟਮ ਵਿੱਚ ਸਿਰਫ਼ 8GB RAM ਹੈ, ਤਾਂ ਇਹ ਬ੍ਰਾਊਜ਼ਰ ਅਤੇ ਈਮੇਲ ਕਲਾਇੰਟ ਨੂੰ ਖੁੱਲ੍ਹਾ ਰੱਖਦੇ ਹੋਏ ਸਥਾਨਕ ਤੌਰ ‘ਤੇ ਇੱਕ ਵਧੀਆ ਮਾਡਲ ਚਲਾਉਣ ਲਈ ਸੰਘਰਸ਼ ਕਰੇਗਾ। ਪਾਵਰ ਯੂਜ਼ਰਾਂ ਨੂੰ ਘੱਟੋ-ਘੱਟ 16GB ਜਾਂ 32GB ਹਾਈ-ਸਪੀਡ ਮੈਮੋਰੀ ਵਾਲੇ ਸਿਸਟਮਾਂ ਦੀ ਭਾਲ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ। ਸਟੋਰੇਜ ਦੀ ਗਤੀ ਵੀ ਮਾਇਨੇ ਰੱਖਦੀ ਹੈ ਕਿਉਂਕਿ ਡਿਸਕ ਤੋਂ ਇਹਨਾਂ ਮਾਡਲਾਂ ਨੂੰ ਲੋਡ ਕਰਨਾ ਇੱਕ ਰੁਕਾਵਟ ਪੈਦਾ ਕਰ ਸਕਦਾ ਹੈ।

• NPUs ਨੂੰ TOPS ਵਿੱਚ ਮਾਪਿਆ ਜਾਂਦਾ ਹੈ ਜਿਸਦਾ ਅਰਥ ਹੈ Tera Operations Per Second।
• ਸਥਾਨਕ ਮਾਡਲ ਅਕਸਰ ਆਪਣੇ ਆਕਾਰ ਨੂੰ FP32 ਤੋਂ INT8 ਜਾਂ INT4 ਤੱਕ ਘਟਾਉਣ ਲਈ ਕੁਆਂਟਾਈਜ਼ੇਸ਼ਨ (quantization) ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ।

ਵਰਕਫਲੋ ਇੰਟੀਗ੍ਰੇਸ਼ਨ ਅਗਲੀ ਸਰਹੱਦ ਹੈ। ਅਸੀਂ ਹੋਰ ਟੂਲ ਦੇਖ ਰਹੇ ਹਾਂ ਜੋ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ LM Studio ਜਾਂ Ollama ਵਰਗੇ ਟੂਲਸ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਪ੍ਰਸਿੱਧ ਮਾਡਲਾਂ ਦੇ ਸਥਾਨਕ ਸੰਸਕਰਣ ਚਲਾਉਣ ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦੇ ਹਨ। ਇਹ ਐਪਲੀਕੇਸ਼ਨ ਤੁਹਾਨੂੰ ਕਲਾਉਡ ਪ੍ਰਦਾਤਾਵਾਂ ਦੀਆਂ ਗਾਹਕੀ ਫੀਸਾਂ ਨੂੰ ਬਾਈਪਾਸ ਕਰਨ ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦੀਆਂ ਹਨ। ਹਾਲਾਂਕਿ, ਤੁਹਾਨੂੰ API ਸੀਮਾਵਾਂ ਬਾਰੇ ਸੁਚੇਤ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ ਜੋ ਕੁਝ ਸੌਫਟਵੇਅਰ ਵਿਕਰੇਤਾ ਅਜੇ ਵੀ ਲਗਾ ਸਕਦੇ ਹਨ। ਭਾਵੇਂ ਤੁਹਾਡੇ ਕੋਲ ਹਾਰਡਵੇਅਰ ਹੈ, ਕੁਝ ਸੌਫਟਵੇਅਰ ਅਜੇ ਵੀ ਹੋਮ ਸਰਵਰ ਨਾਲ ਚੈੱਕ-ਇਨ ਕਰਨ ਲਈ ਹਾਰਡ-ਕੋਡ ਕੀਤੇ ਗਏ ਹਨ। ਨਵੀਨਤਮ AI ਹਾਰਡਵੇਅਰ ਰਿਪੋਰਟਾਂ ਦੀ ਜਾਂਚ ਕਰਨਾ ਤੁਹਾਨੂੰ ਇਹ ਪਛਾਣ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰ ਸਕਦਾ ਹੈ ਕਿ ਕਿਹੜੀਆਂ ਡਿਵਾਈਸਾਂ ਸਥਾਨਕ ਵਿਕਾਸ ਲਈ ਅਸਲ ਵਿੱਚ ਖੁੱਲ੍ਹੀਆਂ ਹਨ।

ਉਪਭੋਗਤਾਵਾਂ ਲਈ ਵਿਹਾਰਕ ਵਿਕਲਪ

ਕਲਾਉਡ-ਅਧਾਰਿਤ ਵਰਕਫਲੋ ਅਤੇ AI PC ਵਿਚਕਾਰ ਚੋਣ ਤੁਹਾਡੀਆਂ ਖਾਸ ਲੋੜਾਂ ਅਤੇ ਬਜਟ ‘ਤੇ ਨਿਰਭਰ ਕਰਦੀ ਹੈ। ਜੇਕਰ ਤੁਸੀਂ ਇੱਕ ਆਮ ਉਪਭੋਗਤਾ ਹੋ ਜੋ ਜ਼ਿਆਦਾਤਰ ਈਮੇਲਾਂ ਲਿਖਦਾ ਹੈ ਅਤੇ ਵੀਡੀਓ ਦੇਖਦਾ ਹੈ, ਤਾਂ ਕਲਾਉਡ ਅਜੇ ਵੀ ਸਭ ਤੋਂ ਵੱਧ ਲਾਗਤ-ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਵਿਕਲਪ ਹੈ। ਤੁਹਾਨੂੰ ਵਿਸ਼ੇਸ਼ ਸਿਲੀਕਾਨ ਲਈ ਪ੍ਰੀਮੀਅਮ ਦਾ ਭੁਗਤਾਨ ਕਰਨ ਦੀ ਲੋੜ ਨਹੀਂ ਹੈ ਜਿਸਦੀ ਤੁਸੀਂ ਘੱਟ ਹੀ ਵਰਤੋਂ ਕਰੋਗੇ। ਹਾਲਾਂਕਿ, ਜੇਕਰ ਤੁਸੀਂ ਇੱਕ ਪੇਸ਼ੇਵਰ ਹੋ ਜੋ ਸੰਵੇਦਨਸ਼ੀਲ ਡੇਟਾ ਨਾਲ ਕੰਮ ਕਰਦਾ ਹੈ ਜਾਂ ਮਾੜੀ ਕਨੈਕਟੀਵਿਟੀ ਵਾਲੇ ਵਾਤਾਵਰਣ ਵਿੱਚ ਕੰਮ ਕਰਦਾ ਹੈ, ਤਾਂ ਇੱਕ ਸਥਾਨਕ AI ਮਸ਼ੀਨ ਵਿੱਚ ਨਿਵੇਸ਼ ਕਰਨਾ ਜ਼ਰੂਰੀ ਹੈ। ਇਹ ਜਾਣ ਕੇ ਮਿਲਣ ਵਾਲੀ ਮਾਨਸਿਕ ਸ਼ਾਂਤੀ ਕਿ ਤੁਹਾਡਾ ਡੇਟਾ ਤੁਹਾਡੀ ਡਿਵਾਈਸ ‘ਤੇ ਰਹਿੰਦਾ ਹੈ, ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਫਾਇਦਾ ਹੈ।

Editor’s note: We created this site as a multilingual AI news and guides hub for people who are not computer geeks, but still want to understand artificial intelligence, use it with more confidence, and follow the future that is already arriving.

ਹਾਰਡਵੇਅਰ ਦੀ ਦੁਨੀਆ ਹੁਣ ਸਥਿਰ ਨਹੀਂ ਹੈ। Intel ਅਤੇ Microsoft ਵਰਗੀਆਂ ਕੰਪਨੀਆਂ ਵੱਲੋਂ ਉੱਚ-ਪ੍ਰਦਰਸ਼ਨ ਵਾਲੇ NPUs ਦੀ ਹਾਲੀਆ ਸ਼ੁਰੂਆਤ ਨੇ ਲੈਪਟਾਪ ਦੇ ਬੇਸਲਾਈਨ ਨੂੰ ਬਦਲ ਦਿੱਤਾ ਹੈ। ਤੁਸੀਂ intel.com ਜਾਂ microsoft.com ਜਾਂ nvidia.com ‘ਤੇ ਉਨ੍ਹਾਂ ਦੀਆਂ ਅਧਿਕਾਰਤ ਸਾਈਟਾਂ ‘ਤੇ ਵਧੇਰੇ ਜਾਣਕਾਰੀ ਪ੍ਰਾਪਤ ਕਰ ਸਕਦੇ ਹੋ ਕਿ ਉਹ ਆਪਣੀਆਂ ਨਵੀਨਤਮ ਚਿੱਪਾਂ ਨੂੰ ਕਿਵੇਂ ਪੋਜੀਸ਼ਨ ਕਰ ਰਹੇ ਹਨ। ਫੈਸਲਾ ਹਾਈਪ ਦੀ ਬਜਾਏ ਤੁਹਾਡੇ ਅਸਲ ਰੋਜ਼ਾਨਾ ਦੇ ਕੰਮਾਂ ‘ਤੇ ਅਧਾਰਤ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ। ਸਥਾਨਕ AI ਇੱਕ ਸ਼ਕਤੀਸ਼ਾਲੀ ਟੂਲ ਹੈ, ਪਰ ਇਹ ਸਿਰਫ਼ ਤਾਂ ਹੀ ਉਪਯੋਗੀ ਹੈ ਜੇਕਰ ਇਹ ਤੁਹਾਡੇ ਮੌਜੂਦਾ ਵਰਕਫਲੋ ਵਿੱਚ ਫਿੱਟ ਬੈਠਦਾ ਹੈ ਅਤੇ ਕੋਈ ਅਜਿਹੀ ਸਮੱਸਿਆ ਹੱਲ ਕਰਦਾ ਹੈ ਜੋ ਤੁਹਾਨੂੰ ਅਸਲ ਵਿੱਚ ਹੈ। ਕੋਈ ਗਲਤੀ ਮਿਲੀ ਜਾਂ ਕੁਝ ਠੀਕ ਕਰਨ ਦੀ ਲੋੜ ਹੈ? ਸਾਨੂੰ ਦੱਸੋ।