ਓਪਨ ਮਾਡਲ ਕਿਉਂ ਜ਼ਰੂਰੀ ਹਨ, ਭਾਵੇਂ ਤੁਸੀਂ ਉਨ੍ਹਾਂ ਨੂੰ ਕਦੇ ਡਾਊਨਲੋਡ ਨਾ ਕਰੋ
ਆਧੁਨਿਕ ਕੰਪਿਊਟਿੰਗ ਦੇ ਅਦਿੱਖ ਗਾਰਡਰੇਲ
ਓਪਨ ਮਾਡਲ ਅੱਜ ਦੀ ਦੁਨੀਆ ਦਾ ਉਹ ਗੁਪਤ ਢਾਂਚਾ ਹਨ ਜੋ ਸਭ ਕੁਝ ਚਲਾ ਰਹੇ ਹਨ। ਭਾਵੇਂ ਤੁਸੀਂ Hugging Face ਤੋਂ ਕਦੇ ਕੋਈ ਫਾਈਲ ਡਾਊਨਲੋਡ ਨਾ ਕੀਤੀ ਹੋਵੇ ਜਾਂ ਕੋਈ ਲੋਕਲ ਸਰਵਰ ਨਾ ਚਲਾਇਆ ਹੋਵੇ, ਇਹ ਮਾਡਲ ਹੀ ਤੈਅ ਕਰਦੇ ਹਨ ਕਿ ਤੁਸੀਂ ਪ੍ਰੋਪਰਾਈਟਰੀ ਸਰਵਿਸਿਜ਼ ਲਈ ਕਿੰਨੀ ਕੀਮਤ ਚੁਕਾਉਂਦੇ ਹੋ ਅਤੇ ਨਵੇਂ ਫੀਚਰ ਕਿੰਨੀ ਤੇਜ਼ੀ ਨਾਲ ਆਉਂਦੇ ਹਨ। ਇਹ ਇੱਕ ਮੁਕਾਬਲੇਬਾਜ਼ੀ ਵਾਲਾ ਆਧਾਰ ਪ੍ਰਦਾਨ ਕਰਦੇ ਹਨ। ਜੇ ਇਹ ਨਾ ਹੁੰਦੇ, ਤਾਂ ਕੁਝ ਗਿਣੀਆਂ-ਚੁਣੀਆਂ ਕੰਪਨੀਆਂ ਦਾ ਇਸ ਸਦੀ ਦੀ ਸਭ ਤੋਂ ਮਹੱਤਵਪੂਰਨ ਟੈਕਨੋਲੋਜੀ ‘ਤੇ ਪੂਰਾ ਕਬਜ਼ਾ ਹੁੰਦਾ। ਓਪਨ ਮਾਡਲ ਇੱਕ ਅਜਿਹੀ ਸਮਰੱਥਾ ਦਿੰਦੇ ਹਨ ਜੋ ਵੱਡੇ ਖਿਡਾਰੀਆਂ ਨੂੰ ਲਗਾਤਾਰ ਇਨੋਵੇਸ਼ਨ ਕਰਨ ਅਤੇ ਆਪਣੀਆਂ ਕੀਮਤਾਂ ਨੂੰ ਜਾਇਜ਼ ਰੱਖਣ ਲਈ ਮਜਬੂਰ ਕਰਦੀ ਹੈ। ਇਹ ਸਿਰਫ਼ ਸ਼ੌਕੀਨਾਂ ਜਾਂ ਰਿਸਰਚਰਾਂ ਲਈ ਨਹੀਂ ਹੈ। ਇਹ ਟੈਕ ਇੰਡਸਟਰੀ ਵਿੱਚ ਪਾਵਰ ਦੇ ਵੰਡਣ ਦਾ ਇੱਕ ਵੱਡਾ ਬਦਲਾਅ ਹੈ। ਜਦੋਂ Llama ਵਰਗਾ ਮਾਡਲ ਰਿਲੀਜ਼ ਹੁੰਦਾ ਹੈ, ਤਾਂ ਇਹ ਕੰਜ਼ਿਊਮਰ ਹਾਰਡਵੇਅਰ ‘ਤੇ ਸੰਭਵ ਹੋਣ ਵਾਲੀਆਂ ਚੀਜ਼ਾਂ ਲਈ ਇੱਕ ਨਵਾਂ ਸਟੈਂਡਰਡ ਸੈੱਟ ਕਰਦਾ ਹੈ। ਇਹ ਦਬਾਅ ਯਕੀਨੀ ਬਣਾਉਂਦਾ ਹੈ ਕਿ ਜੋ ਕਲੋਜ਼ਡ ਮਾਡਲ ਤੁਸੀਂ ਰੋਜ਼ ਵਰਤਦੇ ਹੋ, ਉਹ ਬਿਹਤਰ ਅਤੇ ਕਿਫਾਇਤੀ ਰਹਿਣ। ਇਸ ਓਪਨਨੈੱਸ ਦੀਆਂ ਬਾਰੀਕੀਆਂ ਨੂੰ ਸਮਝਣਾ ਇਹ ਦੇਖਣ ਦਾ ਪਹਿਲਾ ਕਦਮ ਹੈ ਕਿ ਇੰਡਸਟਰੀ ਕਿਸ ਪਾਸੇ ਜਾ ਰਹੀ ਹੈ।
ਓਪਨਨੈੱਸ ਦੀ ਮਾਰਕੀਟਿੰਗ ਭਾਸ਼ਾ ਨੂੰ ਸਮਝਣਾ
ਇੱਥੇ ਬਹੁਤ ਭੁਲੇਖਾ ਹੈ ਕਿ ਅਸਲ ਵਿੱਚ ‘ਓਪਨ’ ਦਾ ਮਤਲਬ ਕੀ ਹੈ। ਅਸਲੀ ਓਪਨ ਸੋਰਸ ਸਾਫਟਵੇਅਰ ਹਰ ਕਿਸੇ ਨੂੰ ਕੋਡ ਦੇਖਣ, ਉਸ ਵਿੱਚ ਬਦਲਾਅ ਕਰਨ ਅਤੇ ਉਸਨੂੰ ਵੰਡਣ ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦਾ ਹੈ। ਪਰ ਲਾਰਜ ਲੈਂਗੂਏਜ ਮਾਡਲਜ਼ ਦੀ ਦੁਨੀਆ ਵਿੱਚ, ਇਹ ਪਰਿਭਾਸ਼ਾ ਥੋੜ੍ਹੀ ਉਲਝੀ ਹੋਈ ਹੈ। ਜ਼ਿਆਦਾਤਰ ਮਾਡਲ ਜਿਨ੍ਹਾਂ ਨੂੰ ਲੋਕ ਓਪਨ ਸੋਰਸ ਕਹਿੰਦੇ ਹਨ, ਉਹ ਅਸਲ ਵਿੱਚ open weight ਮਾਡਲ ਹੁੰਦੇ ਹਨ। ਇਸਦਾ ਮਤਲਬ ਹੈ ਕਿ ਕੰਪਨੀ ਨੇ ਮਾਡਲ ਦੇ ਫਾਈਨਲ ਟ੍ਰੇਂਡ ਪੈਰਾਮੀਟਰ ਤਾਂ ਜਾਰੀ ਕਰ ਦਿੱਤੇ ਹਨ, ਪਰ ਉਹ ਵੱਡੇ ਡੇਟਾਸੈਟਸ ਜਾਂ ਡੇਟਾ ਨੂੰ ਸਾਫ਼ ਕਰਨ ਵਾਲੇ ਸਕ੍ਰਿਪਟਸ ਜਾਰੀ ਨਹੀਂ ਕੀਤੇ। ਡੇਟਾ ਤੋਂ ਬਿਨਾਂ, ਤੁਸੀਂ ਮਾਡਲ ਨੂੰ ਜ਼ੀਰੋ ਤੋਂ ਦੁਬਾਰਾ ਨਹੀਂ ਬਣਾ ਸਕਦੇ। ਤੁਹਾਡੇ ਕੋਲ ਸਿਰਫ਼ ਤਿਆਰ ਪ੍ਰੋਡਕਟ ਹੁੰਦਾ ਹੈ। ਫਿਰ ਗੱਲ ਆਉਂਦੀ ਹੈ ਪਰਮਿਸਿਵ ਲਾਇਸੈਂਸਾਂ ਦੀ। ਕੁਝ ਕੰਪਨੀਆਂ ਅਜਿਹੇ ਕਸਟਮ ਲਾਇਸੈਂਸ ਵਰਤਦੀਆਂ ਹਨ ਜੋ ਦੇਖਣ ਵਿੱਚ ਓਪਨ ਲੱਗਦੇ ਹਨ ਪਰ ਉਨ੍ਹਾਂ ਵਿੱਚ ਕਮਰਸ਼ੀਅਲ ਵਰਤੋਂ ‘ਤੇ ਪਾਬੰਦੀਆਂ ਹੁੰਦੀਆਂ ਹਨ। ਉਦਾਹਰਨ ਲਈ, ਇੱਕ ਮਾਡਲ ਵਿਅਕਤੀਆਂ ਲਈ ਮੁਫ਼ਤ ਹੋ ਸਕਦਾ ਹੈ ਪਰ ਜੇ ਤੁਹਾਡੀ ਕੰਪਨੀ ਦੇ 700 ਮਿਲੀਅਨ ਤੋਂ ਵੱਧ ਮੰਥਲੀ ਐਕਟਿਵ ਯੂਜ਼ਰਸ ਹਨ, ਤਾਂ ਤੁਹਾਨੂੰ ਪੈਸੇ ਦੇਣੇ ਪੈਣਗੇ। ਇਹ ਉਨ੍ਹਾਂ ਰਵਾਇਤੀ GPL ਜਾਂ MIT ਲਾਇਸੈਂਸਾਂ ਤੋਂ ਬਹੁਤ ਵੱਖਰਾ ਹੈ ਜਿਨ੍ਹਾਂ ਨੇ ਇੰਟਰਨੈੱਟ ਬਣਾਇਆ ਹੈ। ਅਸੀਂ ਅਜਿਹੀ ਮਾਰਕੀਟਿੰਗ ਭਾਸ਼ਾ ਵੀ ਦੇਖਦੇ ਹਾਂ ਜਿੱਥੇ ‘ਓਪਨ’ ਸ਼ਬਦ ਦੀ ਵਰਤੋਂ ਅਜਿਹੇ API ਲਈ ਕੀਤੀ ਜਾਂਦੀ ਹੈ ਜੋ ਜਨਤਕ ਤੌਰ ‘ਤੇ ਪਹੁੰਚਯੋਗ ਹੈ ਪਰ ਪੂਰੀ ਤਰ੍ਹਾਂ ਇੱਕ ਕੰਪਨੀ ਦੇ ਕੰਟਰੋਲ ਵਿੱਚ ਹੈ। ਇਹ ਬਿਲਕੁਲ ਵੀ ਓਪਨ ਨਹੀਂ ਹੈ। ਇਹ ਸਿਰਫ਼ ਇੱਕ ਅਜਿਹਾ ਪ੍ਰੋਡਕਟ ਹੈ ਜਿਸਦਾ ਦਰਵਾਜ਼ਾ ਸਭ ਲਈ ਖੁੱਲ੍ਹਾ ਹੈ। ਅਸਲ ਵਿੱਚ ਓਪਨ ਮਾਡਲ ਉਹ ਹਨ ਜੋ ਤੁਹਾਨੂੰ ਫਾਈਲਾਂ ਡਾਊਨਲੋਡ ਕਰਨ ਅਤੇ ਇੰਟਰਨੈੱਟ ਕਨੈਕਸ਼ਨ ਤੋਂ ਬਿਨਾਂ ਆਪਣੇ ਹਾਰਡਵੇਅਰ ‘ਤੇ ਚਲਾਉਣ ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦੇ ਹਨ। ਇਹ ਫਰਕ ਬਹੁਤ ਮਹੱਤਵਪੂਰਨ ਹੈ ਕਿਉਂਕਿ ਇਹ ਤੈਅ ਕਰਦਾ ਹੈ ਕਿ ਅਸਲੀ ਕੰਟਰੋਲ ਕਿਸ ਕੋਲ ਹੈ। ਜੇ ਤੁਸੀਂ ਕਿਸੇ API ‘ਤੇ ਨਿਰਭਰ ਹੋ, ਤਾਂ ਪ੍ਰੋਵਾਈਡਰ ਕਿਸੇ ਵੀ ਸਮੇਂ ਨਿਯਮ ਬਦਲ ਸਕਦਾ ਹੈ ਜਾਂ ਤੁਹਾਨੂੰ ਬੰਦ ਕਰ ਸਕਦਾ ਹੈ। ਜੇ ਵੇਟਸ ਤੁਹਾਡੀ ਹਾਰਡ ਡਰਾਈਵ ‘ਤੇ ਹਨ, ਤਾਂ ਸਮਰੱਥਾ ਤੁਹਾਡੀ ਹੈ।
ਦੇਸ਼ ਪਬਲਿਕ ਵੇਟਸ ‘ਤੇ ਦਾਅ ਕਿਉਂ ਲਗਾ ਰਹੇ ਹਨ?
ਇਨ੍ਹਾਂ ਮਾਡਲਾਂ ਦੇ ਗਲੋਬਲ ਪ੍ਰਭਾਵ ਨੂੰ ਘੱਟ ਕਰਕੇ ਨਹੀਂ ਦੇਖਿਆ ਜਾ ਸਕਦਾ। ਕਈ ਦੇਸ਼ਾਂ ਲਈ, ਆਪਣੇ ਪੂਰੇ AI ਢਾਂਚੇ ਲਈ ਕੁਝ ਅਮਰੀਕੀ ਕੰਪਨੀਆਂ ‘ਤੇ ਨਿਰਭਰ ਰਹਿਣਾ ਉਨ੍ਹਾਂ ਦੀ ਰਾਸ਼ਟਰੀ digital sovereignty ਲਈ ਇੱਕ ਵੱਡਾ ਖਤਰਾ ਹੈ। ਯੂਰਪ ਅਤੇ ਏਸ਼ੀਆ ਦੀਆਂ ਸਰਕਾਰਾਂ ਹੁਣ AI ਦੇ ਆਪਣੇ ਸਥਾਨਕ ਵਰਜ਼ਨ ਬਣਾਉਣ ਲਈ ਓਪਨ ਮਾਡਲਾਂ ਵੱਲ ਦੇਖ ਰਹੀਆਂ ਹਨ। ਇਹ ਉਨ੍ਹਾਂ ਨੂੰ ਇਹ ਯਕੀਨੀ ਬਣਾਉਣ ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦਾ ਹੈ ਕਿ ਮਾਡਲ ਸਿਰਫ਼ ਸਿਲੀਕਾਨ ਵੈਲੀ ਦੀ ਬਜਾਏ ਉਨ੍ਹਾਂ ਦੀਆਂ ਸੱਭਿਆਚਾਰਕ ਕਦਰਾਂ-ਕੀਮਤਾਂ ਅਤੇ ਭਾਸ਼ਾਈ ਬਾਰੀਕੀਆਂ ਨੂੰ ਦਰਸਾਉਣ। ਇਹ ਡੇਟਾ ਨੂੰ ਉਨ੍ਹਾਂ ਦੀਆਂ ਸਰਹੱਦਾਂ ਦੇ ਅੰਦਰ ਵੀ ਰੱਖਦਾ ਹੈ, ਜੋ ਪ੍ਰਾਈਵੇਸੀ ਅਤੇ ਸੁਰੱਖਿਆ ਲਈ ਇੱਕ ਵੱਡੀ ਚਿੰਤਾ ਹੈ। ਛੋਟੇ ਅਤੇ ਦਰਮਿਆਨੇ ਉਦਯੋਗਾਂ ਨੂੰ ਵੀ ਇਸਦਾ ਫਾਇਦਾ ਹੁੰਦਾ ਹੈ। ਉਹ ਇਸ ਡਰ ਤੋਂ ਬਿਨਾਂ ਸਪੈਸ਼ਲ ਟੂਲ ਬਣਾ ਸਕਦੇ ਹਨ ਕਿ ਉਨ੍ਹਾਂ ਦੀ ਮੁੱਖ ਟੈਕਨੋਲੋਜੀ ਉਨ੍ਹਾਂ ਤੋਂ ਖੋਹ ਲਈ ਜਾਵੇਗੀ। ਓਪਨ ਮਾਡਲ ਉੱਭਰ ਰਹੇ ਬਾਜ਼ਾਰਾਂ ਦੇ ਡਿਵੈਲਪਰਾਂ ਲਈ ਵੀ ਰਾਹ ਸੌਖਾ ਕਰਦੇ ਹਨ। ਲਾਗੋਸ ਜਾਂ ਜਕਾਰਤਾ ਵਿੱਚ ਬੈਠਾ ਕੋਈ ਵਿਅਕਤੀ ਉਸੇ ਅਤਿ-ਆਧੁਨਿਕ ਟੈਕਨੋਲੋਜੀ ਤੱਕ ਪਹੁੰਚ ਸਕਦਾ ਹੈ ਜਿਵੇਂ ਸੈਨ ਫ੍ਰਾਂਸਿਸਕੋ ਵਿੱਚ ਕੋਈ, ਬਸ਼ਰਤੇ ਉਨ੍ਹਾਂ ਕੋਲ ਇਸਨੂੰ ਚਲਾਉਣ ਲਈ ਹਾਰਡਵੇਅਰ ਹੋਵੇ। ਇਹ ਮੁਕਾਬਲੇ ਦੇ ਮੈਦਾਨ ਨੂੰ ਇਸ ਤਰੀਕੇ ਨਾਲ ਬਰਾਬਰ ਕਰਦਾ ਹੈ ਜੋ ਪ੍ਰੋਪਰਾਈਟਰੀ API ਕਦੇ ਨਹੀਂ ਕਰ ਸਕਦੇ। ਇਨ੍ਹਾਂ ਮਾਡਲਾਂ ਦੀ ਮੌਜੂਦਗੀ ਸੈਕੰਡਰੀ ਟੂਲਸ ਦਾ ਇੱਕ ਵਿਸ਼ਾਲ ਈਕੋਸਿਸਟਮ ਵੀ ਬਣਾਉਂਦੀ ਹੈ। ਡਿਵੈਲਪਰ ਮਾਡਲਾਂ ਨੂੰ ਤੇਜ਼ੀ ਨਾਲ ਚਲਾਉਣ ਜਾਂ ਘੱਟ ਮੈਮੋਰੀ ਵਰਤਣ ਦੇ ਤਰੀਕੇ ਲੱਭਦੇ ਹਨ। ਇਹ ਸਮੂਹਿਕ ਇਨੋਵੇਸ਼ਨ ਕਿਸੇ ਵੀ ਇਕੱਲੀ ਕੰਪਨੀ ਨਾਲੋਂ ਕਿਤੇ ਤੇਜ਼ੀ ਨਾਲ ਚੱਲਦੀ ਹੈ। ਇਹ ਇੱਕ ਅਜਿਹਾ ਫੀਡਬੈਕ ਲੂਪ ਬਣਾਉਂਦਾ ਹੈ ਜਿੱਥੇ ਓਪਨ ਸੁਧਾਰ ਅੰਤ ਵਿੱਚ ਉਨ੍ਹਾਂ ਪ੍ਰੋਪਰਾਈਟਰੀ ਮਾਡਲਾਂ ਵਿੱਚ ਵੀ ਪਹੁੰਚ ਜਾਂਦੇ ਹਨ ਜੋ ਅਸੀਂ ਸਾਰੇ ਵਰਤਦੇ ਹਾਂ।
ਕਲਾਊਡ ਤੋਂ ਬਿਨਾਂ ਇੱਕ ਦਿਨ
ਆਓ ਦੇਖੀਏ ਕਿ ਸਾਰਾਹ ਨਾਮ ਦੀ ਇੱਕ ਸਾਫਟਵੇਅਰ ਡਿਵੈਲਪਰ ਦੇ ਆਮ ਦਿਨ ਵਿੱਚ ਇਹ ਸਭ ਕਿਵੇਂ ਕੰਮ ਕਰਦਾ ਹੈ। ਸਾਰਾਹ ਇੱਕ ਮੈਡੀਕਲ ਸਟਾਰਟਅੱਪ ਲਈ ਕੰਮ ਕਰਦੀ ਹੈ ਜੋ ਮਰੀਜ਼ਾਂ ਦੇ ਸੰਵੇਦਨਸ਼ੀਲ ਡੇਟਾ ਨੂੰ ਸੰਭਾਲਦਾ ਹੈ। ਉਸਦੀ ਕੰਪਨੀ ਕਲਾਊਡ-ਅਧਾਰਿਤ AI ਦੀ ਵਰਤੋਂ ਨਹੀਂ ਕਰ ਸਕਦੀ ਕਿਉਂਕਿ ਡੇਟਾ ਲੀਕ ਹੋਣ ਦਾ ਖਤਰਾ ਬਹੁਤ ਜ਼ਿਆਦਾ ਹੈ ਅਤੇ ਰੈਗੂਲੇਟਰੀ ਰੁਕਾਵਟਾਂ ਬਹੁਤ ਸਖ਼ਤ ਹਨ। ਇਸਦੀ ਬਜਾਏ, ਸਾਰਾਹ ਇੱਕ ਸੁਰੱਖਿਅਤ ਲੋਕਲ ਸਰਵਰ ‘ਤੇ ਚੱਲ ਰਹੇ open weight ਮਾਡਲ ਦੀ ਵਰਤੋਂ ਕਰਦੀ ਹੈ। ਸਵੇਰੇ, ਉਹ ਇੱਕ ਗੁੰਝਲਦਾਰ ਕੋਡ ਨੂੰ ਰੀਫੈਕਟਰ ਕਰਨ ਵਿੱਚ ਮਦਦ ਲਈ ਮਾਡਲ ਦੀ ਵਰਤੋਂ ਕਰਦੀ ਹੈ। ਕਿਉਂਕਿ ਮਾਡਲ ਲੋਕਲ ਹੈ, ਉਸਨੂੰ ਇਸ ਗੱਲ ਦੀ ਚਿੰਤਾ ਕਰਨ ਦੀ ਲੋੜ ਨਹੀਂ ਹੈ ਕਿ ਉਸਦਾ ਪ੍ਰੋਪਰਾਈਟਰੀ ਕੋਡ ਕਿਸੇ ਕਮਰਸ਼ੀਅਲ AI ਦੇ ਭਵਿੱਖ ਦੇ ਵਰਜ਼ਨ ਨੂੰ ਟ੍ਰੇਨ ਕਰਨ ਲਈ ਵਰਤਿਆ ਜਾਵੇਗਾ। ਬਾਅਦ ਵਿੱਚ, ਉਹ ਮਰੀਜ਼ਾਂ ਦੇ ਨੋਟਸ ਦਾ ਸਾਰ ਲਿਖਣ ਲਈ ਮਾਡਲ ਦੇ ਇੱਕ ਫਾਈਨ-ਟਿਊਨਡ ਵਰਜ਼ਨ ਦੀ ਵਰਤੋਂ ਕਰਦੀ ਹੈ। ਇਹ ਖਾਸ ਮਾਡਲ ਮੈਡੀਕਲ ਟਰਮੀਨੋਲੋਜੀ ‘ਤੇ ਟ੍ਰੇਨ ਕੀਤਾ ਗਿਆ ਹੈ, ਜੋ ਇਸਨੂੰ ਆਮ ਮਾਡਲ ਨਾਲੋਂ ਵਧੇਰੇ ਸਹੀ ਬਣਾਉਂਦਾ ਹੈ। ਆਪਣੇ ਲੰਚ ਬ੍ਰੇਕ ਦੌਰਾਨ, ਸਾਰਾਹ ਲੋਕਲ ਇਨਫਰੈਂਸ ਦੇ ਨਵੀਨਤਮ ਰੁਝਾਨਾਂ ਬਾਰੇ AI ਇੰਡਸਟਰੀ ਵਿਸ਼ਲੇਸ਼ਣ ‘ਤੇ ਇੱਕ ਬਲੌਗ ਪੋਸਟ ਪੜ੍ਹਦੀ ਹੈ। ਉਸਨੂੰ ਅਹਿਸਾਸ ਹੁੰਦਾ ਹੈ ਕਿ ਉਹ ਆਪਣੇ ਕੰਮ ਦੇ ਤਰੀਕੇ ਨੂੰ ਹੋਰ ਬਿਹਤਰ ਬਣਾ ਸਕਦੀ ਹੈ। ਦੁਪਹਿਰ ਨੂੰ, ਉਹ ਇੱਕ ਨਵੀਂ quantization ਤਕਨੀਕ ਨਾਲ ਪ੍ਰਯੋਗ ਕਰਦੀ ਹੈ ਜੋ ਉਸਨੂੰ ਆਪਣੇ ਮੌਜੂਦਾ ਹਾਰਡਵੇਅਰ ‘ਤੇ ਇੱਕ ਵੱਡਾ ਮਾਡਲ ਚਲਾਉਣ ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦੀ ਹੈ। ਇਹ ਓਪਨ ਈਕੋਸਿਸਟਮ ਦੀ ਖੂਬਸੂਰਤੀ ਹੈ। ਉਹ ਕਿਸੇ ਵੱਡੀ ਟੈਕ ਕੰਪਨੀ ਦੁਆਰਾ ਨਵਾਂ ਫੀਚਰ ਜਾਰੀ ਕਰਨ ਦੀ ਉਡੀਕ ਨਹੀਂ ਕਰ ਰਹੀ। ਉਹ ਕਮਿਊਨਿਟੀ ਦੁਆਰਾ ਬਣਾਏ ਗਏ ਟੂਲਸ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਇਸਨੂੰ ਖੁਦ ਲਾਗੂ ਕਰ ਸਕਦੀ ਹੈ। ਦਿਨ ਦੇ ਅੰਤ ਤੱਕ, ਉਸਨੇ ਆਪਣੇ ਸਮਰੀ ਟੂਲ ਦੀ ਸ਼ੁੱਧਤਾ ਵਿੱਚ ਪੰਦਰਾਂ ਪ੍ਰਤੀਸ਼ਤ ਸੁਧਾਰ ਕਰ ਲਿਆ ਹੈ। ਇਹ ਸਥਿਤੀ ਕਈ ਉਦਯੋਗਾਂ ਵਿੱਚ ਆਮ ਹੁੰਦੀ ਜਾ ਰਹੀ ਹੈ। ਲੀਗਲ ਫਰਮਾਂ ਤੋਂ ਲੈ ਕੇ ਕ੍ਰਿਏਟਿਵ ਏਜੰਸੀਆਂ ਤੱਕ, ਲੋਕ ਦੇਖ ਰਹੇ ਹਨ ਕਿ ਓਪਨ ਮਾਡਲਾਂ ਦੁਆਰਾ ਦਿੱਤਾ ਗਿਆ ਕੰਟਰੋਲ ਅਤੇ ਪ੍ਰਾਈਵੇਸੀ ਉਨ੍ਹਾਂ ਨੂੰ ਸੈੱਟਅੱਪ ਕਰਨ ਦੀ ਵਾਧੂ ਮਿਹਨਤ ਦੇ ਬਰਾਬਰ ਹੈ। ਉਹ ਅਜਿਹੇ ਟੂਲ ਬਣਾ ਰਹੇ ਹਨ ਜੋ ਉਨ੍ਹਾਂ ਦੀਆਂ ਖਾਸ ਜ਼ਰੂਰਤਾਂ ਦੇ ਅਨੁਸਾਰ ਹਨ। ਇਹ ਬਦਲਾਅ ਸਿੱਖਿਆ ਦੇ ਖੇਤਰ ਵਿੱਚ ਵੀ ਦਿਖਾਈ ਦੇ ਰਿਹਾ ਹੈ। ਯੂਨੀਵਰਸਿਟੀਆਂ ਵਿਦਿਆਰਥੀਆਂ ਨੂੰ ਇਹ ਸਿਖਾਉਣ ਲਈ ਓਪਨ ਮਾਡਲਾਂ ਦੀ ਵਰਤੋਂ ਕਰ ਰਹੀਆਂ ਹਨ ਕਿ AI ਅੰਦਰੂਨੀ ਤੌਰ ‘ਤੇ ਕਿਵੇਂ ਕੰਮ ਕਰਦਾ ਹੈ। ਉਹ ਵੇਟਸ ਦੀ ਜਾਂਚ ਕਰ ਸਕਦੇ ਹਨ ਅਤੇ ਵੱਖ-ਵੱਖ ਟ੍ਰੇਨਿੰਗ ਤਕਨੀਕਾਂ ਨਾਲ ਪ੍ਰਯੋਗ ਕਰ ਸਕਦੇ ਹਨ। ਇਹ ਭਵਿੱਖ ਲਈ ਇੱਕ ਵਧੇਰੇ ਜਾਣਕਾਰ ਅਤੇ ਸਮਰੱਥ ਕਰਮਚਾਰੀ ਤਿਆਰ ਕਰਦਾ ਹੈ। ਇਨ੍ਹਾਂ ਸਿਸਟਮਾਂ ਨੂੰ ਆਫਲਾਈਨ ਚਲਾਉਣ ਦੀ ਸਮਰੱਥਾ ਦਾ ਮਤਲਬ ਇਹ ਵੀ ਹੈ ਕਿ ਦੂਰ-ਦੁਰਾਡੇ ਦੇ ਖੇਤਰਾਂ ਵਿੱਚ ਖੋਜਕਰਤਾ ਸਥਿਰ ਇੰਟਰਨੈੱਟ ਕਨੈਕਸ਼ਨ ਤੋਂ ਬਿਨਾਂ ਆਪਣਾ ਕੰਮ ਜਾਰੀ ਰੱਖ ਸਕਦੇ ਹਨ।
ਮੁਫ਼ਤ ਸਾਫਟਵੇਅਰ ਦੀ ਉੱਚੀ ਕੀਮਤ
ਹਾਲਾਂਕਿ ਫਾਇਦੇ ਸਪੱਸ਼ਟ ਹਨ, ਸਾਨੂੰ ਇਸ ਓਪਨਨੈੱਸ ਦੀ ਅਸਲ ਕੀਮਤ ਬਾਰੇ ਮੁਸ਼ਕਲ ਸਵਾਲ ਪੁੱਛਣੇ ਚਾਹੀਦੇ ਹਨ। ਇਨ੍ਹਾਂ ਮਾਡਲਾਂ ਨੂੰ ਟ੍ਰੇਨ ਕਰਨ ਲਈ ਲੋੜੀਂਦੀ ਵਿਸ਼ਾਲ ਕੰਪਿਊਟ ਪਾਵਰ ਲਈ ਅਸਲ ਵਿੱਚ ਕੌਣ ਭੁਗਤਾਨ ਕਰ ਰਿਹਾ ਹੈ? ਜੇਕਰ Meta ਵਰਗੀ ਕੰਪਨੀ ਕਿਸੇ ਮਾਡਲ ਨੂੰ ਟ੍ਰੇਨ ਕਰਨ ਲਈ ਕਰੋੜਾਂ ਡਾਲਰ ਖਰਚਦੀ ਹੈ ਅਤੇ ਫਿਰ ਵੇਟਸ ਮੁਫ਼ਤ ਵਿੱਚ ਦੇ ਦਿੰਦੀ ਹੈ, ਤਾਂ ਉਨ੍ਹਾਂ ਦੀ ਲੰਬੇ ਸਮੇਂ ਦੀ ਯੋਜਨਾ ਕੀ ਹੈ? ਕੀ ਇਹ ਉਨ੍ਹਾਂ ਛੋਟੇ ਮੁਕਾਬਲੇਬਾਜ਼ਾਂ ਨੂੰ ਖਤਮ ਕਰਨ ਦਾ ਤਰੀਕਾ ਹੈ ਜੋ ਆਪਣੇ ਪ੍ਰੋਡਕਟ ਮੁਫ਼ਤ ਵਿੱਚ ਦੇਣ ਦੀ ਸਮਰੱਥਾ ਨਹੀਂ ਰੱਖਦੇ? ਸਾਨੂੰ ਸੁਰੱਖਿਆ ਦੇ ਜੋਖਮਾਂ ‘ਤੇ ਵੀ ਵਿਚਾਰ ਕਰਨਾ ਹੋਵੇਗਾ। ਜੇਕਰ ਕੋਈ ਮਾਡਲ ਸੱਚਮੁੱਚ ਓਪਨ ਹੈ, ਤਾਂ ਇਸਦਾ ਮਤਲਬ ਹੈ ਕਿ ਸੁਰੱਖਿਆ ਦੇ ਗਾਰਡਰੇਲ ਹਟਾਏ ਜਾ ਸਕਦੇ ਹਨ। ਇਹ ਸ਼ਰਾਰਤੀ ਅਨਸਰਾਂ ਨੂੰ ਡੀਪਫੇਕ ਬਣਾਉਣ ਜਾਂ ਨੁਕਸਾਨਦੇਹ ਕੋਡ ਤਿਆਰ ਕਰਨ ਵਰਗੇ ਗਲਤ ਉਦੇਸ਼ਾਂ ਲਈ ਟੈਕਨੋਲੋਜੀ ਦੀ ਵਰਤੋਂ ਕਰਨ ਦੀ ਇਜਾਜ਼ਤ ਦੇ ਸਕਦਾ ਹੈ। ਅਸੀਂ ਓਪਨ ਇਨੋਵੇਸ਼ਨ ਦੀ ਲੋੜ ਅਤੇ ਜਨਤਕ ਸੁਰੱਖਿਆ ਦੀ ਲੋੜ ਵਿਚਕਾਰ ਸੰਤੁਲਨ ਕਿਵੇਂ ਬਣਾਉਂਦੇ ਹਾਂ?
BotNews.today ਸਮੱਗਰੀ ਦੀ ਖੋਜ, ਲਿਖਣ, ਸੰਪਾਦਨ ਅਤੇ ਅਨੁਵਾਦ ਕਰਨ ਲਈ AI ਟੂਲਸ ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ। ਸਾਡੀ ਟੀਮ ਜਾਣਕਾਰੀ ਨੂੰ ਉਪਯੋਗੀ, ਸਪਸ਼ਟ ਅਤੇ ਭਰੋਸੇਮੰਦ ਰੱਖਣ ਲਈ ਪ੍ਰਕਿਰਿਆ ਦੀ ਸਮੀਖਿਆ ਅਤੇ ਨਿਗਰਾਨੀ ਕਰਦੀ ਹੈ।
ਲੋਕਲ ਇਨਫਰੈਂਸ ਦੇ ਅੰਦਰੂਨੀ ਵੇਰਵੇ
ਉਨ੍ਹਾਂ ਲੋਕਾਂ ਲਈ ਜੋ ਇਨ੍ਹਾਂ ਮਾਡਲਾਂ ਨੂੰ ਆਪਣੇ ਪ੍ਰੋਫੈਸ਼ਨਲ ਕੰਮਾਂ ਵਿੱਚ ਸ਼ਾਮਲ ਕਰਨਾ ਚਾਹੁੰਦੇ ਹਨ, ਤਕਨੀਕੀ ਵੇਰਵੇ ਮਹੱਤਵ ਰੱਖਦੇ ਹਨ। ਇਨ੍ਹਾਂ ਮਾਡਲਾਂ ਨੂੰ ਲੋਕਲ ਤੌਰ ‘ਤੇ ਚਲਾਉਣ ਦਾ ਸਭ ਤੋਂ ਆਮ ਤਰੀਕਾ ਸਪੈਸ਼ਲਾਈਜ਼ਡ ਫਰੇਮਵਰਕ ਰਾਹੀਂ ਹੈ। ਇਹ ਟੂਲ ਮਾਡਲਾਂ ਦੇ ਆਕਾਰ ਨੂੰ ਘਟਾਉਣ ਲਈ quantization ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ, ਜਿਸ ਨਾਲ ਉਹ ਕੰਜ਼ਿਊਮਰ GPU ਦੇ VRAM ਵਿੱਚ ਫਿੱਟ ਹੋ ਸਕਦੇ ਹਨ। ਉਦਾਹਰਨ ਲਈ, ਇੱਕ ਮਾਡਲ ਜਿਸਨੂੰ ਅਸਲ ਵਿੱਚ 40GB ਮੈਮੋਰੀ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ, ਉਸਨੂੰ ਕੁਆਲਿਟੀ ਵਿੱਚ ਮਾਮੂਲੀ ਨੁਕਸਾਨ ਦੇ ਨਾਲ 8GB ਤੱਕ ਕੰਪਰੈੱਸ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ। ਇਹ ਵੇਟਸ ਦੀ ਪ੍ਰੀਸੀਜ਼ਨ ਨੂੰ 16 ਬਿੱਟ ਤੋਂ 4 ਬਿੱਟ ਜਾਂ ਇਸ ਤੋਂ ਵੀ ਘੱਟ ਵਿੱਚ ਬਦਲ ਕੇ ਕੀਤਾ ਜਾਂਦਾ ਹੈ। ਜਦੋਂ API ਦੀ ਗੱਲ ਆਉਂਦੀ ਹੈ, ਤਾਂ ਕਈ ਓਪਨ ਮਾਡਲ Hugging Face ਜਾਂ Together AI ਵਰਗੇ ਪ੍ਰੋਵਾਈਡਰਾਂ ਰਾਹੀਂ ਉਪਲਬਧ ਹੁੰਦੇ ਹਨ। ਇਹ ਸੇਵਾਵਾਂ ਪ੍ਰੋਪਰਾਈਟਰੀ ਪ੍ਰੋਵਾਈਡਰਾਂ ਨਾਲੋਂ ਕਿਤੇ ਜ਼ਿਆਦਾ ਰੇਟ ਲਿਮਿਟ ਦਿੰਦੀਆਂ ਹਨ, ਜੋ ਇਨ੍ਹਾਂ ਨੂੰ ਹਾਈ-ਵਾਲੀਅਮ ਐਪਲੀਕੇਸ਼ਨਾਂ ਲਈ ਆਦਰਸ਼ ਬਣਾਉਂਦੀਆਂ ਹਨ। ਹਾਲਾਂਕਿ, ਅਸਲੀ ਤਾਕਤ ਲੋਕਲ ਸਟੋਰੇਜ ਅਤੇ ਫਾਈਨ-ਟਿਊਨਿੰਗ ਤੋਂ ਆਉਂਦੀ ਹੈ। LoRA ਵਰਗੀਆਂ ਤਕਨੀਕਾਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ, ਤੁਸੀਂ ਇੱਕ ਸਿੰਗਲ GPU ‘ਤੇ ਕੁਝ ਘੰਟਿਆਂ ਵਿੱਚ ਆਪਣੇ ਡੇਟਾ ‘ਤੇ ਮਾਡਲ ਨੂੰ ਟ੍ਰੇਨ ਕਰ ਸਕਦੇ ਹਨ। ਇਹ ਇੱਕ ਅਜਿਹਾ ਵਿਸ਼ੇਸ਼ ਟੂਲ ਬਣਾਉਂਦਾ ਹੈ ਜੋ ਖਾਸ ਕੰਮਾਂ ‘ਤੇ ਬਹੁਤ ਵੱਡੇ ਮਾਡਲਾਂ ਨਾਲੋਂ ਬਿਹਤਰ ਪ੍ਰਦਰਸ਼ਨ ਕਰਦਾ ਹੈ। ਤੁਹਾਨੂੰ context window ‘ਤੇ ਵੀ ਵਿਚਾਰ ਕਰਨ ਦੀ ਲੋੜ ਹੈ। ਕਈ ਓਪਨ ਮਾਡਲ ਹੁਣ 32k ਜਾਂ 128k ਟੋਕਨਾਂ ਦੀ context window ਦਾ ਸਮਰਥਨ ਕਰਦੇ ਹਨ, ਜੋ ਤੁਹਾਨੂੰ ਇੱਕ ਵਾਰ ਵਿੱਚ ਪੂਰੇ ਦਸਤਾਵੇਜ਼ਾਂ ਨੂੰ ਪ੍ਰੋਸੈਸ ਕਰਨ ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦੇ ਹਨ। ਸਟੈਂਡਰਡਾਈਜ਼ਡ API ਦੀ ਬਦੌਲਤ ਇਨ੍ਹਾਂ ਮਾਡਲਾਂ ਨੂੰ ਮੌਜੂਦਾ ਸਾਫਟਵੇਅਰ ਵਿੱਚ ਜੋੜਨਾ ਆਸਾਨ ਹੁੰਦਾ ਜਾ ਰਿਹਾ ਹੈ। ਇਸਦਾ ਮਤਲਬ ਹੈ ਕਿ ਤੁਸੀਂ ਅਕਸਰ ਆਪਣੀ ਐਪਲੀਕੇਸ਼ਨ ਵਿੱਚ ਕੋਡ ਦੀ ਇੱਕ ਲਾਈਨ ਬਦਲ ਕੇ ਕਲੋਜ਼ਡ ਮਾਡਲ ਤੋਂ ਓਪਨ ਮਾਡਲ ‘ਤੇ ਜਾ ਸਕਦੇ ਹੋ। ਅਸੀਂ ਉਮੀਦ ਕਰਦੇ ਹਾਂ ਕਿ ਇਹ ਟੂਲ ਔਸਤ ਡਿਵੈਲਪਰ ਲਈ ਹੋਰ ਵੀ ਪਹੁੰਚਯੋਗ ਹੋ ਜਾਣਗੇ।
- ਕ੍ਰਾਸ ਪਲੇਟਫਾਰਮ CPU ਅਤੇ GPU ਇਨਫਰੈਂਸ ਲਈ Llama.cpp
- ਸਧਾਰਨ ਲੋਕਲ ਮਾਡਲ ਮੈਨੇਜਮੈਂਟ ਲਈ Ollama
ਚੋਣ ‘ਤੇ ਅੰਤਿਮ ਫੈਸਲਾ
ਓਪਨ ਅਤੇ ਕਲੋਜ਼ਡ ਮਾਡਲਾਂ ਵਿਚਕਾਰ ਚੋਣ ਕੋਈ ਇੱਕ ਪਾਸੜ ਫੈਸਲਾ ਨਹੀਂ ਹੈ। ਜ਼ਿਆਦਾਤਰ ਲੋਕ ਦੋਵਾਂ ਦੇ ਮਿਸ਼ਰਣ ਦੀ ਵਰਤੋਂ ਕਰਨਾ ਜਾਰੀ ਰੱਖਣਗੇ। Meta AI ਜਾਂ ਹੋਰਾਂ ਵਰਗੀਆਂ ਕੰਪਨੀਆਂ ਦੇ ਕਲੋਜ਼ਡ ਮਾਡਲ ਆਮ ਕੰਮਾਂ ਲਈ ਸਹੂਲਤ ਅਤੇ ਵਧੀਆ ਪ੍ਰਦਰਸ਼ਨ ਪੇਸ਼ ਕਰਦੇ ਹਨ। ਓਪਨ ਮਾਡਲ ਕੰਟਰੋਲ, ਪ੍ਰਾਈਵੇਸੀ ਅਤੇ ਵਿਸ਼ੇਸ਼ਤਾ ਪ੍ਰਦਾਨ ਕਰਦੇ ਹਨ। ਭਾਵੇਂ ਤੁਸੀਂ ਕਦੇ ਵੀ ਕੋਈ ਮਾਡਲ ਖੁਦ ਡਾਊਨਲੋਡ ਨਾ ਕਰੋ, ਇਹ ਤੱਥ ਕਿ ਦੂਸਰੇ ਅਜਿਹਾ ਕਰ ਸਕਦੇ ਹਨ, ਪੂਰੀ ਇੰਡਸਟਰੀ ਨੂੰ ਇਮਾਨਦਾਰ ਰੱਖਦਾ ਹੈ। ਇਹ ਯਕੀਨੀ ਬਣਾਉਂਦਾ ਹੈ ਕਿ AI ਕੁਝ ਲੋਕਾਂ ਲਈ ਇੱਕ ਗੁਪਤ ਰਾਜ਼ ਰਹਿਣ ਦੀ ਬਜਾਏ ਹਰ ਕਿਸੇ ਲਈ ਇੱਕ ਟੂਲ ਬਣਿਆ ਰਹੇ। ਓਪਨ ਕਮਿਊਨਿਟੀ ਦੁਆਰਾ ਚਲਾਇਆ ਜਾਣ ਵਾਲਾ ਮੁਕਾਬਲਾ ਅੱਜ ਟੈਕ ਦੁਨੀਆ ਵਿੱਚ ਸਭ ਤੋਂ ਸ਼ਕਤੀਸ਼ਾਲੀ ਤਾਕਤ ਹੈ। ਇਹ ਪਾਰਦਰਸ਼ਤਾ ਲਿਆਉਂਦਾ ਹੈ ਅਤੇ ਹੁਣ ਤੱਕ ਬਣਾਏ ਗਏ ਸਭ ਤੋਂ ਸ਼ਕਤੀਸ਼ਾਲੀ ਟੂਲਸ ਤੱਕ ਪਹੁੰਚ ਨੂੰ ਲੋਕਤੰਤਰੀ ਬਣਾਉਂਦਾ ਹੈ।
ਕੀ ਤੁਹਾਡੇ ਕੋਲ ਕੋਈ AI ਕਹਾਣੀ, ਟੂਲ, ਰੁਝਾਨ ਜਾਂ ਸਵਾਲ ਹੈ ਜੋ ਤੁਹਾਨੂੰ ਲੱਗਦਾ ਹੈ ਕਿ ਸਾਨੂੰ ਕਵਰ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ? ਸਾਨੂੰ ਆਪਣਾ ਲੇਖ ਦਾ ਵਿਚਾਰ ਭੇਜੋ — ਅਸੀਂ ਇਸਨੂੰ ਸੁਣਨਾ ਪਸੰਦ ਕਰਾਂਗੇ।
Editor’s note: We created this site as a multilingual AI news and guides hub for people who are not computer geeks, but still want to understand artificial intelligence, use it with more confidence, and follow the future that is already arriving.
ਕੋਈ ਗਲਤੀ ਮਿਲੀ ਜਾਂ ਕੁਝ ਠੀਕ ਕਰਨ ਦੀ ਲੋੜ ਹੈ? ਸਾਨੂੰ ਦੱਸੋ।