ഇപ്പോൾ ഏറ്റവും അപകടകരമായ ഡീപ്ഫേക്ക് ട്രെൻഡ്

വിഷ്വൽ ഡീപ്ഫേക്കുകളുടെ കാലം വെറുമൊരു വഴിതെറ്റിക്കലായിരുന്നു. ലോകനേതാക്കളുടെ വ്യാജ വീഡിയോകളെക്കുറിച്ച് പൊതുജനങ്ങൾ ആശങ്കപ്പെടുമ്പോൾ, അതിനേക്കാൾ ഫലപ്രദവും അദൃശ്യവുമായ ഒരു ഭീഷണി പശ്ചാത്തലത്തിൽ വളരുകയായിരുന്നു. ഓഡിയോ സിന്തസിസ് ഇപ്പോൾ ഉയർന്ന മൂല്യമുള്ള തട്ടിപ്പുകൾക്കും രാഷ്ട്രീയ അസ്ഥിരതയ്ക്കും വേണ്ടിയുള്ള പ്രധാന ആയുധമായി മാറിയിരിക്കുന്നു. ഇത് ഇനി ചലിക്കുന്ന മുഖങ്ങളുടെ കൃത്രിമത്വത്തെക്കുറിച്ചല്ല, മറിച്ച് ഒരു കുടുംബാംഗത്തിന്റെ പരിചിതമായ ശബ്ദത്തെയോ അല്ലെങ്കിൽ ഒരു സിഇഒയുടെ അധികാരമുള്ള ശബ്ദത്തെയോ കുറിച്ചാണ്. വീഡിയോയെ അപേക്ഷിച്ച് ഓഡിയോയ്ക്ക് കുറഞ്ഞ ബാൻഡ്‌വിഡ്ത്തും കുറഞ്ഞ പ്രോസസ്സിംഗ് പവറും മതിയാകും, ഒപ്പം കൂടുതൽ വൈകാരിക സ്വാധീനവും ഇതിനുണ്ട്. വോയ്‌സ് ബയോമെട്രിക്സ് അല്ലെങ്കിൽ പെട്ടെന്നുള്ള ഫോൺ കോളുകൾ വഴി നാം വ്യക്തിത്വം സ്ഥിരീകരിക്കുന്ന ലോകത്ത്, മൂന്ന് സെക്കൻഡ് ശബ്ദം കൊണ്ട് ഒരാളെ അനുകരിക്കാനുള്ള കഴിവ് ആധുനിക ആശയവിനിമയ സംവിധാനത്തിന്റെ അടിസ്ഥാന വിശ്വാസത്തെ തകർത്തിരിക്കുന്നു. സിനിമാറ്റിക് തട്ടിപ്പുകളിൽ നിന്ന് മാറി, കോർപ്പറേറ്റുകളുടെ പണത്തെയും പൊതുജനങ്ങളുടെ സമാധാനത്തെയും ലക്ഷ്യമിട്ടുള്ള പ്രായോഗികവും ഗൗരവമേറിയതുമായ വഞ്ചനകളിലേക്കാണ് കാര്യങ്ങൾ നീങ്ങുന്നത്. കഴിഞ്ഞ വർഷത്തെ അപേക്ഷിച്ച് ഈ പ്രശ്നം ഇപ്പോൾ കൂടുതൽ സങ്കീർണ്ണമായി തോന്നുന്നു, കാരണം ഇതിനുള്ള ടൂളുകൾ പരീക്ഷണശാലകളിൽ നിന്ന് എളുപ്പത്തിൽ ഉപയോഗിക്കാവുന്ന ക്ലൗഡ് ഇന്റർഫേസുകളിലേക്ക് മാറിയിരിക്കുന്നു.

സിന്തറ്റിക് ഐഡന്റിറ്റിയുടെ മെക്കാനിക്സ്

ഉയർന്ന നിലവാരമുള്ള വോയ്‌സ് ക്ലോണിംഗിലേക്കുള്ള സാങ്കേതിക തടസ്സങ്ങൾ ഇല്ലാതായിരിക്കുന്നു. മുൻപ്, ഒരു ശബ്ദം കൃത്യമായി അനുകരിക്കാൻ മണിക്കൂറുകളോളം സ്റ്റുഡിയോ റെക്കോർഡിംഗും വലിയ കമ്പ്യൂട്ടിംഗ് സമയവും ആവശ്യമായിരുന്നു. ഇന്ന്, ഒരു തട്ടിപ്പുകാരന് സോഷ്യൽ മീഡിയ ക്ലിപ്പിൽ നിന്നോ റെക്കോർഡ് ചെയ്ത വെബിനാറിൽ നിന്നോ ഒരാളുടെ ശബ്ദം എളുപ്പത്തിൽ ശേഖരിക്കാം. ആധുനിക ന്യൂറൽ നെറ്റ്‌വർക്കുകൾ ‘സീറോ-ഷോട്ട് ടെക്സ്റ്റ്-ടു-സ്പീച്ച്’ എന്ന പ്രക്രിയ ഉപയോഗിക്കുന്നു. ഇത് ദിവസങ്ങളോളം പരിശീലനം നൽകാതെ തന്നെ ഒരു വ്യക്തിയുടെ ശബ്ദത്തിന്റെ പ്രത്യേകതകളും വികാരങ്ങളും പകർത്താൻ മോഡലിനെ അനുവദിക്കുന്നു. ഇതിന്റെ ഫലം തത്സമയം എന്ത് വേണമെങ്കിലും പറയാൻ കഴിയുന്ന ഒരു ഡിജിറ്റൽ പ്രേതമാണ്. ഇതൊരു റെക്കോർഡിംഗ് മാത്രമല്ല, ഇരുവശത്തുനിന്നും സംസാരിക്കാൻ കഴിയുന്ന ഒരു ലൈവ് ടൂളാണ്. ലാർജ് ലാംഗ്വേജ് മോഡലുകളുമായി ചേരുമ്പോൾ, ഈ ക്ലോണുകൾക്ക് ടാർഗെറ്റ് വ്യക്തിയുടെ സംസാരശൈലിയും വാക്കുകളും അനുകരിക്കാൻ കഴിയും. തങ്ങൾ അറിയുന്ന ഒരാളുമായി സാധാരണ സംഭാഷണം നടത്തുകയാണെന്ന് വിശ്വസിക്കുന്നവർക്ക് ഈ തട്ടിപ്പ് തിരിച്ചറിയാൻ അസാധ്യമാണ്.

പൊതുജനങ്ങളുടെ ധാരണ പലപ്പോഴും ഈ യാഥാർത്ഥ്യത്തിന് പിന്നിലാണ്. ഗ്ലിച്ചുകൾ അല്ലെങ്കിൽ റോബോട്ടിക് ശബ്ദങ്ങൾ കാരണം ഡീപ്ഫേക്കുകൾ എളുപ്പത്തിൽ കണ്ടെത്താമെന്ന് പലരും ഇപ്പോഴും വിശ്വസിക്കുന്നു. ഇതൊരു അപകടകരമായ തെറ്റിദ്ധാരണയാണ്. ഏറ്റവും പുതിയ ഓഡിയോ മോഡലുകൾക്ക് മോശം ഫോൺ കണക്ഷൻ അല്ലെങ്കിൽ ബഹളമുള്ള മുറിയിലെ ശബ്ദം അനുകരിച്ച് തട്ടിപ്പ് മറയ്ക്കാൻ കഴിയും. സിന്തറ്റിക് ഓഡിയോയുടെ ഗുണനിലവാരം മനഃപൂർവ്വം കുറയ്ക്കുന്നതിലൂടെ, ആക്രമണകാരികൾ അതിനെ കൂടുതൽ ആധികാരികമാക്കുന്നു. ഇതാണ് നിലവിലെ പ്രതിസന്ധിയുടെ കാതൽ. നമ്മൾ എഐയുടെ അടയാളമായി പൂർണ്ണത തേടുന്നു, എന്നാൽ ഏറ്റവും അപകടകരമായ വ്യാജങ്ങൾ അപൂർണ്ണതയെ സ്വീകരിക്കുന്നവയാണ്. നയങ്ങൾക്ക് ഒപ്പമെത്താൻ കഴിയാത്ത വേഗതയിലാണ് ഈ വ്യവസായം നീങ്ങുന്നത്. ഗവേഷകർ വാട്ടർമാർക്കിംഗ് വികസിപ്പിക്കുമ്പോൾ, ഓപ്പൺ-സോഴ്സ് കമ്മ്യൂണിറ്റി സുരക്ഷാ ഫിൽട്ടറുകളെ മറികടക്കുന്ന മോഡലുകൾ പുറത്തിറക്കുന്നു. പൊതുജനങ്ങൾ പ്രതീക്ഷിക്കുന്നതും സാങ്കേതികവിദ്യയ്ക്ക് കഴിയുന്നതും തമ്മിലുള്ള ഈ അകലമാണ് കുറ്റവാളികൾ ഇപ്പോൾ മുതലെടുക്കുന്നത്.

ക്ലൗഡ് അധിഷ്ഠിത വഞ്ചനയുടെ ഭൗമരാഷ്ട്രീയം

ഈ സാങ്കേതികവിദ്യയുടെ നിയന്ത്രണം ചുരുക്കം ചിലരുടെ കൈകളിലാണ്. മുൻനിര ഓഡിയോ സിന്തസിസ് പ്ലാറ്റ്‌ഫോമുകളിൽ ഭൂരിഭാഗവും യുണൈറ്റഡ് സ്റ്റേറ്റ്സിലാണ് പ്രവർത്തിക്കുന്നത്, സിലിക്കൺ വാലി നൽകുന്ന വലിയ മൂലധനത്തെയും ക്ലൗഡ് ഇൻഫ്രാസ്ട്രക്ചറിനെയും ഇവ ആശ്രയിക്കുന്നു. ഇത് ഒരു പ്രത്യേക സമ്മർദ്ദം സൃഷ്ടിക്കുന്നു. എഐ സുരക്ഷയ്ക്കായി യുഎസ് സർക്കാർ മാർഗ്ഗനിർദ്ദേശങ്ങൾ തയ്യാറാക്കുമ്പോൾ, കൂടുതൽ റിയലിസവും കുറഞ്ഞ ലേറ്റൻസിയും ആവശ്യപ്പെടുന്ന ആഗോള വിപണിയാണ് ഈ കമ്പനികളുടെ വേഗതയെ നയിക്കുന്നത്. ആമസോൺ, മൈക്രോസോഫ്റ്റ്, ഗൂഗിൾ തുടങ്ങിയ കമ്പനികളുടെ ക്ലൗഡ് നിയന്ത്രണം അർത്ഥമാക്കുന്നത് ലോകത്തിലെ ഏറ്റവും ശക്തമായ വഞ്ചനാ ഉപകരണങ്ങളുടെ ഗേറ്റ്‌കീപ്പർമാർ അവരാണെന്നാണ്. എന്നിരുന്നാലും, ഈ പ്ലാറ്റ്‌ഫോമുകൾ ദുരുപയോഗത്തിനുള്ള പ്രധാന ലക്ഷ്യങ്ങൾ കൂടിയാണ്. ഒരു രാജ്യത്തെ തട്ടിപ്പുകാരന് യുഎസ് അധിഷ്ഠിത ക്ലൗഡ് സേവനം ഉപയോഗിച്ച് മറ്റൊരു രാജ്യത്തെ ഇരയെ ലക്ഷ്യമിടാം, ഇത് നിയമനടപടികൾ ദുഷ്കരമാക്കുന്നു. ഈ ടെക് ഭീമന്മാരുടെ മൂലധന ശേഷി ചെറിയ രാജ്യങ്ങൾക്ക് നിർമ്മിക്കാൻ കഴിയാത്തതിനേക്കാൾ മികച്ച മോഡലുകൾ നിർമ്മിക്കാൻ അവരെ സഹായിക്കുന്നു, എന്നാൽ അവരുടെ സെർവറുകളിൽ ജനറേറ്റുചെയ്യുന്ന ഓരോ ഓഡിയോയും നിരീക്ഷിക്കാനുള്ള നിയമപരമായ അധികാരം അവർക്കില്ല.

രാഷ്ട്രീയ കൃത്രിമത്വം ഈ സാങ്കേതികവിദ്യയുടെ അടുത്ത ഘട്ടമാണ്. വ്യാപകമായ തെറ്റായ വിവര പ്രചാരണങ്ങളിൽ നിന്ന് വളരെ ടാർഗെറ്റുചെയ്ത ആക്രമണങ്ങളിലേക്കുള്ള മാറ്റമാണ് നാം കാണുന്നത്. വോട്ടെടുപ്പ് നടക്കുന്ന ദിവസം രാവിലെ ഒരു സ്ഥാനാർത്ഥിയുടെ ശബ്ദത്തിൽ വോട്ടർമാർക്ക് കോൾ വരുന്നു, പോളിംഗ് സ്ഥലം മാറിയെന്ന് അറിയിക്കുന്നു. ഇതിന് വൈറൽ വീഡിയോ ആവശ്യമില്ല, ഒരു ഫോൺ ലിസ്റ്റും കുറച്ച് സെർവർ സമയവും മാത്രം മതി. ഈ ആക്രമണങ്ങളുടെ വേഗത അവയെ വളരെ ഫലപ്രദമാക്കുന്നു. ഒരു തിരുത്തൽ നൽകാൻ ക്യാമ്പെയ്‌നിന് കഴിയുമ്പോഴേക്കും നാശനഷ്ടങ്ങൾ സംഭവിച്ചിട്ടുണ്ടാകും. അതുകൊണ്ടാണ് മുൻകാലങ്ങളെ അപേക്ഷിച്ച് ഈ പ്രശ്നം കൂടുതൽ അടിയന്തിരമായി തോന്നുന്നത്. വൻതോതിലുള്ള വ്യക്തിഗത വഞ്ചനയ്ക്കുള്ള ഇൻഫ്രാസ്ട്രക്ചർ പൂർണ്ണമായും പ്രവർത്തനക്ഷമമാണ്. ഫെഡറൽ ട്രേഡ് കമ്മീഷൻ പറയുന്നതനുസരിച്ച്, ശബ്ദവുമായി ബന്ധപ്പെട്ട തട്ടിപ്പുകൾ കാരണം ഉപഭോക്താക്കൾക്ക് പ്രതിവർഷം കോടിക്കണക്കിന് ഡോളർ നഷ്ടപ്പെടുന്നു. നയപരമായ പ്രതികരണങ്ങൾ പഠനങ്ങളിലും ചർച്ചകളിലും കുടുങ്ങിക്കിടക്കുമ്പോൾ, വ്യവസായ യാഥാർത്ഥ്യം അതിവേഗം മുന്നോട്ട് പോകുന്നു. ഈ വിടവ് ഒരു ബ്യൂറോക്രാറ്റിക് പരാജയമല്ല, മറിച്ച് നിയമത്തിന്റെ വേഗതയും സോഫ്റ്റ്‌വെയറിന്റെ വേഗതയും തമ്മിലുള്ള അടിസ്ഥാനപരമായ പൊരുത്തക്കേടാണ്.

ഭാവിയിലെ ഓഫീസിലെ ഒരു ചൊവ്വാഴ്ച രാവിലെ

സാറ എന്ന കോർപ്പറേറ്റ് ട്രഷററുടെ ഒരു ദിവസത്തെക്കുറിച്ച് ചിന്തിക്കുക. തിരക്കുള്ള ഒരു ചൊവ്വാഴ്ച രാവിലെ. സിഇഒയുടെ ഫോൺ കോൾ വരുന്നു, അദ്ദേഹത്തിന്റെ ശബ്ദം തിരിച്ചറിയാൻ എളുപ്പമാണ്. അദ്ദേഹം സമ്മർദ്ദത്തിലാണെന്നും ബഹളമുള്ള വിമാനത്താവളത്തിലാണെന്നും പറയുന്നു. മാസങ്ങളായി നടന്നുകൊണ്ടിരിക്കുന്ന ഒരു ഡീൽ ഉറപ്പിക്കാൻ അടിയന്തിരമായി പണം ട്രാൻസ്ഫർ ചെയ്യണം. പ്രോജക്റ്റിന്റെ പേരും ഉൾപ്പെട്ട നിയമസ്ഥാപനത്തെയും അദ്ദേഹം വ്യക്തമായി പറയുന്നു. സഹായിക്കാൻ ആഗ്രഹിക്കുന്ന സാറ പ്രക്രിയ ആരംഭിക്കുന്നു. മറുതലയ്ക്കലുള്ള ശബ്ദം തത്സമയം അവളുടെ ചോദ്യങ്ങൾക്ക് മറുപടി നൽകുന്നു, ടെർമിനലിലെ മോശം കോഫിയെക്കുറിച്ച് തമാശ പോലും പറയുന്നു. ഇതൊരു റെക്കോർഡിംഗ് അല്ല. കമ്പനിയുടെ ആന്തരിക ഭാഷയെക്കുറിച്ച് ആഴ്ചകളോളം ഗവേഷണം നടത്തിയ ഒരു ആക്രമണകാരി നിയന്ത്രിക്കുന്ന തത്സമയ സിന്തറ്റിക് ശബ്ദമാണിത്. സാറ ട്രാൻസ്ഫർ പൂർത്തിയാക്കുന്നു. മണിക്കൂറുകൾക്ക് ശേഷം ഒരു ഫോളോ-അപ്പ് ഇമെയിൽ അയക്കുമ്പോഴാണ് സിഇഒ മുഴുവൻ സമയവും ബോർഡ് മീറ്റിംഗിലായിരുന്നുവെന്ന് അവൾ മനസ്സിലാക്കുന്നത്. പണം നഷ്ടപ്പെട്ടു, നിമിഷങ്ങൾക്കുള്ളിൽ അപ്രത്യക്ഷമാകുന്ന അക്കൗണ്ടുകളിലൂടെ അത് കടന്നുപോയി. ഈ സാഹചര്യം ഇനി ഒരു സിദ്ധാന്തമല്ല, ലോകമെമ്പാടുമുള്ള ബിസിനസ്സുകൾക്ക് ഇത് ഒരു സാധാരണ യാഥാർത്ഥ്യമാണ്.

ഈ തരം വഞ്ചന പരമ്പരാഗത ഫിഷിംഗിനേക്കാൾ ഫലപ്രദമാണ്, കാരണം ഇത് നമ്മുടെ സ്വാഭാവിക സംശയങ്ങളെ മറികടക്കുന്നു. ഇമെയിലുകളിലെ അക്ഷരത്തെറ്റുകൾ കണ്ടെത്താൻ നമ്മൾ പരിശീലിച്ചിട്ടുണ്ട്, എന്നാൽ ദീർഘകാല സഹപ്രവർത്തകന്റെ ശബ്ദത്തെ സംശയിക്കാൻ നമ്മൾ ഇതുവരെ പഠിച്ചിട്ടില്ല. ഫോൺ കോളിന്റെ വൈകാരിക സമ്മർദ്ദം വിമർശനാത്മകമായി ചിന്തിക്കാനുള്ള നമ്മുടെ കഴിവിനെ പരിമിതപ്പെടുത്തുന്നു. ഒരു സെക്യൂരിറ്റി അനലിസ്റ്റിനെ സംബന്ധിച്ചിടത്തോളം, ഫയർവാളുകൾ നിരീക്ഷിക്കുന്നതിനേക്കാൾ ആശയവിനിമയത്തിലെ അസ്വാഭാവികതകൾ കണ്ടെത്താനാണ് ഇപ്പോൾ സമയം ചെലവഴിക്കുന്നത്. ഡിജിറ്റലായി പങ്കുവെക്കാത്ത ‘ചലഞ്ച്-റെസ്പോൺസ്’ വാക്യങ്ങൾ പോലുള്ള പുതിയ പ്രോട്ടോക്കോളുകൾ അവർ നടപ്പിലാക്കണം. ഒരു സെക്യൂരിറ്റി ടീം അടുത്ത ആക്രമണങ്ങളെ നേരിടാൻ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസിനെക്കുറിച്ചുള്ള ഏറ്റവും പുതിയ വിവരങ്ങൾ അവലോകനം ചെയ്തേക്കാം. അവർ ഇനി ഹാക്കർമാരോട് മാത്രമല്ല പോരാടുന്നത്, നമ്മുടെ ചെവികൾ നൽകുന്ന മാനസികമായ ഉറപ്പിനോട് കൂടിയാണ്. മനുഷ്യന്റെ ശബ്ദം ഇനി ഒരു സുരക്ഷിത ക്രെഡൻഷ്യൽ അല്ല എന്നതാണ് യാഥാർത്ഥ്യം. ഈ തിരിച്ചറിവ് കോർപ്പറേറ്റ് പരിതസ്ഥിതിയിൽ വിശ്വാസം എങ്ങനെ സ്ഥാപിക്കണം എന്നതിനെക്കുറിച്ച് പൂർണ്ണമായ പുനർചിന്തനത്തിന് നിർബന്ധിതരാക്കുന്നു. ഈ മാറ്റത്തിന്റെ വില സാമ്പത്തിക നഷ്ടം മാത്രമല്ല, ഓർഗനൈസേഷനുകളെ കാര്യക്ഷമമായി പ്രവർത്തിപ്പിക്കുന്ന കാഷ്വൽ, ഉയർന്ന വിശ്വാസമുള്ള ആശയവിനിമയത്തിന്റെ നഷ്ടം കൂടിയാണ്. ഇപ്പോൾ ഓരോ കോളിലും സംശയത്തിന്റെ ഒരു നിഗൂഢ നികുതിയുണ്ട്.

സിന്തറ്റിക് യുഗത്തിലെ കഠിനമായ ചോദ്യങ്ങൾ

ഈ സാങ്കേതികവിദ്യയുടെ നിലവിലെ പാതയെക്കുറിച്ച് നാം സോക്രട്ടീസിന്റെ രീതിയിലുള്ള സംശയം പുലർത്തണം. ഏതൊരു ശബ്ദവും ക്ലോൺ ചെയ്യാമെങ്കിൽ, ഒരു പൊതു വ്യക്തിത്വം നിലനിർത്തുന്നതിന്റെ മറഞ്ഞിരിക്കുന്ന ചെലവ് എന്താണ്? ഓരോ പ്രസംഗകനും, എക്സിക്യൂട്ടീവിനും, ഇൻഫ്ലുവൻസറിനും അവരുടെ ശബ്ദം ഇപ്പോൾ പൊതുസ്വത്താണെന്ന് നാം അടിസ്ഥാനപരമായി പറയുകയാണ്. പ്രതിരോധത്തിന്റെ കമ്പ്യൂട്ട് ചെലവുകൾക്ക് ആരാണ് ഉത്തരവാദി? തങ്ങളുടെ ജീവനക്കാർ അവർ തന്നെയാണെന്ന് ഉറപ്പുവരുത്താൻ കമ്പനികൾ ദശലക്ഷക്കണക്കിന് രൂപ ചെലവഴിക്കേണ്ടി വന്നാൽ, അത് ആഗോള സമ്പദ്‌വ്യവസ്ഥയ്ക്ക് നേരിട്ടുള്ള തിരിച്ചടിയാണ്. ‘ലയേഴ്സ് ഡിവിഡന്റ്’ എന്ന പ്രതിഭാസത്തെക്കുറിച്ചും നാം ചോദിക്കണം. യഥാർത്ഥ റെക്കോർഡിംഗിൽ പിടിക്കപ്പെടുന്ന ഒരാൾക്ക് അത് ഡീപ്ഫേക്ക് ആണെന്ന് വാദിക്കാൻ കഴിയുന്ന അവസ്ഥയാണിത്. തെളിവുകളൊന്നും ഉറപ്പില്ലാത്ത ഒരു ലോകം ഇത് സൃഷ്ടിക്കുന്നു. പ്രധാന തെളിവ് – സാക്ഷി റെക്കോർഡിംഗ് – സിന്തറ്റിക് ഉൽപ്പന്നമായി തള്ളിക്കളയാമെങ്കിൽ ഒരു നിയമവ്യവസ്ഥ എങ്ങനെ പ്രവർത്തിക്കും? സത്യം മറയ്ക്കപ്പെടുക മാത്രമല്ല, തെളിയിക്കാൻ കഴിയാത്തതുമായ ഒരു യാഥാർത്ഥ്യത്തിലേക്കാണ് നാം നീങ്ങുന്നത്. ജനറേറ്റീവ് ഓഡിയോയുടെ സൗകര്യം ഓഡിയോ തെളിവുകളുടെ പൂർണ്ണമായ നാശത്തിന് വിലമതിക്കുന്നതാണോ? ഇവ ദൂരെയുള്ള ഭാവിയിലേക്കുള്ള ചോദ്യങ്ങളല്ല, ഇവ ഇന്നത്തേക്കുള്ള ചോദ്യങ്ങളാണ്. സംരക്ഷണം ആർക്ക് താങ്ങാനാകും എന്നതിലും വ്യത്യാസമുണ്ട്. വലിയ കോർപ്പറേഷനുകൾക്ക് ചെലവേറിയ വെരിഫിക്കേഷൻ ടൂളുകൾ വാങ്ങാം, എന്നാൽ വോയ്‌സ്-ക്ലോൺ തട്ടിക്കൊണ്ടുപോകൽ തട്ടിപ്പിന് ഇരയാകുന്ന സാധാരണക്കാരന്റെ അവസ്ഥ എന്താണ്? സ്വകാര്യതയിലെ വിടവ് വർദ്ധിച്ചുകൊണ്ടിരിക്കുകയാണ്, ഏറ്റവും ദുർബലരായവരാണ് സംരക്ഷണമില്ലാതെ അവശേഷിക്കുന്നത്.

ഞങ്ങൾ ഉൾപ്പെടുത്തണമെന്ന് നിങ്ങൾ കരുതുന്ന ഒരു AI സ്റ്റോറിയോ, ടൂളോ, ട്രെൻഡോ, ചോദ്യമോ നിങ്ങളുടെ പക്കലുണ്ടോ? നിങ്ങളുടെ ലേഖന ആശയം ഞങ്ങൾക്ക് അയയ്ക്കുക — അത് കേൾക്കാൻ ഞങ്ങൾ ആഗ്രഹിക്കുന്നു.

ഡീപ്ഫേക്ക് സിസ്റ്റങ്ങളുടെ ലേറ്റൻസിയും ലോജിക്കും

ഇത് തടയാൻ എന്തുകൊണ്ട് ഇത്ര ബുദ്ധിമുട്ടാണെന്ന് മനസ്സിലാക്കാൻ, ഈ സിസ്റ്റങ്ങളുടെ പവർ യൂസർ സ്പെസിഫിക്കേഷനുകൾ നോക്കണം. മിക്ക ആധുനിക വോയ്‌സ് ക്ലോണിംഗ് ടൂളുകളും എപിഐ-ഡ്രിവൺ ആർക്കിടെക്ചറിനെ ആശ്രയിക്കുന്നു. OpenAI അല്ലെങ്കിൽ ElevenLabs പോലുള്ള സേവനങ്ങൾ അവിശ്വസനീയമാംവിധം കുറഞ്ഞ ലേറ്റൻസിയിൽ ഉയർന്ന നിലവാരമുള്ള ഔട്ട്‌പുട്ട് നൽകുന്നു. 500 മില്ലിസെക്കൻഡ് മുതൽ ഒരു സെക്കൻഡ് വരെ കാലതാമസമാണ് ഇവിടെയുള്ളത്. സ്വാഭാവിക സംഭാഷണത്തിന് ഇത് മതിയാകും. നിയന്ത്രിത സേവനങ്ങളുടെ പരിമിതികൾ ഒഴിവാക്കാൻ ആഗ്രഹിക്കുന്നവർക്ക്, മോഡൽ വെയിറ്റുകൾ ലോക്കലായി സൂക്ഷിക്കുന്നതാണ് നല്ലത്. 12GB VRAM ഉള്ള ഒരു സാധാരണ കൺസ്യൂമർ GPU-ന് ഇപ്പോൾ ഒരു അത്യാധുനിക RVC (Retrieval-based Voice Conversion) മോഡൽ പ്രവർത്തിപ്പിക്കാൻ കഴിയും. ഇത് ആക്രമണകാരിക്ക് ഓഡിയോ ലോക്കലായി പ്രോസസ്സ് ചെയ്യാൻ അനുവദിക്കുന്നു, അവരുടെ പ്രവർത്തനങ്ങൾ ഒരു തേർഡ്-പാർട്ടി പ്രൊവൈഡറും ലോഗ് ചെയ്യുന്നില്ലെന്ന് ഉറപ്പാക്കുന്നു. വർക്ക്ഫ്ലോ ഇന്റഗ്രേഷനും തടസ്സമില്ലാത്തതായി മാറുകയാണ്. തട്ടിപ്പുകാർക്ക് അവരുടെ സിന്തറ്റിക് ഓഡിയോ നേരിട്ട് ഒരു വെർച്വൽ മൈക്രോഫോണിലേക്ക് നൽകാം, ഇത് സൂം, ടീംസ് അല്ലെങ്കിൽ ഒരു VoIP ഗേറ്റ്‌വേ വഴി സാധാരണ ഫോൺ ലൈനിലേക്ക് ഒരു യഥാർത്ഥ ഇൻപുട്ടായി കാണപ്പെടും.

ഈ സിസ്റ്റങ്ങളുടെ പരിധികൾ കമ്പ്യൂട്ട് പവറിനേക്കാൾ ഡാറ്റയുടെ ഗുണനിലവാരവുമായി ബന്ധപ്പെട്ടതാണ്. റഫറൻസ് ഓഡിയോ എത്രത്തോളം മികച്ചതാണോ അത്രത്തോളം മികച്ചതായിരിക്കും മോഡലും. എന്നിരുന്നാലും, ഇന്റർനെറ്റ് ഉയർന്ന നിലവാരമുള്ള ശബ്ദ ഡാറ്റയുടെ വലിയ ശേഖരമാണ്. ഡെവലപ്പർമാർക്ക്, ഇൻഫറൻസ് വേഗത കൈകാര്യം ചെയ്യുക എന്നതാണ് വെല്ലുവിളി. ലേറ്റൻസി വളരെ കൂടുതലാണെങ്കിൽ, സംഭാഷണം കൃത്രിമമായി തോന്നും. പവർ യൂസറുകൾ ഇപ്പോൾ ചെറിയ, ക്വാണ്ടൈസ്ഡ് മോഡലുകൾ ഉപയോഗിച്ച് അവരുടെ സ്റ്റാക്കുകൾ ഒപ്റ്റിമൈസ് ചെയ്യുന്നു, ഇത് അല്പം ഗുണനിലവാരം കുറച്ച് പ്രതികരണ വേഗത വർദ്ധിപ്പിക്കുന്നു. സാധാരണ ടാർഗെറ്റുകളുടെ വോക്കൽ ഫീച്ചറുകൾ സൂക്ഷിക്കാൻ അവർ ലോക്കൽ ഡാറ്റാബേസുകളും ഉപയോഗിക്കുന്നു. ഈ സാങ്കേതിക നിലവാരം അർത്ഥമാക്കുന്നത് പ്രതിരോധവും തുല്യമായി ഓട്ടോമേറ്റഡ് ആയിരിക്കണം എന്നാണ്. മാനുവൽ വെരിഫിക്കേഷൻ വളരെ മന്ദഗതിയിലാണ്. എഐ-ഡ്രിവൺ ‘ലിസണർമാർ’ നമ്മുടെ ഫോൺ ലൈനുകളിൽ ഇരുന്ന് ഓഡിയോയുടെ സ്ഥിരത തത്സമയം വിശകലനം ചെയ്യേണ്ട ഘട്ടത്തിലേക്ക് നാം പ്രവേശിക്കുകയാണ്. ഇത് പുതിയ സ്വകാര്യത ആശങ്കകൾ സൃഷ്ടിക്കുന്നു. വ്യാജങ്ങളിൽ നിന്ന് നമ്മളെ സംരക്ഷിക്കാൻ, നമ്മൾ പറയുന്ന ഓരോ വാക്കും ഒരു അൽഗോരിതം കേൾക്കാൻ അനുവദിക്കണോ? സുരക്ഷയും സ്വകാര്യതയും തമ്മിലുള്ള വ്യാപാരം ഇതിലും അർത്ഥവത്തായിരുന്നിട്ടില്ല.

• തത്സമയ വോയ്‌സ് ക്ലോണിംഗിനായുള്ള ശരാശരി ലേറ്റൻസി കഴിഞ്ഞ പന്ത്രണ്ട് മാസത്തിനുള്ളിൽ 800 മില്ലിസെക്കൻഡിൽ താഴെയായി കുറഞ്ഞു.
• നിലവിലെ സൈക്കിളിന്റെ തുടക്കം മുതൽ വോയ്‌സ് കൺവേർഷനായുള്ള ഓപ്പൺ-സോഴ്സ് റിപ്പോസിറ്ററികളിൽ 300 ശതമാനം വർദ്ധനവ് ഉണ്ടായിട്ടുണ്ട്.

പുതിയ ഭീഷണിയുടെ യാഥാർത്ഥ്യം

ഡീപ്ഫേക്കുകളിലെ ഏറ്റവും അപകടകരമായ ട്രെൻഡ് സാധാരണമായ കാര്യങ്ങളിലേക്കുള്ള മാറ്റമാണ്. വലിയ ബജറ്റ് സിനിമയോ വൈറൽ പാരഡിയോ അല്ല നമ്മെ ആശങ്കപ്പെടുത്തേണ്ടത്. ഒരു സാധാരണ ഫോൺ കോൾ വഴി വരുന്ന ശാന്തവും പ്രൊഫഷണലും വളരെ ബോധ്യപ്പെടുത്തുന്നതുമായ ഓഡിയോയാണ്. ഈ സാങ്കേതികവിദ്യ നമ്മുടെ വ്യക്തിത്വത്തിന്റെ ഏറ്റവും മാനുഷികമായ ഭാഗമായ നമ്മുടെ ശബ്ദത്തെ ആയുധമാക്കി മാറ്റിയിരിക്കുന്നു. റോയിട്ടേഴ്സിൽ നിന്നുള്ള റിപ്പോർട്ടുകളിൽ നാം കണ്ടതുപോലെ, ഈ പ്രശ്നത്തിന്റെ വ്യാപ്തി ആഗോളമാണ്, പരിഹാരങ്ങൾ നിലവിൽ ചിതറിക്കിടക്കുകയാണ്. എഐ വികസനത്തിന്റെ വ്യാവസായിക വേഗത യാഥാർത്ഥ്യം പരിശോധിക്കാനുള്ള നമ്മുടെ സാമൂഹികവും നിയമപരവുമായ കഴിവിനെ മറികടന്ന ഒരു കാലഘട്ടത്തിലൂടെയാണ് നാം ജീവിക്കുന്നത്. മുന്നോട്ടുള്ള പാതയ്ക്ക് മികച്ച സോഫ്റ്റ്‌വെയറിനേക്കാൾ ഉപരിയായി എന്തോ ആവശ്യമുണ്ട്. ഡിജിറ്റൽ ലോകത്ത് വിശ്വാസത്തെ നാം സമീപിക്കുന്ന രീതിയിൽ അടിസ്ഥാനപരമായ മാറ്റം ആവശ്യമാണ്. കേൾക്കുന്നത് വിശ്വസിക്കാം എന്ന് ഇനി നമുക്ക് കരുതാനാവില്ല. വോക്കൽ ഫിംഗർപ്രിന്റ് തകർന്നിരിക്കുന്നു, അതിന്റെ അറ്റകുറ്റപ്പണികൾ നീണ്ടതും ചെലവേറിയതും സാങ്കേതികമായി ആവശ്യപ്പെടുന്നതുമായിരിക്കും. ശബ്ദം എത്ര പരിചിതമാണെങ്കിലും, സ്ഥിരീകരിക്കാത്ത ഓരോ അഭ്യർത്ഥനയോടും നാം സംശയം പുലർത്തണം. ഈ പുതിയ സിന്തറ്റിക് പരിതസ്ഥിതിയിൽ ഒരു തെറ്റിന്റെ വില വളരെ വലുതാണ്.

Nota del editor: Creamos este sitio como un centro multilingüe de noticias y guías sobre IA para personas que no son expertos en informática, pero que aún quieren entender la inteligencia artificial, usarla con más confianza y seguir el futuro que ya está llegando.