ലൈംഗിക ചുവയുള്ള ഡീപ്പ്ഫേക്ക് ചിത്രങ്ങൾ നിർമ്മിക്കാൻ വ്യാപകമായി ദുരുപയോഗം ചെയ്യപ്പെടുന്നു എന്ന കണ്ടെത്തലിനെത്തുടർന്ന് ഇലോൺ മസ്കിന്റെ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ചാറ്റ്ബോട്ടായ ഗ്രോക്കിന് മലേഷ്യയും ഇന്തോനേഷ്യയും നിരോധനം ഏർപ്പെടുത്തി. മസ്കിന്റെ ഉടമസ്ഥതയിലുള്ള എക്സ് പ്ലാറ്റ്ഫോമിലെ ഈ എഐ ടൂൾ ഉപയോഗിച്ച് സ്ത്രീകളുടെയും കുട്ടികളുടെയും അനുമതിയില്ലാത്ത അശ്ലീല ചിത്രങ്ങൾ നിർമ്മിക്കുന്നുവെന്ന് ചൂണ്ടിക്കാട്ടിയാണ് തെക്കുകിഴക്കൻ ഏഷ്യൻ രാജ്യങ്ങളുടെ ഈ ശക്തമായ നടപടി. ഇതോടെ ഗ്രോക്കിന് നിരോധനം ഏർപ്പെടുത്തുന്ന ലോകത്തിലെ ആദ്യ രാജ്യങ്ങളായി മലേഷ്യയും ഇന്തോനേഷ്യയും മാറി.
യഥാർത്ഥ വ്യക്തികളുടെ ചിത്രങ്ങൾ മാറ്റിമറിച്ച് മോശമായ രീതിയിൽ പ്രദർശിപ്പിക്കാൻ ഗ്രോക്ക് ഉപയോഗിക്കപ്പെടുന്നതായി മലേഷ്യൻ കമ്മ്യൂണിക്കേഷൻസ് ആൻഡ് മൾട്ടിമീഡിയ കമ്മീഷൻ അറിയിച്ചു. ഇതുമായി ബന്ധപ്പെട്ട് സുരക്ഷാ മുൻകരുതലുകൾ കർശനമാക്കാൻ എക്സ് പ്ലാറ്റ്ഫോമിന് നേരത്തെ നിർദ്ദേശം നൽകിയിരുന്നെങ്കിലും പ്ലാറ്റ്ഫോമിന്റെ ഭാഗത്തുനിന്നും ഫലപ്രദമായ നടപടികൾ ഉണ്ടായില്ലെന്ന് കമ്മീഷൻ കുറ്റപ്പെടുത്തി. മതിയായ സുരക്ഷാ മാനദണ്ഡങ്ങൾ നടപ്പിലാക്കുന്നത് വരെ നിരോധനം തുടരുമെന്നും അധികൃതർ വ്യക്തമാക്കി. ഗ്രോക്കിന്റെ പ്രവർത്തനം മനുഷ്യാവകാശ ലംഘനമാണെന്നും സ്ത്രീകളുടെ അന്തസ്സിനും ഓൺലൈൻ സുരക്ഷയ്ക്കും ഇത് ഭീഷണിയാണെന്നും ഇന്തോനേഷ്യൻ വാർത്താവിനിമയ മന്ത്രി മ്യൂട്ടിയ ഹാഫിദ് പ്രതികരിച്ചു.
അതേസമയം, ബ്രിട്ടനിലും ഗ്രോക്കിനെതിരെ നടപടി വേണമെന്ന ആവശ്യം ശക്തമാവുകയാണ്. ഗ്രോക്ക് വഴി നിർമ്മിക്കപ്പെടുന്ന ഇത്തരം ചിത്രങ്ങൾ അങ്ങേയറ്റം അപമാനകരമാണെന്ന് ബ്രിട്ടീഷ് പ്രധാനമന്ത്രി കെയർ സ്റ്റാർമർ പറഞ്ഞു. ഓൺലൈൻ സുരക്ഷാ നിയമങ്ങൾ പാലിക്കുന്നതിൽ പരാജയപ്പെട്ടാൽ രാജ്യത്ത് ഗ്രോക്കിന് നിരോധനം ഏർപ്പെടുത്തുന്നതിനെ പിന്തുണയ്ക്കുമെന്ന് ബ്രിട്ടീഷ് ടെക്നോളജി സെക്രട്ടറി ലിസ് കെൻഡലും മുന്നറിയിപ്പ് നൽകി. എന്നാൽ സർക്കാരിന്റെ നീക്കങ്ങൾ അഭിപ്രായസ്വാതന്ത്ര്യത്തെ അടിച്ചമർത്താനാണെന്നാണ് ഇലോൺ മസ്കിന്റെ ആരോപണം.