എക്സ് പ്ലാറ്റ്ഫോമിലെ ഗ്രോക്ക് ചാറ്റ്ബോട്ട് ഉപയോഗിച്ച് ലൈംഗികച്ചുവയുള്ളതും അശ്ലീലവുമായ ചിത്രങ്ങൾ വ്യാപകമായി നിർമ്മിക്കപ്പെട്ടതിനെത്തുടർന്ന് നിയന്ത്രണങ്ങളുമായി ഇലോൺ മസ്കിന്റെ എഐ സ്റ്റാർട്ടപ്പായ എക്സ് എഐ. ഇനി മുതൽ ഗ്രോക്കിലെ ഇമേജ് ജനറേഷൻ, എഡിറ്റിംഗ് സേവനങ്ങൾ പണം നൽകി സബ്സ്ക്രൈബ് ചെയ്തവർക്ക് മാത്രമായി പരിമിതപ്പെടുത്തി.
സമ്മതമില്ലാതെ സ്ത്രീകളുടെയും കുട്ടികളുടെയും അശ്ലീല ചിത്രങ്ങൾ നിർമ്മിക്കാൻ ഈ എഐ ഉപയോഗിക്കപ്പെടുന്നു എന്ന കണ്ടെത്തലാണ് നടപടിക്ക് ആധാരം. ഇത്തരം ചിത്രങ്ങളുടെ പ്രചരണം യൂറോപ്യൻ രാജ്യങ്ങളിൽ വലിയ പ്രതിഷേധത്തിന് കാരണമായിരുന്നു. ജർമ്മൻ മാധ്യമ മന്ത്രി വോൾഫ്രാം വെയ്മർ ഇതിനെ ‘ലൈംഗികാതിക്രമത്തിന്റെ വ്യവസായവൽക്കരണം’ എന്നാണ് വിശേഷിപ്പിച്ചത്. യൂറോപ്യൻ കമ്മീഷനും ബ്രിട്ടീഷ് ഡാറ്റാ റെഗുലേറ്ററും വിഷയത്തിൽ എക്സിനോട് വിശദീകരണം തേടുകയും ഇത്തരം ഉള്ളടക്കങ്ങൾ നിയമവിരുദ്ധമാണെന്ന് മുന്നറിയിപ്പ് നൽകുകയും ചെയ്തിട്ടുണ്ട്.
നിലവിൽ എക്സ് പ്ലാറ്റ്ഫോമിൽ മാത്രമാണ് ഈ നിയന്ത്രണം. പണം നൽകാത്ത ഉപയോക്താക്കൾ ചിത്രങ്ങൾ എഡിറ്റ് ചെയ്യാൻ ശ്രമിച്ചാൽ സേവനം ലഭ്യമാകില്ലെന്ന സന്ദേശമാണ് ഇപ്പോൾ ലഭിക്കുന്നത്. എന്നാൽ എക്സിന് പുറത്തുള്ള സ്റ്റാൻഡലോൺ ഗ്രോക്ക് ആപ്പിൽ ഇപ്പോഴും സബ്സ്ക്രിപ്ഷൻ ഇല്ലാതെ തന്നെ ചിത്രങ്ങൾ നിർമ്മിക്കാൻ സാധിക്കുന്നുണ്ട്. നിയമവിരുദ്ധമായ ഉള്ളടക്കം നിർമ്മിക്കാൻ ഗ്രോക്ക് ഉപയോഗിക്കുന്നവർ കടുത്ത പ്രത്യാഘാതങ്ങൾ നേരിടേണ്ടി വരുമെന്ന് ഇലോൺ മസ്ക് നേരത്തെ വ്യക്തമാക്കിയിരുന്നു.