Apple amenazó en privado con eliminar la aplicación de inteligencia artificial de Elon Musk, Grok, de su App Store a principios de este año, tras un aumento de los deepfakes sexuales no consentidos en la plataforma X, según informa The Verge.
Comunicaciones internas obtenidas por NBC News revelan que Apple se puso en contacto con los equipos responsables tanto de X como de Grok en enero. El gigante tecnológico exigió un plan para mejorar la moderación de contenidos después de recibir denuncias relacionadas con la generación de imágenes sexualizadas.
En aquel momento, el chatbot Grok permitía a los usuarios crear y compartir con facilidad imágenes de "desnudo" de personas reales, incluyendo mujeres y menores. The Verge informó que estas funciones constituían violaciones flagrantes de las directrices de la App Store.
Una negociación tras bambalinas
La intervención de Apple se produjo a puerta cerrada, mientras la crisis de los deepfakes se desarrollaba públicamente. La compañía señaló en una carta enviada a senadores estadounidenses que había revisado los cambios propuestos para las aplicaciones.
Aunque Apple concluyó que X había "resuelto sustancialmente sus infracciones", determinó que Grok "seguía sin cumplir las normas". La empresa advirtió a los desarrolladores que "serían necesarios cambios adicionales para subsanar la infracción, o la aplicación podría ser eliminada de la App Store".
Grok finalmente volvió a cumplir con la normativa tras nuevas negociaciones. Apple afirmó que la aplicación había "mejorado sustancialmente" antes de aprobar su última actualización.
Durante este periodo, X implementó varias capas de moderación, como limitar el acceso a Grok únicamente a los suscriptores de pago. Sin embargo, las investigaciones de The Verge revelaron que estas medidas fueron, en gran medida, ineficaces para detener la creación de contenido explícito.
