El fiscal de la ciudad de San Francisco, David Chiu, envió cartas formales de cese y desistimiento a Apple y Google exigiendo la retirada inmediata de 13 aplicaciones conocidas como 'nudify', capaces de generar imágenes explícitas no consentidas mediante inteligencia artificial. La acción legal se apoya en que ambas compañías tecnológicas han tenido conocimiento durante un tiempo prolongado de que estas herramientas operan en violación de las leyes estatales de California.
Las aplicaciones señaladas permiten a los usuarios subir fotografías de personas reales y generar versiones desnudas o sexualizadas sin su consentimiento, una práctica que ha sido vinculada a casos de acoso, extorsión y difusión de contenido íntimo falso. Pese a las políticas internas que ambas tiendas dicen aplicar contra este tipo de contenido, las apps lograron mantenerse disponibles durante períodos significativos, generando ingresos considerables.
Estimaciones oficiales calculan que Apple y Google podrían haber obtenido ganancias combinadas de varios millones de dólares gracias a las comisiones cobradas por la distribución y las compras dentro de estas aplicaciones. Esta cifra ha intensificado la presión pública y legal sobre ambas empresas, que ahora enfrentan la exigencia de actuar de forma inmediata y demostrar mecanismos de control más estrictos para evitar que aplicaciones similares regresen a sus plataformas.
Las cartas enviadas por la fiscalía no solo piden la eliminación de las 13 apps identificadas, sino que también advierten sobre posibles consecuencias legales adicionales si las compañías no toman medidas correctivas. No está confirmado si Apple y Google enfrentarán sanciones económicas adicionales, aunque la magnitud del caso podría abrir paso a una revisión más amplia de las políticas de moderación de contenido generado por IA en ambas tiendas de aplicaciones.
El caso se produce en un contexto de creciente escrutinio regulatorio sobre las herramientas de inteligencia artificial capaces de crear contenido sexual no consensuado, un fenómeno que ha generado alarma tanto en autoridades locales como en organizaciones de protección a la privacidad digital en Estados Unidos.