El hecho
La alcaldesa de San Francisco y fiscales de la ciudad emitieron una orden judicial obligando a Apple y Google a eliminar 8 aplicaciones de "desnudez" no consentida de la App Store y Google Play. Estas apps usan IA generativa para eliminar digitalmente la ropa de fotos sin consentimiento.
Contexto
Las apps de "desnudez" por IA existen desde hace al menos dos años pero proliferaron con la popularización de modelos de código abierto. Apple y Google tenían políticas que prohibían este contenido, pero la moderación era reactiva.
Análisis
El riesgo que nadie está discutiendo es el precedente legal. Si San Francisco puede obligar a Apple y Google a premoderar apps de IA generativa, otras ciudades seguirán. Para Apple, que promociona Apple Intelligence como diferenciador del iOS 27, esto crea un conflicto directo: ¿cómo vender IA "segura y privada" mientras tu tienda distribuye apps que usan IA para violar la privacidad?
Qué observar
Apple y Google pueden apelar, pero el daño reputacional ya está hecho. El cumplimiento indicará cuán dispuestas están las big techs a cooperar con la regulación local de IA.
