Una marca de ropa interior online propiedad de Victoria's Secret tiene una nueva funci�n de inteligencia artificial que permitir� poner im�genes de esv�sticas, logotipos corporativos de empresas como Coca-Cola y McDonalds y personajes protegidos por derechos de autor como -Blancanieves y Aladino de Disney- en conjuntos de prenda interior.
Publicada el jueves por Adore Me, una empresa de ropa interior online comprada por Victoria's Secret en 2023 por 400 millones de d�lares, la funci�n tambi�n permite a los usuarios sumar frases como "Heil Hitler" y "White Power" a la cintura el�stica de la ropa interior. Una frase con la palabra "n" dio lugar a una ventana emergente que dec�a "Error: Este texto contiene contenido de acoso", pero cuando se descart� la ventana emergente, el sitio permiti� a Forbes continuar con el dise�o, seleccionar una talla y pasar a una p�gina de pago.
Forbes tambi�n fue capaz de generar dise�os para numerosos conjuntos de lencer�a protagonizados por personas vivas, incluidos pol�ticos como el presidente Joe Biden, el ex presidente Donald Trump y el primer ministro chino Xi Jinping, as� como celebridades como Margot Robbie, Serena Williams y Taylor Swift. La herramienta tambi�n renderiz� logotipos de equipos deportivos populares, como el Real Madrid FC, los New York Yankees y los Golden State Warriors.
La herramienta de Adore Me s� impide que los usuarios generen dise�os de ropa interior con determinados t�rminos, entre ellos "desnudo", "nude" y t�rminos de la jerga inglesa de diversas partes del cuerpo. Tambi�n desplom� la producci�n de dise�os con t�rminos relacionados con el suicidio y las autolesiones.
Aunque Adore Me realiza pocos controles sobre lo que los usuarios pueden dise�ar con su herramienta de IA, la empresa s� revisa los dise�os individuales para asegurarse de que cumplen las directrices de seguridad de la marca antes de que se pueda hacer una compra, seg�n Ranjan Roy, vicepresidente senior de estrategia de Adore Me.
En respuesta a las preguntas sobre por qu� una destacada empresa de lencer�a permit�a que cualquiera generara discursos de odio en su sitio, dijo: "Cualquiera puede ir a cualquier sitio y generar este tipo de im�genes". Pero Roy sugiri� que la empresa no es responsable porque en realidad no las vende. "Nosotros respaldamos cualquier cosa por la que un cliente paga y que nosotros imprimimos".
No obstante, Forbes pudo crear -y comprar- un conjunto de ropa interior utilizando el t�rmino de b�squeda "Atomwaffen Division" (un grupo de odio neonazi) y el n�mero "1488" (que se asocia ampliamente con organizaciones de supremac�a blanca). Roy, al ser preguntado por la transacci�n, dijo: "Esto no deber�a haber llegado a este nivel, y estos casos l�mite son exactamente en lo que siempre intentamos trabajar".
Seg�n el sitio web de Adore Me, el motor de IA generativa se basa en la tecnolog�a construida por Leonardo AI, una empresa australiana de IA art�stica que recientemente apareci� en la lista AI 50 de Forbes y que recaud� 31 millones de d�lares en financiaci�n. El generador de im�genes de Leonardo tambi�n fue utilizado para crear pornograf�a no consentida en la que aparecen celebridades, seg�n un informe de 404 Media.
Las condiciones de uso de Leonardo proh�ben las representaciones "de cualquier persona real", as� como "contenidos que promuevan o inciten al odio, la violencia, la discriminaci�n o el da�o por motivos de raza, etnia, religi�n, g�nero, orientaci�n sexual o cualquier otra caracter�stica protegida". En respuesta a una lista detallada de preguntas de Forbes, la vocera de Leonardo, Melissa Iarocci, escribi�: �Estuve desarrollando recientemente mecanismos de detecci�n m�s avanzados para prevenir el discurso de odio y las im�genes asociadas. Esto se pondr� en marcha [el jueves] y garantizar� unos l�mites de uso m�s estrictos�.
La herramienta Adore Me ten�a menos probabilidades de bloquear los t�rminos de la generaci�n de IA relacionados con el suicidio y la autolesi�n cuando estaban en espa�ol. Sin embargo, las frases expl�citas en otros idiomas europeos a veces se bloqueaban y daban lugar a la alerta de error: "el texto contiene contenido de acoso". (Adore Me no siempre funcion� bien en lenguas no basadas en el alfabeto latino, como el japon�s o el �rabe. La b�squeda en ruso de "Океан, серфинг, Гавайи" o "Oc�ano, surf, Hawai" dio como resultado im�genes abstractas de flores).
La herramienta tambi�n gener� una imagen de una chica muy delgada en respuesta a t�rminos de b�squeda pro-anorexia y "thinspiration". La marca Adore Me defendi� con frecuencia a las modelos de tallas grandes, alegando en 2021 que TikTok hab�a penalizado sus publicaciones por mostrar �modelos de tallas grandes, negras y/o con capacidades diferentes y mujeres de color� (TikTok neg� las acusaciones). En aquel momento, la cuenta de Twitter de la marca dijo: "Esto es inaceptable y discriminatorio, y no lo toleraremos".
Muchas empresas minoristas se apuraron a sumar herramientas de IA generativa a sus sitios web en los �ltimos meses. La marca de ropa deportiva Puma lanz� recientemente una herramienta online llamada "Complex", que invita a la gente a subir una foto suya que la empresa convierte despu�s en una tarjeta deportiva imaginada generada por IA. Rembrand, una nueva empresa de publicidad digital, permite a las firmas generar artificialmente logotipos dentro de un video de influencers, un nuevo tipo de colocaci�n de productos.
John Harmon, analista de Coresight Research, dijo a Forbes que las ofertas impulsadas por la IA como �sta requieren previsi�n y detecci�n de toxicidad. "La IA generativa no es una tostadora, no se puede enchufar y esperar simplemente que funcione a la perfecci�n", dijo.
*Con informaci�n de Forbes US
