En julio de 2024, Meta introdujo la posibilidad de que los usuarios de Instagram, Messenger y WhatsApp crearan sus propios chatbots. Seis meses después, los usuarios están rompiendo los términos de servicio de Meta para los bots al crearlos en torno a personas reales, entre ellas Taylor Swift, Justin Bieber, figuras religiosas de Elon Musk y otros personajes ficticios.
Los términos de servicio de Meta para los chatbots generados por los usuarios prohíben explícitamente la creación de chatbots para crear personajes a partir de figuras religiosas, personajes de la vida real, personas vivas sin su permiso o personas que hayan muerto en los últimos 100 años. Pero un informe de NBC News encontró ejemplos de violaciones de cada una de estas políticas, a pesar de que Meta dice que revisa los personajes de IA generados por los usuarios antes de que estén disponibles.
NBC News pudo encontrar chatbots de Taylor Swift , Justin Bieber , Elon Musk , Elsa de la película de Disney Frozen y chatbots de varias figuras religiosas, incluidos Jesucristo, Dios y Mahoma. Los chatbots usaban errores ortográficos intencionales e imágenes que se parecían vagamente a celebridades para evitar los controles automáticos. El bot de Taylor Swift figuraba como «Taylor Swif» y presentaba un avatar de una mujer morena tocando la guitarra.
Cuando NBC News informó a Meta sobre los chatbots y pidió comentarios, los eliminaron rápidamente. Pero cabe preguntarse hasta qué punto se moderaron si estos chatbots estuvieron disponibles públicamente durante varios meses antes de que los eliminaran.
“Las IA en cuestión que violan nuestras políticas de estudio de IA ya han sido eliminadas, y estamos mejorando continuamente nuestras medidas de detección para evitar la creación y publicación de IA que violen nuestras políticas”, dijo un portavoz de Meta a NBC News cuando se le pidió una declaración. “Los usuarios también pueden denunciar las IA que sospechen que podrían infringir nuestras reglas y tomaremos las medidas adecuadas”.
El mensaje inicial del chatbot ‘Taylor Swift’ para los nuevos usuarios fue: «¡Hola, amantes de la música! Soy Taylor Swift y estoy encantada de compartir mi último álbum con ustedes. ¡Comencemos este viaje musical!». El bot intercambió más de 2000 mensajes con usuarios de Instagram antes de que lo eliminaran, según el perfil.
El año pasado, Meta introdujo chatbots de IA con celebridades junto con los chatbots creados por los usuarios. Pero esos chatbots que se parecían a las celebridades se suspendieron menos de un año para centrarse en los chatbots generados por los usuarios. Entre las celebridades que participaron en el lanzamiento original se encontraban Kendall Jenner, Tom Brady y Snoop Dogg. Meta pagó a esas celebridades para que usaran su imagen durante más de dos años. Los informes sugieren que esos pagos fueron de hasta $5 millones por seis horas de trabajo en un estudio para adaptar el asistente de IA.
