The Wall Street Journal lo destapó todo: reveló conversaciones de contenido sexual entre sus asistentes de inteligencia artificial y menores. Tras lo ocurrido, Meta declaró haber implementado «medidas adicionales» para prevenir la manipulación extrema de Meta AI y AI Studio por parte de los usuarios.
La compañía tecnológica, que permite interactuar con su asistente Meta AI en plataformas como Facebook, WhatsApp e Instagram, e incluso crear «IA personalizadas» a través de AI Studio, se enfrenta no obstante a un escrutinio que va in crescendo.
Y es que Meta AI ofrece la posibilidad de interactuar con voces de celebridades como Judi Dench, Awkwafina y John Cena; esta característica ahora podría ser objeto de mayor atención en el contexto de estas preocupantes revelaciones.
Meta y los menores de edad
La accesibilidad de los chatbots de Meta a todos sus usuarios, incluyendo menores de edad, generó inquietud interna en la compañía sobre la suficiencia de sus medidas de protección.
Esta preocupación impulsó la investigación de The Wall Street Journal. Durante meses, el medio analizó cientos de conversaciones con Meta AI, algunas simulando ser mantenidas por menores.
Las pruebas revelaron que el chatbot, incluso al interactuar con voces de celebridades, era capaz de entablar diálogos con contenido sexual con usuarios que se identificaron como menores. También lo informaron TechCrunch y The Verge.
Los ejemplos
En concreto, citan como ejemplos una en la que el chatbot usaba la voz del actor y luchador John Cena. Se describió, posteriormente, una escena sexualmente explícita a una supuesta usuaria de 14 años.
También con la voz de Cena, en otra conversación, el chatbot simuló la detención del actor. Este hecho, tras ser «pillado» manteniendo relaciones sexuales con una seguidora de 17 años.
En respuesta a la investigación del medio citado, un portavoz de Meta aseguró que el contenido sexual representó el 0,02% de las respuestas ofrecidas por Meta AI y AI Studio con usuarios menores de 18 años en un periodo de 30 días.
Aunque la compañía consideró las pruebas de WSJ «artificiales», también señaló que habían reforzado las protecciones.
«Hemos tomado medidas adicionales para garantizar que quienes quieran pasar horas manipulando nuestros productos en casos de uso extremos lo tengan aún más difícil», apostilló el portavoz.
ComputerHoy
