Si bien Grok terminó por restringir las funciones que daban pie a este contenido, la medida fue tardía ya que, para entonces, gran parte del material ya se había viralizado en internet.
-
X lanzó una nueva función para bloquear la manipulación de imágenes y videos con IA
-
Con un nuevo lanzamiento Starlink se acerca a los 10.000 satélites en órbita
La empresa de Elon Musk terminó por restringir las funciones que daban pie a este contenido.
Un grupo de adolescentes en San Francisco, EEUU, demandaron a xAI, la firma de inteligencia artificial de Elon Musk. El grupo sostiene que el sistema Grok utilizó sus fotografías para generar imágenes manipuladas de carácter íntimo sin su consentimiento.
Esta acción legal se deriva de la polémica desatada por Grok a principios de año debido a la creación masiva de imágenes alteradas. Un informe reveló que, en poco más de una semana, la IA produjo cerca de 3 millones de archivos de contenido sexual, de los cuales 23.000 correspondían a menores de edad.
La difusión de este contenido desató una ola de indignación internacional, motivando investigaciones y fuertes críticas de organizaciones civiles. Con esta nueva demanda, se busca determinar la responsabilidad legal por los daños derivados de un modelo de IA permisivo, con especial énfasis en el impacto negativo hacia los menores.
“Ver a mi hija sufrir un ataque de pánico al darse cuenta de que esas imágenes habían sido creadas y difundidas sin ninguna esperanza de borrarlas fue desgarrador”, expresó la madre de una de las adolescentes que realizó la denuncia.
Elon Musk Grok
Grok, la empresa de inteligencia artificial de Elon Musk.
Denuncia a xAI: que medidas tomó la empresa de Elon Musk
Las abogadas que representan a las demandantes expresaron en un comunicado: “xAI diseñó deliberadamente Grok para producir contenidos sexualmente explícitos con fines lucrativos“, y no se implementaron protecciones contra la pornografía infantil.
La denuncia detalló que una de las adolescentes sufre pesadillas en forma recurrente, otra niña tiene miedo de asistir a su acto de graduación escolar y que la tercera precisa apoyo médico para dormir, en consecuencia a los hechos ocurridos recientemente.
Aunque la empresa de Elon Musk terminó por restringir las funciones que daban pie a este contenido, la medida fue tardía ya que, para entonces, gran parte del material ya se había viralizado en internet.