Meta corrige a su asistente de IA tras sugerir preguntas íntimas sobre hijos de una usuaria
La compañía reconoció el fallo y anunció cambios en la función que cruza datos de publicaciones para generar sugerencias automáticas.
El asistente de inteligencia artificial integrado en Facebook e Instagram sugirió preguntas de carácter personal y familiar a partir de publicaciones accesibles en la plataforma. Meta reconoció el error y confirmó que modificó el comportamiento de la herramienta para impedir que ese tipo de recomendaciones vuelva a aparecer, según confirmaron a este medio fuentes de la empresa.
El origen del episodio
El caso se detectó cuando una usuaria de Instagram publicó un video en el que se la veía cantando junto a su hijo dentro de un auto. Debajo de la publicación, el chatbot sugirió de manera automática la pregunta ¿Quién es el niño pasajero?. Al seleccionarla, el sistema ofreció información sobre las hijas de la mujer, con referencias a la edad y al lugar de residencia de la familia.
La usuaria sostuvo además que la herramienta le mostró fotografías de sus hijas cargadas con anterioridad, entre ellas una imagen que, según su testimonio, había sido borrada años atrás. El asistente habría cruzado datos de publicaciones propias y de familiares para construir las respuestas.
“Se equivocaron. La función nunca debería haber sugerido ese tipo de preguntas al usuario.”Dina El-Kassaby, portavoz de Meta
- La IA solo opera sobre información que el usuario ya puede ver en la plataforma.
- El problema radicó en cómo el sistema interpretó y relacionó datos accesibles, no en el acceso a contenido privado.
- Meta ajustó el comportamiento que generaba esas recomendaciones.
- La empresa trabaja para mantener la utilidad de la función sin invadir la vida familiar.
Antecedentes y debate
En julio pasado, Meta había retirado una herramienta que permitía generar imágenes falsas de otros usuarios de Instagram, luego de recibir cuestionamientos por el uso indebido de la función. El episodio reaviva la discusión sobre los límites que deben tener los asistentes de inteligencia artificial cuando procesan información personal, incluso cuando se trata de datos visibles para el usuario.
en desarrollo - última actualización 14:32
Te puede interesar
