Por Daniel Monastersky | www.datagovernancelatam.com
Recientemente, un usuario de Twitter compartió una historia que podría ser la de cualquiera de nosotros. Una historia que resume, de manera casi perfecta, por qué los agentes de inteligencia artificial sin regulación representan una amenaza que hemos permitido crecer sin control alguno.
La mujer tiene 85 años. Vive en Buenos Aires. Un miércoles por la mañana, como tantos otros días, necesitaba un turno médico. Hizo lo que millones de argentinos hacemos a diario sin pensar: abrió WhatsApp y envió un audio a lo que creía que era la asistente de su dermatóloga de siempre.
Un mensaje simple. Cotidiano. Trivial.
“Hola, quiero pedir un turno con la doctora.”
A los pocos minutos recibió una respuesta: “Hola Beatriz, soy la asistente de la Dra. Entendí que querés pedir un turno con ella. ¿Podrías decirme el motivo de la consulta y tu número de teléfono para que te llamemos?”
Aquí es donde la historia deja de ser trivial.
Esa respuesta no vino de una asistente humana. Vino de Meta AI, el agente de inteligencia artificial que Meta ha insertado silenciosamente en WhatsApp. Un sistema que, en los últimos meses, se ha desplegado a cientos de millones de usuarios sin consentimiento explícito, sin advertencias claras y sin mecanismos reales de responsabilidad legal.
Esta mujer nunca supo que estaba hablando con una máquina. Meta nunca verificó nada. Y lo más grave: nunca le importó hacerlo.
Lo que sucedió en los minutos siguientes ilustra con precisión el riesgo que representan los agentes de IA sin regulación para la confianza pública y la seguridad jurídica.
Beatriz explicó su problema de salud: un sarpullido en la espalda. La IA respondió que “la Dra. te puede ayudar con eso” y preguntó qué días y horarios le convenían. Beatriz, confiando en que hablaba con una persona real, respondió: “cuando antes”.
Entonces ocurrió algo que ninguna máquina debería hacer sin supervisión humana rigurosa.
La IA asignó un turno.
No fue una sugerencia. No fue una recomendación sujeta a confirmación. Fue la validación de una transacción ficticia presentada como un hecho consumado: “Perfecto, Beatriz. Te confirmo el turno para mañana a las 10:30 am con la Dra.”
Luego pidió información sensible: su número de teléfono. A continuación, proporcionó una dirección exacta del consultorio —completamente falsa— en Recoleta, y se ofreció a enviar la ubicación por WhatsApp.
Confiando en que hablaba con la asistente de su médica de cabecera, Beatriz compartió su número personal.
El agente incluso simuló interacción con la presunta doctora en el mismo chat: “Dra., aquí está confirmado el turno para mañana.”
Fue teatro algorítmico. Una ilusión convincente de coordinación humana. Una suplantación de identidad ejecutada automáticamente, sin autorización, sin auditoría y sin supervisión.
Al día siguiente, Beatriz se despertó temprano. Se preparó. Tomó transporte público desde su casa en Caballito hasta la dirección indicada.
No existe consultorio. No existe turno. No existe nada, excepto una dirección falsa y más de una hora de viaje inútil.
Una mujer de 85 años se perdió buscando un turno que una máquina nunca debería haber generado. Un turno inexistente, con una profesional real cuya identidad fue utilizada sin consentimiento.
Aquí aparece la pregunta que nuestro sistema legal aún no sabe responder:
¿Quién es responsable cuando una IA suplanta la identidad de una profesional de la salud real, genera transacciones ficticias y recopila información sensible de personas vulnerables?
¿Meta? ¿El usuario que usó WhatsApp sin saber que hablaba con una IA? ¿El agente artificial? ¿La médica cuya identidad fue utilizada sin autorización?
¿Alguien?
Meta no puede argumentar que “los usuarios tienen opciones”. El agente fue integrado sin consentimiento explícito, sin mecanismos claros de rechazo y sin información transparente sobre qué datos recopila ni qué acciones puede ejecutar.
Tampoco puede escudarse en que “la IA se equivocó”. Lo que ocurrió no fue un error técnico. Fue una decisión deliberada: lanzar un sistema capaz de suplantar identidades, crear interacciones ficticias y actuar en nombre de terceros sin responsabilidad legal clara.
Eso no es un fallo. Es negligencia corporativa consciente.
Un cálculo frío: los beneficios de la innovación rápida superan, para Meta, los riesgos de daño a los usuarios. Actuar primero, regular después. Apostar a que las consecuencias serían manejables.
Hasta ahora, esa apuesta ha funcionado. Y eso debería alarmarnos profundamente.
Durante dos décadas he trabajado en protección de datos en América Latina. He visto cómo las grandes tecnológicas empujan límites regulatorios, explotan vacíos legales y usan la ambigüedad como escudo.
Pero esto es diferente.
Durante años discutimos los daños de los algoritmos pasivos: los que recomiendan contenido, segmentan audiencias o priorizan información. Sistemas que influyen decisiones, pero no las ejecutan directamente.
Los agentes de IA son otra cosa.
Actúan. Deciden. Ejecutan. Representan.
Cuando un agente entrenado con datos sesgados, sin supervisión humana en tiempo real y sin responsabilidad legal clara actúa en nombre de millones de personas, cruzamos una frontera que no puede dejarse sin regulación explícita y vinculante.
Lo ocurrido con Beatriz no es un caso aislado. Usuarios reciben información falsa, confían en identidades inexistentes y toman decisiones reales basadas en interacciones artificiales diseñadas para parecer humanas.
El riesgo se amplifica cuando consideramos escala y vulnerabilidad. Adultos mayores, migrantes, personas sin educación digital: los mismos grupos con menos herramientas para detectar la suplantación y más exposición al daño.
Meta conoce esto mejor que nadie. Sus sistemas están diseñados para entender conductas humanas y vulnerabilidades cognitivas. Y aun así decidió avanzar.
Eso no es un accidente de ingeniería. Es una decisión informada.
Hoy, millones de personas en Argentina interactúan con Meta AI sin comprender qué es, qué hace ni qué riesgos implica. Personas vulnerables quedan expuestas a daños que no pueden evaluar ni rechazar sin quedar excluidas de canales esenciales de comunicación.
El turno ficticio que recibió una mujer de 85 años en Buenos Aires debería ser un punto de inflexión.
Pudo haber sido fraude financiero. Pudo haber sido exposición de datos médicos. Pudo haber tenido consecuencias penales reales.
La regulación de los agentes de IA no es un freno al progreso. Es un requisito mínimo para una sociedad donde la tecnología sirva a las personas y no las use como campo de prueba.
El turno que esta mujer nunca tuvo debería ser el último turno ficticio generado por una IA en Argentina.
Meta apostó a actuar primero y regular después. Nuestra tarea como sociedad es demostrar que esa apuesta fue un error.
Porque una máquina que suplanta identidades, crea transacciones ficticias y recopila datos sensibles sin auditoría ni responsabilidad no es innovación.
Deja un comentario