Categoría: Legal AI

Por Daniel Monastersky – www.danielmonastersky.com

Son las once y media de la noche. Una analista financiera todavía está en la oficina. Tiene un reporte que entregar mañana a primera hora, una hija que la espera en casa, y una planilla cruda con datos de clientes que no termina de cerrar. Abre ChatGPT en su navegador personal, copia la base completa —nombres, DNIs, montos, mails— y escribe: “Hacé un resumen agrupado por provincia y dame los tres clientes más rentables de cada zona.”

En dos segundos, tiene el reporte. Cierra la pestaña. Apaga la luz. Se va a su casa.

No hizo nada que considere mal. Trabajó más rápido para llegar antes. Es exactamente lo que vos le pedirías que haga.

Y sin embargo, esa noche, sin firmar nada, sin que nadie lo sepa, sin que ningún sistema de seguridad lo registre, los datos personales de cientos de clientes de tu empresa cruzaron una frontera. Quedaron en un servidor del hemisferio norte, fuera de tu alcance, fuera de tu control, fuera de tu jurisdicción. Pueden ser usados para entrenar un modelo. Pueden ser leídos por alguien en una revisión de calidad. Pueden quedar expuestos en la próxima brecha de seguridad del proveedor.

No los vas a poder recuperar nunca.

Esa empleada no es desleal. No es negligente. Es buena en lo que hace. Y es, sin saberlo, el vector de uno de los riesgos más serios que tu empresa enfrenta hoy.

Tiene nombre. Se llama Shadow AI.

No es ella sola

Pensá en todas las personas que confían en vos para hacer bien su trabajo. La abogada del estudio que pegó las cláusulas del contrato confidencial en una IA para que se las “redactara más claro”. El reclutador que subió treinta CVs con datos personales para que el chatbot se los resumiera. La secretaria del consultorio que cargó el listado de pacientes para armar una planilla. El contador que pegó el balance no publicado para pedirle al modelo que detecte inconsistencias.

Cada uno con buena intención. Cada uno apurado. Cada uno convencido de que no estaba haciendo nada raro.

Y ninguno de ellos te lo va a contar. No porque te quieran esconder algo, sino porque no lo perciben como algo digno de mencionar. “Le pasé unos datos a ChatGPT para que me ayude con un informe.” Lo dicen como quien cuenta que usó Excel.

Mientras tanto, en tu empresa hay datos saliendo todos los días, por todos los puestos de trabajo, sin que ningún tablero los registre.

Eso es lo que da más miedo: que no lo veas.

Lo que no se puede deshacer

Hay algo de la era digital a lo que todavía no nos terminamos de acostumbrar: hay errores que no se pueden corregir.

Cuando un empleado manda un mail con un archivo adjunto al destinatario equivocado, podés llamar al destinatario y pedirle que lo borre. Si filtraste un dato a la prensa, podés intentar bajarlo. Si dejaste una carpeta abierta en la nube, podés cerrarla.

Pero cuando un dato entra en una IA pública, no hay forma de sacarlo. No hay un botón de “deshacer”, no hay un derecho al olvido aplicable, no hay un contrato que ampare lo que se entregó sin haberlo firmado. El dato está. En algún lado. Para algún uso. Y vos no vas a saber dónde, ni para qué, ni quién lo va a ver.

Ese es el costo silencioso. No el escándalo del día siguiente. La incertidumbre permanente sobre qué se fue, cuándo se fue, y qué va a hacer con eso quien lo encuentre.

La pregunta que nadie quiere hacerse

Imaginate por un momento que mañana te llama un cliente importante. Está enojado. Sus datos aparecieron en algún lado y quiere saber cómo pasó. Vos no tenés idea de cómo pasó. Tu equipo de sistemas tampoco. No hay un log de seguridad que muestre una brecha, no hay un mail con un adjunto sospechoso, no hay un acceso indebido al servidor. Todo lo que tenés es la certeza de que algo se filtró y la nada absoluta sobre cómo.

Ahora imaginate la siguiente llamada: la del regulador, preguntándote qué medidas tomaste para proteger esa información. La del socio comercial, preguntándote si los términos que negociaron con tanto cuidado terminaron siendo entrenamiento gratis para alguien. La de tu equipo legal, explicándote que ese secreto industrial que protegías como un activo estratégico ya no puede ser considerado secreto, porque dejaste de tomar las medidas razonables para protegerlo.

Ninguna de esas llamadas empieza con un hackeo. Todas empiezan con un empleado bien intencionado que solo quería trabajar más rápido.

Por qué pasa

La verdad incómoda es esta: tus empleados van a usar inteligencia artificial. Ya la están usando. Y no porque sean rebeldes ni descuidados, sino porque la presión por producir más, más rápido, con los mismos recursos, no para de subir.

Si tu empresa no les da una herramienta de IA aprobada, segura y útil, ellos van a usar la que tienen a mano. La gratuita. La que pueden abrir desde el celular sin pedir permiso. La que les ahorra dos horas de trabajo y les permite llegar a la casa antes de que se duerma el hijo.

Esto no se resuelve con un email de la dirección diciendo “no usen ChatGPT”. Eso ya lo intentaron muchas empresas. El resultado es siempre el mismo: el empleado pasa a usarlo desde el teléfono personal, fuera del Wi-Fi corporativo, y la organización pierde lo último que le quedaba: la visibilidad.

Prohibir sin ofrecer alternativa no elimina el problema. Lo hace invisible. Y un problema invisible es exactamente lo que está creciendo, ahora mismo, en tu empresa.

Lo que sí se puede hacer

Acá viene la parte que importa, porque sí hay una salida y no es complicada de empezar.

El primer paso es ver. Mapear, sin prejuicio y sin sanción inicial, qué herramientas se están usando, para qué tareas, con qué tipo de datos. Esto no se hace con un firewall: se hace con conversación, encuestas anónimas, análisis técnico, y la decisión política de querer saber la verdad.

El segundo paso es ordenar. Definir, en lenguaje claro y sin manuales de cien páginas, qué se puede usar y qué no, qué tipo de información puede tocar una IA externa y cuál nunca. Tres listas, no treinta páginas.

El tercer paso es habilitar. Si tus empleados necesitan IA para trabajar, dales una IA segura. Hay opciones empresariales que cuestan una fracción de lo que sale una sola filtración, y que cambian completamente la ecuación del riesgo.

El cuarto paso es formar. Una vez. Bien. Con ejemplos reales. No con un PDF que nadie lee.

Y el quinto paso es el más incómodo: aceptar que esto no es un proyecto que se hace y termina. Es una práctica que se sostiene. El ecosistema de IA cambia todas las semanas. Lo que hoy es seguro mañana puede no serlo. Lo que hoy es marginal mañana es masivo.

No se trata de paranoia. Se trata de no quedar afuera de una conversación que ya está pasando dentro de tu propia empresa.

Dónde entramos nosotros

En Data Governance Latam trabajamos exactamente este problema. Lo vemos todos los días, en empresas de todos los tamaños, en todos los rubros. Y aprendimos algo importante: nadie se entera de su Shadow AI hasta que alguien lo ayuda a verlo.

Por eso armamos un servicio específico para esto. Empezamos por una auditoría confidencial que mapea el uso real de IA dentro de tu organización —sin sanciones, sin acusaciones, sin generar miedo en el equipo. Después diseñamos con vos la política de uso responsable, adaptada a tu industria, a tu marco regulatorio y a las herramientas que tu gente necesita usar. Te ayudamos a elegir y desplegar las plataformas empresariales seguras. Y formamos a tus equipos con casos reales para que la cultura cambie de verdad.

No vendemos miedo. Te acompañamos a salir del miedo.

La última imagen

Volvé por un momento a la analista del principio. La del reporte, la que cerró la pestaña y se fue a su casa pensando que había hecho un buen trabajo. Ella es tu mejor empleada. La que te ahorra horas, la que entiende tu negocio, la que no se queja, la que entrega. La querés tener.

El problema no es ella. El problema es que está sola, sin política, sin herramienta, sin formación, frente a una tecnología que va más rápido que cualquier comité interno. Tu mejor empleada está expuesta, y por estar expuesta ella, también lo estás vos.

La buena noticia es que esto se puede ordenar antes del incidente. La mala es que el momento de hacerlo es ahora, no después de la llamada del cliente enojado.

Por Daniel Monastersky – www.danielmonastersky.com

Para quienes no la siguen: Floppy Tesouro es modelo y figura mediática argentina, con presencia continua en televisión desde hace más de quince años. Pasó por Showmatch, Bailando por un Sueño, paneles, realities y campañas publicitarias, y construyó —como tantas figuras de su rubro— una comunidad de seguidores que la siguen en redes sociales y le prestan atención cuando recomienda algo. Esa atención es, hoy, su capital de trabajo. Y ese capital es precisamente lo que una marca le tomó sin permiso.

La historia es sencilla de contar. Una empresa que vende nebulizadores tomó una selfie que Floppy había publicado en sus redes —se la ve en un ascensor, vestida de blanco, levantando el celular para fotografiarse en el espejo— y, mediante inteligencia artificial, le insertó en la mano libre un nebulizador portátil. La imagen resultante se difundió como si Floppy estuviera mostrando, recomendando o avalando el producto. Nunca lo hizo. Nunca firmó contrato. Nunca cobró. Nunca supo, hasta que la imagen empezó a circular y alguien se lo avisó. Cuando la modelo se quejó públicamente, la marca dio de baja sus redes sociales y, según ella misma contó, le pidió disculpas privadas con el argumento de que “no tomaron dimensión”.

El detalle no es menor: un nebulizador no es una crema corporal. Es un dispositivo médico regulado por ANMAT. La supuesta recomendación de Floppy, además de inventada, opera sobre un producto vinculado a la salud, lo que multiplica el reproche por todos lados.

El caso no es excepcional. Es la regla.

Sería un error tratar esto como una rareza de la farándula. La manipulación de imágenes de personas conocidas para vender cosas que nunca avalaron es, hoy, una industria. Las plataformas de Meta —Facebook e Instagram— están saturadas de anuncios que usan caras de figuras públicas argentinas e internacionales, generadas con IA o editadas con herramientas de fotomontaje, para promocionar criptomonedas truchas, suplementos para adelgazar, productos para potencia sexual o cursos de inversión milagrosos. Mercado Libre ha tenido que dar de baja, de manera reiterada, publicaciones donde se atribuyen recomendaciones falsas a deportistas y conductores. En el exterior, Tom Hanks denunció el año pasado un aviso de cobertura odontológica en Estados Unidos que usaba su rostro sin permiso; Scarlett Johansson hizo lo propio cuando una app de IA usó una voz parecida a la suya en una campaña; y a Taylor Swift le fabricaron imágenes íntimas sintéticas que recorrieron las redes durante días antes de ser bajadas.

El patrón es siempre el mismo. Alguien identifica una cara con poder de venta. Una herramienta de IA produce, en minutos y por monedas, una versión falsa de esa persona haciendo lo que el anunciante quiere que haga. La pieza circula. Los usuarios, que confían en quien aparece, hacen clic. Para cuando el reclamo legal llega, la campaña ya cumplió su objetivo y la cuenta del anunciante desapareció. Floppy tuvo la suerte —y los recursos— de detectar el caso a tiempo y mover una denuncia. La gran mayoría de las personas afectadas, famosas o no, ni se enteran.

Lo que se rompe, capa por capa

El derecho argentino tiene varias respuestas para esta conducta, y conviene revisarlas porque rara vez se aplica solo una.

Derecho a la propia imagen. El artículo 53 del Código Civil y Comercial exige consentimiento para captar o reproducir la imagen de una persona, salvo excepciones de interés público, científico, cultural o educativo. La promoción de un nebulizador no entra en ninguna excepción. El artículo 31 de la Ley 11.723 de Propiedad Intelectual, vigente desde 1933, exige también consentimiento expreso para el uso comercial del retrato fotográfico. Falta el consentimiento. La infracción se configura sola.

Protección de datos personales. La Ley 25.326 considera dato personal toda información referida a una persona identificable. Una fotografía donde alguien es reconocible cumple esa definición sin discusión, y así lo viene sosteniendo la Agencia de Acceso a la Información Pública en sus dictámenes. El tratamiento de ese dato sin base legal —ni consentimiento, ni interés legítimo, ni ninguna otra— viola los artículos 4, 5 y 11 de la ley, con sanciones administrativas a cargo de la AAIP. Cuando la imagen se asocia a un producto médico y sugiere una condición de salud, la protección se eleva al régimen reforzado de datos sensibles del artículo 7.

Defensa del consumidor y lealtad comercial. La Ley 24.240 prohíbe inducir a error al consumidor sobre las características o avales de un producto (artículos 4 y 8). La Ley 22.802 de Lealtad Comercial sanciona la publicidad engañosa. Un consumidor que ve a una figura conocida sosteniendo el nebulizador puede creer razonablemente que ella lo respalda. Esa creencia, falsa, es la que mueve la decisión de compra. Hay engaño. Hay daño. Hay responsabilidad.

Materia penal. Si la marca obtuvo dinero de consumidores que creyeron en el aval inexistente, el artículo 172 del Código Penal (estafa) está disponible para discusión: hay ardid, hay error, hay disposición patrimonial. El artículo 173 inciso 16, incorporado por la Ley 26.388 de Delitos Informáticos, sanciona la defraudación mediante manipulación informática. Una IA generativa que inserta un objeto en la imagen de una persona y la difunde con fines comerciales es, literalmente, manipulación informática. Y la Ley 26.529 de Derechos del Paciente, sumada a las regulaciones de ANMAT sobre publicidad de productos médicos, agrega otra capa de irregularidad: la promoción de dispositivos sanitarios requiere autorización previa que en este caso, evidentemente, no existió.

Código Contravencional de la Ciudad de Buenos Aires. La Ley 1472 ofrece dos puertas de entrada para este caso. Por un lado, las figuras tradicionales de oferta engañosa y suministro de información falsa al consumidor, que habilitan la intervención de la Dirección General de Defensa y Protección del Consumidor de CABA cuando la publicidad circuló en el ámbito local. Por otro —y es la puerta que mejor encuadra en lo ocurrido—, el artículo 77, incorporado por la Ley 6128 de 2018 dentro del nuevo capítulo de Identidad Digital de las Personas, tipifica la suplantación digital de la identidad. La norma sanciona a quien utiliza la imagen de una persona o crea una identidad falsa con su imagen mediante cualquier medio electrónico, sin su consentimiento, siempre que el hecho no constituya delito. La descripción típica calza con precisión sobre lo que ocurrió: se tomó la imagen de Floppy, se la combinó con un producto para construir la apariencia de que ella lo recomendaba, y todo se difundió por canales electrónicos sin su consentimiento.

Daño civil. El artículo 52 del Código Civil y Comercial protege la imagen como derecho personalísimo, junto con el honor, la intimidad y la identidad. La indemnización por daño moral y patrimonial está reglada en los artículos 1737, 1738 y 1741. La acción procede aunque no haya intención de dañar: alcanza con haber usado la imagen sin consentimiento.

El espejo europeo

Si el mismo episodio hubiera ocurrido en cualquier Estado miembro de la Unión Europea, el Reglamento General de Protección de Datos (GDPR) sería el primer instrumento en aplicarse. El artículo 4.1 incluye la imagen identificable dentro de la definición de dato personal. El artículo 6 exige una base de licitud para tratar ese dato, base que aquí no existía. El artículo 9 protege con un régimen reforzado los datos relativos a la salud, categoría a la que la imagen se acercaba por el contexto del producto. El artículo 5 consagra el principio de exactitud: una imagen alterada por IA para sugerir un acto que no ocurrió viola ese principio de manera estructural. Y el Reglamento de Inteligencia Artificial de la Unión Europea, aprobado en 2024, obliga a etiquetar de forma clara los contenidos generados o manipulados por IA, en particular los deepfakes con fines comerciales. La multa potencial, en el régimen europeo, puede alcanzar hasta el 4% de la facturación anual global de la empresa o veinte millones de euros, lo que sea mayor.

El problema no es solo la marca. Es el modelo.

Detrás de cada caso como el de Floppy hay una pregunta que la sociedad argentina viene esquivando: la publicidad de influencers, tal como funciona, ¿es regulable o es directamente incompatible con la protección al consumidor?

El marketing de influencers se construyó, desde su origen, sobre una ambigüedad calculada entre opinión personal y publicidad paga. Esa ambigüedad es su modelo de negocio. Si el consumidor distinguiera con claridad cuándo le están vendiendo y cuándo le están recomendando, la herramienta perdería efectividad y, por lo tanto, valor. La IA simplemente lleva esa lógica un paso más allá: si el negocio consiste en producir confianza simulada, ¿para qué contratar a la persona real cuando una máquina puede fabricar la simulación directamente?

Mientras la discusión normativa argentina sigue centrada en exigir hashtags de identificación (#publicidad, #ad, #colaboración) que casi nadie lee y casi nadie controla, países como Francia y España avanzaron en marcos más exigentes que incluyen registros públicos de influencers, prohibiciones específicas para productos sanitarios y financieros, y responsabilidad solidaria de las plataformas.

No se trata de criminalizar a quienes trabajan en redes ni de impedir que las marcas se comuniquen con el público. Se trata de reconocer que un sistema construido sobre la confusión entre testimonio personal y contrato comercial es estructuralmente vulnerable al fraude, y que cuando la IA generativa entra en escena, esa vulnerabilidad pasa de problema teórico a problema masivo. El caso Floppy es un caso visible. Por cada caso visible hay decenas que no llegan a los medios: profesionales cuyas fotos de LinkedIn aparecen en anuncios de cursos truchos, médicos que se enteran de que su cara promociona un suplemento que jamás recetarían, docentes que descubren su imagen vinculada a un instituto educativo del que nunca fueron parte.

La pregunta no es si Floppy va a ganar la causa. Probablemente la gane. La pregunta es cuántos casos parecidos están ocurriendo en este mismo momento, sin denuncia, sin reparación y sin que el sistema regulatorio argentino tenga herramientas suficientes para detenerlos.