Etiqueta: Ai Privacy

Cuando los motores de búsqueda tradicionales dominaban la visibilidad digital, las empresas podían auditar su posicionamiento con herramientas estándar. Con los grandes modelos de lenguaje (LLMs) como punto de consulta, ese tablero de puntuación desapareció: no hay ranking visible, no hay índice público, no hay certeza sobre qué dice un modelo cuando un usuario pregunta por tu categoría o tu marca.

El problema tiene nombre propio en el ecosistema de inteligencia artificial aplicada al negocio: LLM visibility audit, o auditoría de visibilidad en modelos de lenguaje. La práctica consiste en medir sistemáticamente cómo —y con qué frecuencia— un LLM menciona, describe o posiciona a una organización, producto o concepto cuando recibe preguntas relevantes de un usuario. No es SEO. No es brand monitoring. Es una disciplina nueva que mezcla evaluación de modelos, ingeniería de prompts y análisis cualitativo de outputs.

Por qué los LLMs cambian las reglas del juego para cualquier empresa con presencia digital

Hasta hace poco, la visibilidad online era medible: impresiones, clics, posiciones en SERP, menciones en redes. Los LLMs generativos introducen una capa opaca entre el dato y el usuario. Cuando alguien le pregunta a un chatbot “¿cuál es la mejor solución de observabilidad de datos?” o “¿qué herramientas usan los equipos de datos en Latinoamérica?”, el modelo produce una respuesta sintetizada a partir de su entrenamiento —sin revelar fuentes, sin ordenar resultados, sin ofrecer transparencia sobre por qué menciona a ciertos actores y omite a otros. Para las empresas que compiten en mercados técnicos o de nicho, esa caja negra tiene consecuencias comerciales directas.

El fenómeno no es trivial: analistas de Gartner proyectaron que para 2026 el tráfico orgánico a sitios web caerá hasta un 25% en sectores donde los LLMs respondan consultas de forma directa. Si el modelo no te menciona, simplemente no existís para ese usuario en ese momento de decisión.

Cómo se estructura una auditoría de visibilidad en LLMs: cinco capas de análisis

Una auditoría rigurosa no consiste en preguntarle al modelo “¿conocés a tal empresa?” y anotar el resultado. Requiere un protocolo reproducible que opere sobre al menos cinco dimensiones:

• Frecuencia de mención: qué porcentaje de prompts relevantes al mercado generan una referencia a la organización auditada, sobre un conjunto de cientos o miles de consultas representativas.
• Posición en la respuesta: si el modelo menciona a la empresa, ¿lo hace en primer lugar, en una lista, como alternativa secundaria o en un contexto negativo?
• Exactitud factual: los modelos alucinen con regularidad. Parte de la auditoría consiste en comparar lo que el LLM afirma sobre una organización con lo que es verificablemente cierto: fundación, producto, clientes, geografías.
• Cobertura de categoría: cuando el modelo define la categoría de mercado a la que pertenece la empresa, ¿la define correctamente? ¿La empresa aparece como referente o como entrante tardío?
• Varianza entre modelos: GPT-4o, Claude, Gemini y Llama tienen datasets de entrenamiento y fechas de corte distintos. La misma consulta puede generar respuestas radicalmente diferentes entre modelos.

Cuándo aplica una auditoría de visibilidad en LLMs — y cuándo NO

Esta práctica es relevante cuando una organización compite en mercados donde los tomadores de decisión usan LLMs como primer punto de investigación: software B2B, consultoría tecnológica, servicios financieros especializados, salud digital. No aplica, o aplica con menor urgencia, para negocios cuyo canal de adquisición es completamente independiente de la búsqueda informacional —ventas directas de campo, marketplaces con algoritmo propio, o marcas de consumo masivo donde la intención de compra no pasa por preguntas abiertas a un chatbot. Tampoco reemplaza la auditoría SEO tradicional: ambas miden canales distintos que coexisten.

El desafío técnico-legal que llega a LATAM: opacidad de modelos y derechos de rectificación

En América Latina, la auditoría de visibilidad en LLMs abre una dimensión jurídica que todavía no tiene respuesta clara. Si un modelo afirma algo factualmente incorrecto sobre una empresa o sobre una persona —que una compañía tiene sede en un país distinto, que un profesional fue sancionado cuando no lo fue— ¿quién responde y bajo qué marco? En Brasil, la Lei Geral de Proteção de Dados (LGPD) reconoce el derecho de rectificación de datos inexactos en su artículo 18, inciso III, pero su aplicación sobre outputs de modelos generativos es un territorio sin jurisprudencia consolidada. En Argentina, la Ley 25.326 contempla el derecho de rectificación y actualización de datos personales, con supervisión de la Agencia de Acceso a la Información Pública (AAIP); sin embargo, la AAIP no ha emitido hasta la fecha lineamientos específicos sobre LLMs. México, a través del INAI, enfrenta la misma laguna regulatoria.

El AI Act de la Unión Europea, aplicable a sistemas de IA de alto riesgo, exige documentación sobre los datos de entrenamiento y mecanismos de supervisión humana, lo que teóricamente permitiría auditar la fuente de una mención incorrecta. Para empresas latinoamericanas que operan o aspiran a operar en el mercado europeo, ese estándar empieza a ser una referencia práctica incluso antes de que exista legislación regional equivalente.

Tres pasos para iniciar una auditoría de visibilidad sin infraestructura especializada

No hace falta una plataforma dedicada para comenzar. Un equipo de datos con acceso a las APIs de los principales modelos puede construir un protocolo básico en semanas. El primer paso es definir el universo de consultas: entre 200 y 500 prompts que representen las preguntas reales que un comprador, periodista o investigador haría sobre la categoría. El segundo paso es ejecutar esas consultas de forma sistemática —automatizada vía API, no manual— y registrar los outputs en una estructura comparable. El tercer paso es codificar los resultados: mención positiva, mención neutral, mención negativa, ausencia, error factual. Con esa matriz, es posible calcular una métrica de visibilidad baseline y repetir el proceso cada vez que los modelos publiquen nuevas versiones o actualizaciones de entrenamiento.

Para quienes diseñan estrategias de posicionamiento de marca o de producto en mercados técnicos, la pregunta ya no es si los LLMs influyen en la percepción —es si sus organizaciones tienen algún instrumento para saberlo antes de que el daño sea visible en pipeline.

Cuando Insilico Medicine anunció que su plataforma de inteligencia artificial había “descubierto” una molécula candidata para tratar la fibrosis pulmonar, abrió sin quererlo un debate jurídico que va mucho más allá del marketing farmacéutico: si una IA diseña un fármaco, ¿a quién pertenece ese hallazgo y quién responde si falla?

La atribución de autoría en ciencia siempre fue complicada. Pero la irrupción de sistemas de inteligencia artificial generativa en el descubrimiento de fármacos agrega una capa de ambigüedad que los marcos legales vigentes —pensados para inventores humanos— no resuelven con claridad. El caso de Insilico Medicine, que usó sus modelos computacionales para proponer una molécula prometedora contra la fibrosis pulmonar, ilustra exactamente esa tensión: la empresa no dudó en atribuirle a su IA el rol de descubridora, una afirmación con consecuencias directas sobre patentes, responsabilidad civil y regulación sanitaria.

Patentes sin inventor humano: el límite que ya se está probando en tribunales

El sistema de patentes fue diseñado bajo un supuesto que hoy tambalea: que detrás de cada invención hay una persona física. En Estados Unidos, la Corte de Apelaciones del Circuito Federal resolvió en 2022 que el sistema DABUS —desarrollado por Stephen Thaler— no podía figurar como inventor en una solicitud de patente porque la ley exige que el inventor sea humano. El Reino Unido llegó a la misma conclusión por la vía del Supremo en 2023. La pregunta que queda abierta es cuánto cambia la ecuación cuando la IA no figura como inventora pero es la que, en los hechos, genera la hipótesis central del compuesto.

Insilico y otras empresas del sector —Exscientia, Recursion, Absci— posicionan a sus plataformas como co-diseñadoras o aceleradoras del proceso de descubrimiento. Desde el punto de vista de la estrategia de propiedad intelectual, esa distinción importa: si la IA “descubre” y el humano solo valida, la solidez jurídica de la patente puede cuestionarse por insuficiencia inventiva humana. Si el humano es quien dirige y la IA es una herramienta sofisticada —equivalente a un espectrómetro de masas muy avanzado—, la patente se sostiene. El lenguaje del press release, entonces, no es inocente.

Responsabilidad downstream: quién responde cuando el fármaco falla en fase clínica

La atribución de crédito no es solo una cuestión de ego corporativo o relaciones públicas. Tiene un correlato directo en la cadena de responsabilidad. Si un compuesto propuesto por IA llega a ensayos clínicos y genera efectos adversos imprevistos, los marcos de responsabilidad vigentes necesitan identificar un responsable: ¿el desarrollador del modelo, la empresa farmacéutica que lo adoptó, el equipo científico que validó la hipótesis, o el organismo regulador que habilitó el ensayo? La respuesta depende en parte de cómo se documentó la participación de la IA en cada etapa del proceso.

Este problema no es teórico. La FDA de Estados Unidos ya publicó lineamientos preliminares sobre el uso de inteligencia artificial y machine learning en el desarrollo de dispositivos médicos, y está trabajando en marcos similares para el proceso de aprobación de nuevos fármacos. La EMA europea sigue una trayectoria paralela. La pregunta es si la atribución narrativa —lo que una empresa dice en un comunicado— puede tener efectos jurídicos en un litigio posterior sobre daños.

El AI Act europeo y la clasificación de riesgo en aplicaciones biomédicas

El Reglamento de Inteligencia Artificial de la Unión Europea (AI Act, Reglamento UE 2024/1689) clasifica como sistemas de alto riesgo a aquellos usados en el ámbito de la salud cuando toman o influyen decisiones relevantes. Un sistema de IA que propone moléculas para uso terapéutico humano califica, en principio, dentro de esa categoría: exige documentación técnica exhaustiva, supervisión humana verificable y trazabilidad de las decisiones del modelo. Eso significa que “la IA lo descubrió” no puede ser el final del relato regulatorio —tiene que haber un humano que pueda explicar, auditar y asumir la decisión.

Cuándo aplica este debate / cuándo NO

El conflicto de atribución se vuelve jurídicamente relevante cuando el output de la IA es la hipótesis central de una solicitud de patente, cuando el compuesto avanza hacia ensayos en humanos, o cuando la empresa hace afirmaciones públicas sobre la autoría del sistema. No aplica con la misma intensidad cuando la IA funciona como herramienta de cribado masivo (virtual screening) dentro de un proceso en el que el equipo científico genera y selecciona hipótesis de forma sustantiva. La distinción operativa —IA como autor versus IA como instrumento— es la que definirá los casos que lleguen a litigio en los próximos años.

América Latina: marcos de IA en construcción, sector farmacéutico ya activo

En la región, el debate llega antes que los marcos regulatorios. Brasil avanza con el Projeto de Lei 2.338/2023 sobre regulación de IA, que incluye disposiciones sobre sistemas de alto riesgo en salud pero no aborda específicamente la atribución de autoría inventiva a sistemas automatizados. Argentina no tiene legislación de IA aprobada al cierre de esta nota, aunque el INPI —Instituto Nacional de la Propiedad Industrial— ya enfrenta solicitudes que implican procesos asistidos por IA. México, por su parte, tiene una industria farmacéutica de escala regional y un IMPI que todavía opera bajo los criterios tradicionales de inventiva humana contemplados en la Ley Federal de Protección a la Propiedad Industrial. Ninguno de los tres países tiene hoy una respuesta clara para la pregunta que Insilico planteó en su press release.

La presión llegará desde afuera hacia adentro: cuando una empresa extranjera intente patentar en México, Brasil o Argentina un compuesto cuyo origen sea un sistema de IA, las oficinas de propiedad industrial deberán decidir sin doctrina previa. Ese vacío no es neutral —favorece a quien primero defina el marco.

Para profundizar en el marco regulatorio europeo, el texto completo del AI Act está disponible en el Diario Oficial de la Unión Europea (DO L, 12 de julio de 2024); el Proyecto de Lei 2.338/2023 de Brasil puede consultarse en el sitio del Senado Federal.

Cuando dos ingenieros de OpenAI presentaron en Black Hat los detalles del incidente de Hugging Face, no esperaban que la respuesta más resonante viniera de una doctrina jurídica que precede a la computadora por más de un siglo: el bailment, o depósito legal anglosajón. La tesis, desarrollada por Jake L. Ramsey del estudio Offit Kurman, propone que la responsabilidad por brechas de datos en sistemas de inteligencia artificial puede —y debería— analizarse bajo la misma lógica con que el derecho común regula la entrega de bienes en custodia.

El bailment es una figura del common law que describe la relación jurídica que surge cuando una persona entrega un bien a otra para un fin específico, con obligación de devolución o uso conforme a lo pactado. El depositario —quien recibe el bien— asume deberes de cuidado proporcionales al beneficio que obtiene de esa custodia. Si el bien resulta dañado o perdido, la carga de la prueba se invierte: es el depositario quien debe demostrar que actuó diligentemente. Aplicado a datos: quien recibe información de terceros para entrenar o ejecutar un modelo de inteligencia artificial puede quedar, bajo esta lógica, en la posición del depositario.

El incidente de Hugging Face como caso de prueba para la doctrina

La presentación en Black Hat que sirvió de detonante fue protagonizada por dos ingenieros de OpenAI, quienes describieron el incidente de Hugging Face —plataforma central en el ecosistema de modelos abiertos— como un escenario con implicancias que van más allá del análisis técnico de vulnerabilidades. Según se informó, sus declaraciones subrayaron tanto la naturaleza del acceso no autorizado como la exposición de datos de terceros almacenados o procesados en la infraestructura de la plataforma. El artículo de Ramsey toma esas afirmaciones como punto de partida para argumentar que la relación entre quienes suben datasets o modelos a plataformas como Hugging Face y la propia plataforma encaja con los elementos constitutivos del bailment: entrega voluntaria, custodia ajena, finalidad determinada y deber de restitución o uso conforme.

El argumento tiene relevancia práctica inmediata: si un tribunal acepta el encuadre del bailment, la víctima de una brecha de datos no necesita probar negligencia específica. Basta con acreditar que entregó datos al custodio y que esos datos fueron comprometidos. La carga probatoria pasa entonces al proveedor de la plataforma, que debe demostrar haber ejercido el nivel de cuidado exigido por la relación de depósito.

Por qué la figura del depósito legal presiona a los proveedores de IA más que los marcos actuales

Los marcos regulatorios vigentes —desde el Reglamento General de Protección de Datos europeo hasta el AI Act— operan sobre la distinción entre responsable y encargado del tratamiento, con obligaciones contractuales y técnicas relativamente bien delimitadas. El bailment, en cambio, no requiere que los datos sean “personales” en sentido legal: aplica sobre cualquier bien entregado en custodia. Eso amplía potencialmente el universo de activos protegidos: modelos propietarios, conjuntos de datos no personales, embeddings, pesos de modelos finetuneados por terceros. Para los proveedores de infraestructura de IA —plataformas de hosting de modelos, entornos de entrenamiento en nube, repositorios colaborativos— la implicancia es que su exposición legal podría ser mayor que la derivada exclusivamente de la normativa de privacidad.

El debate también tiene consecuencias contractuales directas. Si los términos de servicio de una plataforma no contemplan explícitamente el estándar de cuidado aplicable a los datos y modelos depositados, un tribunal de tradición anglosajona podría inferirlo desde la doctrina del bailment, sin necesidad de que las partes lo hayan pactado. Eso convierte la redacción de cláusulas de responsabilidad en los contratos de servicios de IA en un ejercicio jurídico más complejo de lo que muchos equipos legales anticipan.

Cuándo aplica la doctrina del bailment sobre datos — y cuándo no

La doctrina, tal como existe en jurisdicciones de common law (Estados Unidos, Reino Unido, Australia, Canadá), no tiene equivalente directo en los sistemas de derecho civil continental que predominan en América Latina. En Argentina, Brasil, México, Colombia y Chile, la figura más próxima es el contrato de depósito o custodia regulado en los códigos civiles y comerciales, aunque sin la inversión automática de la carga probatoria que caracteriza al bailment. La analogía, sin embargo, no es irrelevante: los principios subyacentes —responsabilidad proporcional al control efectivo sobre el bien ajeno— informan el análisis de responsabilidad civil en cualquier sistema jurídico.

La doctrina no aplica cuando el proveedor de IA no actúa como custodio sino como mero procesador técnico sin acceso real a los datos, o cuando los datos nunca abandonan el entorno del propio titular. Tampoco aplica, en principio, sobre outputs del modelo —las respuestas generadas— sino sobre los inputs y parámetros entregados al sistema. Esa distinción es importante porque delimita qué tipo de activos quedan potencialmente bajo el estándar de cuidado del depositario.

La perspectiva desde América Latina: depósito civil, responsabilidad por riesgo y regulación de IA

En la región, el encuadre jurídico más cercano combina tres fuentes: el contrato de depósito del derecho civil, la responsabilidad objetiva por actividad riesgosa —reconocida en los códigos civiles de Argentina, Brasil y México— y, de forma incipiente, los marcos de gobernanza de inteligencia artificial que varios países están desarrollando. Brasil avanza con el Projeto de Lei 2.338/2023 de regulación de IA, que contempla responsabilidad diferenciada para sistemas de alto riesgo. Colombia publicó en 2023 su marco de ética e IA con lineamientos sobre gestión de riesgos para proveedores. Argentina, por su parte, trabaja en una propuesta de regulación de IA cuya discusión aún no tiene fecha de resolución legislativa confirmada.

Para los equipos legales y de gobernanza de datos en empresas latinoamericanas que utilizan plataformas internacionales de IA —ya sea para alojar modelos propios o para acceder a modelos de terceros— el argumento del bailment ofrece una señal de alerta concreta: los contratos con proveedores de infraestructura de IA deberían explicitar quién responde, con qué estándar de cuidado y bajo qué ley aplicable, antes de que un incidente lo defina un juez. La brecha entre lo que dicen los términos de servicio estándar y lo que una corte podría imponer bajo doctrinas como el bailment o la responsabilidad por actividad riesgosa es, hoy, sustancial.

El análisis completo de Jake L. Ramsey está disponible en el blog de Offit Kurman; la presentación de Black Hat sobre el incidente de Hugging Face constituye el punto de partida técnico para quienes quieran evaluar la cadena de hechos que motivó la discusión legal.

OpenAI anunció una política de retención cero de datos para clientes corporativos, en un movimiento que apunta directamente a reducir la ventaja competitiva de Anthropic en el segmento enterprise. La promesa central: los prompts y las respuestas no se almacenan una vez que la sesión termina. Pero el anuncio viene con una capa que merece atención: la compañía también presentó “Private Safety Processing”, un mecanismo de vigilancia automatizada de los inputs que, según informó la empresa, operaría de forma discreta.

La retención cero de datos —conocida en contratos de servicios cloud como zero data retention o ZDR— es una condición que los equipos legales y de privacidad de grandes organizaciones vienen exigiendo cada vez con más frecuencia al contratar modelos de lenguaje como servicio. Bajo este esquema, el proveedor se compromete a no guardar ningún dato transmitido durante la inferencia: ni el prompt del usuario, ni la respuesta del modelo, ni metadatos asociados a la consulta. Para sectores como salud, banca o servicios jurídicos, donde los prompts pueden contener datos sensibles de clientes o información protegida por secreto profesional, esta condición suele ser el umbral mínimo de negociación.

Qué significa “retención cero” y qué no cubre

Una política ZDR no equivale a ausencia total de procesamiento. Los datos aún transitan por la infraestructura del proveedor, son procesados por el modelo y pueden quedar expuestos a mecanismos intermedios de seguridad. Precisamente ahí entra en escena Private Safety Processing: según se informó, OpenAI incorpora un sistema automatizado que analiza los prompts con fines de moderación y seguridad, incluso bajo el esquema de retención cero. La empresa describe este procesamiento como discreto, lo que plantea una pregunta técnica y jurídica inmediata: ¿qué datos se procesan, por cuánto tiempo, con qué base legal y quién los controla?

Esta distinción importa porque en la mayoría de los marcos de protección de datos vigentes, el procesamiento sin almacenamiento permanente sigue siendo tratamiento de datos personales. La LGPD de Brasil, la Ley 25.326 de Argentina y la LFPDPPP de México exigen que cualquier operación sobre datos personales —incluyendo la simple lectura en memoria— cuente con una base legal habilitante, un propósito declarado y, en muchos casos, un contrato de encargado de tratamiento debidamente suscrito. Que los datos no se “guarden” en un disco no los saca del ámbito regulatorio.

Cuándo aplica la política ZDR y cuándo no

La retención cero es relevante cuando los prompts contienen datos personales de terceros, información confidencial protegida por ley o datos sujetos a regulación sectorial —expedientes médicos, datos financieros, información de menores. No aplica, o aplica con matices, cuando el modelo se usa para tareas internas sin datos sensibles, cuando el proveedor opera bajo un acuerdo de procesamiento de datos (DPA) que ya regula la retención, o cuando la organización despliega el modelo en infraestructura propia. En esos casos, la política ZDR es un plus comercial, no una salvaguarda regulatoria crítica.

También conviene distinguir entre retención cero en inferencia y retención cero en fine-tuning o entrenamiento. Los modelos personalizados con datos del cliente abren una categoría diferente de riesgos: los pesos del modelo podrían codificar, de forma difusa pero real, información presente en los datos de entrenamiento. Una política ZDR sobre inferencia no cubre ese vector.

El contexto competitivo: Anthropic lleva ventaja en el segmento legal y de salud

Anthropic construyó parte de su posicionamiento enterprise precisamente sobre compromisos de privacidad más estrictos que los de OpenAI, al menos en la percepción del mercado. Sectores como el legal, el financiero y el sanitario en Estados Unidos —y sus equivalentes en América Latina— eligieron Claude en parte por ese diferencial. El movimiento de OpenAI busca cerrar esa brecha, pero la credibilidad de un compromiso de privacidad no se establece solo con un anuncio: requiere cláusulas contractuales auditables, mecanismos de verificación independiente y, en jurisdicciones con autoridades de control activas, la posibilidad de que esas autoridades revisen el cumplimiento efectivo.

En América Latina, ese último punto es relevante. La Autoridad Nacional de Protección de Datos de Brasil (ANPD) ha avanzado en lineamientos sobre uso de inteligencia artificial con datos personales, y la Agencia de Acceso a la Información Pública de Argentina (AAIP) ha publicado criterios sobre tratamiento de datos en entornos de IA. Cualquier empresa de la región que evalúe adoptar OpenAI bajo política ZDR debería revisar si el DPA ofrecido por el proveedor es compatible con las exigencias locales de subencargados de tratamiento y transferencias internacionales.

El problema específico del “safety processing” discreto

El punto más delicado del anuncio no es la retención cero sino el procesamiento de seguridad que coexiste con ella. Si Private Safety Processing implica que un sistema automatizado analiza el contenido de los prompts —aunque sea para detectar usos prohibidos— esa operación debe estar declarada en la política de privacidad, en el DPA y, si los datos son personales, debe contar con base legal. “Seguridad del servicio” puede constituir un interés legítimo bajo GDPR o LGPD, pero no es automático: requiere un test de proporcionalidad y, en algunos casos, una evaluación de impacto (DPIA). Las empresas que asumen que retención cero equivale a privacidad total asumen demasiado.

Para los equipos jurídicos y de privacidad en LATAM que evalúan proveedores de IA, la pregunta correcta no es “¿ofrecen retención cero?” sino “¿qué datos procesan, durante cuánto tiempo, bajo qué base legal, y pueden acreditarlo ante una autoridad de control?”. Los documentos contractuales —no los anuncios de producto— son donde esa respuesta debe aparecer.

Anthropic y OpenAI publican reportes periódicos sobre cómo sus usuarios utilizan Claude y ChatGPT, pero investigadores en inteligencia artificial advierten que esos datos son curados por las propias empresas: no existe fuente independiente que los corrobore. La opacidad sobre los patrones reales de uso tiene implicancias directas para cualquier intento de regular estos sistemas.

Cada vez que una compañía de IA publica estadísticas de uso, el mensaje implícito es tranquilizador: los usuarios adoptan la tecnología para tareas productivas, creativas o educativas. Pero ese relato lo construyen las mismas empresas con los datos que deciden divulgar. Anka Reuel, candidata doctoral en el Stanford Trustworthy AI Research, lo sintetiza con precisión: “No existe una fuente independiente para corroborarlo”. Ese vacío no es un detalle metodológico menor — es una falla estructural en la gobernanza de los sistemas de inteligencia artificial más usados del mundo.

Autorregulación sin auditoría: el modelo actual de divulgación

El mecanismo de divulgación vigente en la industria funciona de manera simple: las empresas recopilan datos masivos sobre interacciones de sus plataformas, seleccionan los hallazgos que consideran relevantes o favorables, y los publican bajo la forma de reportes de transparencia o estudios de uso. No hay un tercero que acceda a los datos brutos, no hay protocolo estandarizado de reporte, y no hay obligación legal — en la mayoría de las jurisdicciones — de revelar métricas específicas sobre comportamiento de usuarios. El resultado es que el campo de estudio sobre el impacto real de la IA en la sociedad depende, paradójicamente, de la buena voluntad de los actores más interesados en que esa narrativa sea positiva.

El problema se profundiza porque los usos que no se reportan pueden ser los más relevantes desde el punto de vista de riesgo: generación de desinformación, asistencia en tareas con consecuencias legales o médicas sin supervisión profesional, o patrones de dependencia cognitiva. Sin acceso a datos desagregados y auditados, los investigadores deben construir sus propios estudios con muestras pequeñas, encuestas autoreportadas o experimentos de laboratorio que difícilmente capturan el comportamiento real a escala.

Cuándo esta opacidad viola un marco normativo — y cuándo no

La ausencia de datos verificables sobre uso de IA no es ilegal en la mayoría de los países, pero entra en tensión creciente con marcos regulatorios que exigen transparencia. El AI Act de la Unión Europea, vigente desde agosto de 2024, impone obligaciones de documentación técnica y registros de sistemas de IA de alto riesgo, y establece que los modelos de propósito general con impacto sistémico deben someterse a evaluaciones independientes. Sin embargo, la definición de qué datos de uso deben compartirse con reguladores — y en qué formato — sigue siendo objeto de negociación técnica en los actos delegados que la Comisión Europea todavía está terminando de redactar.

El AI Act no aplica directamente en América Latina, pero fija el estándar de referencia al que varios países de la región miran para construir sus propios marcos. En Brasil, el Proyecto de Ley 2.338/2023 — conocido como el PL de IA — incluye disposiciones sobre transparencia y auditoría de sistemas automatizados de alto impacto, aunque en sus versiones más recientes el alcance de las obligaciones de divulgación de datos de uso quedó acotado frente al texto original. En Argentina, la Estrategia Nacional de Inteligencia Artificial no establece obligaciones de reporte para proveedores de modelos fundacionales. Chile y Colombia avanzan con marcos voluntarios que, por definición, reproducen el mismo problema: las empresas reportan lo que quieren.

Por qué los datos de uso son centrales para la regulación efectiva

El debate sobre qué regular en IA depende, en gran medida, de entender qué hacen realmente los usuarios con estos sistemas. Si la mayoría de las interacciones de alto riesgo ocurren en dominios que las empresas no reportan — salud, asesoramiento legal informal, contenido generado para influir en decisiones electorales — entonces los marcos regulatorios que se construyan sin ese conocimiento serán, en el mejor caso, incompletos. Los reguladores latinoamericanos que hoy diseñan normativas sobre IA están trabajando con una información base que proviene casi exclusivamente de las empresas que buscan operar en sus mercados.

La situación tiene un paralelo con los primeros años de las redes sociales, cuando Facebook y Twitter controlaban los datos sobre propagación de contenido hasta que escándalos como Cambridge Analytica forzaron una apertura parcial y reluctante. La diferencia es que los modelos de lenguaje generan interacciones más íntimas, más difíciles de categorizar, y con consecuencias potencialmente más directas sobre decisiones individuales. Esperar un escándalo equivalente para obtener acceso a datos independientes sería una estrategia regulatoria costosa.

Alternativas que los reguladores pueden exigir ahora

La investigación independiente sobre uso de IA no requiere necesariamente acceso a datos en bruto con información personal de los usuarios — lo que crearía tensiones legítimas con marcos de protección de datos como la LGPD brasileña o la Ley 25.326 argentina. Existen mecanismos intermedios que algunos reguladores ya contemplan:

• Auditorías de terceros con acceso a datos anonimizados y agregados, bajo acuerdos de confidencialidad con supervisión regulatoria.
• Obligación de reportar categorías de uso definidas por la autoridad competente, no por la empresa.
• Registros de incidentes con impacto en usuarios que las plataformas deben notificar a organismos como el MCTIC en Brasil o la AAIP en Argentina.
• Habilitación de investigadores académicos acreditados para acceder a datos bajo entornos de análisis seguros, siguiendo el modelo del Digital Services Act europeo para plataformas muy grandes.

Ninguno de estos mecanismos está completamente operativo en América Latina para sistemas de IA generativa. El PL 2.338/2023 de Brasil es el instrumento más avanzado en la región, pero su aprobación final y reglamentación todavía están pendientes al momento de esta publicación.

Mientras los reportes de uso los sigan escribiendo solo quienes tienen interés en el resultado, cualquier política de IA que se base en ellos estará regulando el relato, no la tecnología.