Categoría: Legal AI

Los agentes de inteligencia artificial que operan de forma autónoma en redes corporativas abren un frente jurídico que Chile todavía no ha sabido cerrar: ¿quién responde cuando un sistema de IA es el vector o la víctima de un ciberataque? La pregunta no es teórica. A medida que la adopción de agentes de IA se acelera en el ecosistema empresarial chileno, el ordenamiento jurídico vigente muestra costuras que ninguna ley en tramitación resuelve por completo.

Chile lleva años construyendo reputación como laboratorio regulatorio en América Latina. Fue el primer país de la región en incorporar la protección de datos a rango constitucional y lleva más de una década con un proyecto de ley de protección de datos personales en el Congreso —finalmente promulgado en 2024 como Ley 21.719, aunque con entrada en vigor escalonada. Sin embargo, la regulación específica sobre sistemas de inteligencia artificial autónomos sigue siendo fragmentaria: existen orientaciones sectoriales de la Comisión para el Mercado Financiero (CMF) y lineamientos del Ministerio de Ciencia, pero ningún marco horizontal que asigne responsabilidad cuando un agente de IA causa daño o es comprometido.

Ley 21.719 y el silencio sobre sistemas autónomos

La nueva ley de protección de datos personales chilena moderniza obligaciones de los responsables de tratamiento, incorpora el principio de responsabilidad proactiva y exige medidas técnicas y organizativas proporcionales al riesgo. Pero su redacción sigue pensada para un modelo donde hay un humano identificable detrás de cada decisión de tratamiento. Cuando un agente de IA toma decisiones de forma encadenada —consultando APIs, cruzando bases de datos, ejecutando acciones— la cadena de responsabilidad se difumina. ¿Es el desarrollador del modelo base, el integrador, el cliente empresarial o el propio operador de la infraestructura quien responde ante la Agencia de Protección de Datos Personales (APDP), el nuevo organismo que la ley crea?

La ley establece un plazo de notificación de vulneraciones de datos, pero no aborda el escenario en que sea el propio agente de IA quien genere o amplifique una brecha —por ejemplo, al ser manipulado mediante prompt injection o al exfiltrar datos como efecto colateral de una instrucción mal formulada. Esos casos exigen interpretación creativa de artículos pensados para contextos de tratamiento tradicional.

Prompt injection y responsabilidad civil: el caso que ningún tribunal chileno ha resuelto

Los ataques de prompt injection —técnica mediante la cual un actor malicioso inyecta instrucciones en el contexto de un agente de IA para desviar su comportamiento— ya se documentan en entornos productivos a nivel global. Para un agente desplegado en una empresa chilena que maneja datos de clientes, un ataque exitoso de este tipo puede derivar en exfiltración de información, suplantación de identidad o ejecución de transacciones no autorizadas. Ninguna de esas consecuencias tiene hoy un régimen de responsabilidad civil explícito en el derecho chileno. El Código Civil permite argumentar responsabilidad extracontractual por culpa o dolo, pero la atribución en sistemas de IA multicapa es un ejercicio que los tribunales de la región no han desarrollado con profundidad.

En contraste, la Unión Europea ya cuenta con el AI Act —vigente desde agosto de 2024— que clasifica los sistemas de IA por nivel de riesgo y establece obligaciones específicas para sistemas de alto riesgo, incluidos requisitos de robustez y ciberseguridad. Los agentes autónomos con capacidad de acción en entornos externos quedarán bajo escrutinio particular en ese marco. Chile no tiene un equivalente funcional.

Brasil y Colombia avanzan, aunque con distinto ritmo

En el resto de la región el panorama es desparejo. Brasil cuenta con la Lei Geral de Proteção de Dados (LGPD, Lei 13.709/2018) y la Autoridade Nacional de Proteção de Dados (ANPD) ha comenzado a pronunciarse sobre decisiones automatizadas, aunque la regulación específica de agentes de IA es todavía incipiente. El Congreso brasileño tiene en discusión un marco regulatorio de IA —PL 2338/2023— que sigue de cerca la lógica del AI Act europeo y contempla sistemas autónomos como categoría de atención. Colombia, por su parte, opera bajo la Ley 1581/2012 y la Superintendencia de Industria y Comercio (SIC) ha emitido guías sobre IA y datos personales, pero sin fuerza vinculante sobre la responsabilidad en incidentes de seguridad causados o mediados por sistemas autónomos.

Argentina transita una situación similar: la Ley 25.326 de Protección de Datos Personales data de 2000 y su reforma lleva años paralizada en el Congreso. La Agencia de Acceso a la Información Pública (AAIP) publicó lineamientos sobre IA en 2023, pero sin valor normativo directo. Ninguno de estos países tiene hoy un régimen que responda con claridad a la pregunta de quién asume la obligación de notificación, compensación y remediación cuando un agente de IA es el actor central de un incidente.

Qué deben monitorear las empresas con operaciones en Chile durante 2025–2026

La entrada en vigor escalonada de la Ley 21.719 y la instalación de la APDP marcan el calendario inmediato. Las empresas que ya despliegan agentes de IA en Chile deben asumir que la autoridad interpretará las obligaciones de seguridad del responsable de tratamiento de forma extensiva —incluyendo los riesgos que introducen sistemas autónomos. En paralelo, el Ministerio de Ciencia trabaja en una Política Nacional de Inteligencia Artificial actualizada que podría sentar bases para legislación futura. A nivel regional, el avance del PL 2338 en Brasil funcionará como referencia para otros legisladores latinoamericanos, dada la masa crítica del mercado brasileño.

• Mapear todos los agentes de IA desplegados en entornos que traten datos personales de ciudadanos chilenos, con identificación del responsable de cada capa del sistema.
• Revisar contratos con proveedores de modelos e integradores para clarificar la asignación contractual de responsabilidad ante incidentes causados o mediados por IA.
• Incorporar pruebas de adversarial prompting y controles de salida en los protocolos de seguridad de agentes autónomos.
• Monitorear la reglamentación secundaria que emita la APDP sobre medidas de seguridad y decisiones automatizadas.

Nuestro análisis

Chile está mejor posicionado que la mayoría de sus vecinos para dar el salto regulatorio sobre IA: tiene una autoridad de datos en proceso de instalación, una ley moderna recién promulgada y una tradición de diálogo técnico-legal en el sector tecnológico. Pero la velocidad de adopción de agentes autónomos en empresas medianas y grandes ya supera el ritmo legislativo. El riesgo concreto no es abstracto: una empresa chilena que sufra una brecha causada por prompt injection sobre un agente de IA enfrentará hoy un vacío de atribución que beneficia a los actores menos diligentes y perjudica a quienes invirtieron en controles. La APDP necesitará emitir criterios interpretativos sobre sistemas autónomos antes de que ese primer caso llegue a su escritorio —porque cuando llegue, el daño ya estará hecho.

La pregunta que Chile debe responder no es si regular la IA, sino si lo hará antes o después del primer incidente de escala que protagonice un agente autónomo con datos de sus ciudadanos.

En 2025, Samuel King, estudiante de doctorado en Stanford, utilizó un modelo de inteligencia artificial generativa para proponer planos genéticos de virus microscópicos. El experimento no produce vida artificial todavía, pero abre una pregunta legal y regulatoria que ningún marco vigente responde de forma completa: ¿quién es responsable de lo que un sistema de IA diseña en el plano biológico?

La investigación de King representa un punto de inflexión conceptual. Hasta ahora, el diseño de organismos sintéticos exigía equipos de biología molecular con décadas de especialización. Un modelo de IA generativa que propone secuencias genéticas viable —aunque sea a nivel preliminar— comprime ese umbral de manera radical. El experimento no implica que el sistema “comprenda” biología: infiere patrones a partir de datos de entrenamiento, igual que cualquier LLM infiere texto. Pero el output es cualitativamente distinto: un blueprint que podría, en teoría, materializarse en un laboratorio.

El vacío regulatorio que nadie quiere nombrar

Los marcos regulatorios actuales sobre inteligencia artificial —el AI Act de la Unión Europea, los Executive Orders en Estados Unidos, los lineamientos del Consejo de Derechos Humanos de la ONU— clasifican el riesgo de los sistemas de IA por dominio de aplicación: crédito, empleo, salud, infraestructura crítica. Ninguno contempla de forma explícita el uso de IA para el diseño de entidades biológicas. El AI Act europeo, que entró en vigor en etapas desde 2024, define como “alto riesgo” a los sistemas que operan en infraestructura crítica y en el ámbito de la salud, pero el diseño generativo de secuencias genéticas no encaja con nitidez en ninguna de esas categorías tal como están redactadas.

En paralelo, la Convención sobre Armas Biológicas (BWC, por sus siglas en inglés) fue negociada en 1972 y no contempla actores no estatales que accedan a capacidades de síntesis biológica asistida por IA. La brecha entre el ritmo de la tecnología y el de los tratados internacionales rara vez fue tan visible como en este caso.

Cuándo aplica responsabilidad legal sobre el sistema — y cuándo no

La pregunta de responsabilidad civil y penal sobre sistemas de IA que generan outputs potencialmente peligrosos es, hoy, una pregunta abierta en casi todas las jurisdicciones. En el derecho continental europeo y latinoamericano, la responsabilidad tiende a recaer sobre quien despliega el sistema, no sobre el desarrollador del modelo base —salvo negligencia demostrable en el diseño. Eso significa que, bajo el esquema actual, una universidad o laboratorio que use un modelo generativo para explorar secuencias biológicas asumiría la carga legal de cualquier consecuencia.

El problema se vuelve más complejo cuando el modelo es de acceso abierto o cuando el output se genera sin intención deliberada de daño. Las teorías de responsabilidad por producto defectuoso —aplicadas con éxito en algunos litigios sobre sistemas de IA en Estados Unidos— requieren demostrar que el sistema tiene un defecto de diseño o fabricación. Un modelo que “hace bien su trabajo” pero cuyo output resulta peligroso en manos de un tercero enfrenta un test de responsabilidad para el que los códigos civiles latinoamericanos no tienen respuesta clara.

El ángulo de Argentina, Brasil y México ante el diseño biológico asistido por IA

Ninguno de los tres grandes marcos regulatorios de IA en América Latina —la propuesta de regulación de Brasil en debate legislativo, los lineamientos del Instituto Nacional de Transparencia (INAI) en México, ni la normativa emergente en Argentina bajo la órbita de la Agencia de Acceso a la Información Pública (AAIP)— contempla explícitamente el uso de IA en biología sintética. La región ha avanzado en privacidad y en gobernanza de datos, pero la intersección entre IA y bioseguridad permanece fuera del radar normativo. Esto no es un reproche: la mayoría de las jurisdicciones avanzadas tampoco lo tienen resuelto. Pero sí implica que los laboratorios académicos en São Paulo, Ciudad de México o Buenos Aires que adopten estas herramientas operarán, por ahora, bajo un vacío legal que la analogía con marcos existentes no puede llenar del todo.

Cuándo aplica / cuándo NO la regulación de IA de alto riesgo

Aplicaría regulación de IA de alto riesgo —bajo el AI Act o marcos equivalentes— si el sistema se usa en decisiones clínicas directas sobre pacientes identificables, o si el output se integra a procesos de manufactura farmacéutica supervisados. No aplicaría de forma automática cuando el uso es exploratorio o de investigación básica, cuando el modelo no toma decisiones autónomas sino que propone opciones revisadas por humanos, o cuando el output no tiene efecto jurídico inmediato. La distinción entre “asistencia a la investigación” y “sistema de alto riesgo” es, precisamente, el nudo que los reguladores deberán desatar en los próximos años.

El debate sobre quién regula estos sistemas —agencias de salud, autoridades de IA, organismos de bioseguridad— está apenas comenzando. En la práctica, esa superposición de jurisdicciones crea un espacio gris que los actores académicos y comerciales pueden navegar con relativa libertad, al menos por ahora.

Para profundizar en el marco técnico y jurídico del AI Act y su clasificación de sistemas de alto riesgo, el texto oficial del Reglamento (UE) 2024/1689 publicado en el Diario Oficial de la Unión Europea es el punto de partida obligado para cualquier análisis comparado con marcos latinoamericanos en desarrollo.

OpenAI desplegó un sistema de marca de agua (watermarking) para texto generado por modelos de lenguaje, pero la implementación levantó señales de alerta entre expertos en regulación de IA: la solución está lejos de ser inviolable y plantea interrogantes sobre su valor real como herramienta de cumplimiento normativo.

El watermarking de texto consiste en incrustar señales estadísticas en las salidas de un modelo de lenguaje grande (LLM), de modo que un detector pueda identificar con cierta probabilidad si un fragmento de texto fue generado por IA. A diferencia del watermarking en imágenes o audio —donde se modifica un archivo binario—, en texto el proceso opera sobre la distribución de probabilidades de los tokens: el modelo ajusta sutilmente qué palabras elige, creando un patrón no visible para el ojo humano pero detectable algorítmicamente. OpenAI, según se informó, integró una variante de este mecanismo en sus APIs de generación de texto.

Por qué la industria lo califica de insuficiente

El problema central no es técnico, es de robustez. Los sistemas de watermarking de texto actuales son vulnerables a ataques simples: reescribir el fragmento con otra herramienta de IA, traducirlo y retro-traducirlo, o incluso hacer pequeñas ediciones manuales puede borrar la señal sin afectar el contenido del mensaje. Investigadores de universidades como Maryland y Stanford han demostrado en los últimos dos años que ningún esquema de watermarking textual existente es a la vez indetectable para el usuario, robusto frente a manipulaciones y verificable sin acceso al modelo original. Es lo que el campo llama el trilema del watermarking. Que una empresa del tamaño de OpenAI lance una implementación sin resolver ese trilema —y sin publicar el diseño técnico completo para escrutinio externo— genera desconfianza justificada en la comunidad regulatoria.

Cuándo aplica y cuándo NO como herramienta de cumplimiento

El watermarking de texto tiene utilidad real en escenarios acotados: detectar abuso masivo y automatizado de las APIs del propio proveedor (fraude a escala industrial, spam de contenido), hacer auditorías internas donde el sistema de detección y el de generación pertenecen al mismo operador, o generar evidencia forense en litigios cuando el atacante no tuvo incentivo ni capacidad para manipular el texto. Lo que no puede hacer —y aquí está el malentendido regulatorio más peligroso— es funcionar como garantía de cumplimiento en entornos adversariales: si un actor malicioso sabe que el texto está marcado, puede borrarlo. Tampoco sirve como control de calidad para identificar texto de IA en contextos de alto riesgo como evaluaciones académicas, procesos judiciales o información médica, donde el costo de un falso negativo es inaceptable.

El AI Act europeo y la obligación de revelación que cambia el juego

El Reglamento de Inteligencia Artificial de la Unión Europea (AI Act, Reglamento UE 2024/1689) establece en su artículo 50 una obligación explícita para los proveedores de sistemas de IA generativa: garantizar que los outputs generados artificialmente sean marcables de forma técnicamente robusta y detectable por herramientas automatizadas. La formulación europea es más exigente que una implementación voluntaria y parcial —incluye texto, imágenes, audio y video— y aplica a modelos de propósito general con impacto sistémico. El plazo de aplicación escalonado llega a su fase plena en agosto de 2026 para los modelos de mayor riesgo. El anuncio de OpenAI podría leerse como un movimiento anticipatorio para alinearse con esa exigencia, aunque los detalles técnicos disponibles no permiten confirmar que la implementación cumple el estándar europeo de “detección técnicamente robusta”.

América Latina: sin obligación de marca de agua, con exposición igual o mayor

Ningún país de América Latina tiene hoy una norma equivalente al artículo 50 del AI Act que obligue a los proveedores de LLMs a implementar watermarking. Brasil avanza con el Projeto de Lei 2338/2023 de regulación de IA, que en su texto actual establece principios de transparencia algorítmica pero no prescribe mecanismos técnicos específicos como el marcado de salidas. México, Argentina y Colombia tampoco cuentan con regulación sectorial que lo exija. Sin embargo, la exposición al problema es concreta: contenido generado por IA circula masivamente en campañas electorales, plataformas de desinformación y procesos académicos en toda la región, sin que existan controles técnicos mínimos ni autoridades con capacidad técnica para auditar proveedores extranjeros. La brecha no es regulatoria solamente —es también de capacidad institucional para exigir cumplimiento a empresas que operan desde fuera de la jurisdicción.

Para los equipos jurídicos y de compliance que evalúan riesgos asociados al uso de IA generativa en sus organizaciones, el punto operativo más inmediato es este: no traten el watermarking como un control de riesgo suficiente en ningún proceso donde la autenticidad del texto tenga consecuencias legales o reputacionales. Si la política interna de uso de IA requiere trazabilidad del origen de los contenidos, el watermarking de proveedor puede ser una capa adicional, pero no la única. Los metadatos de auditoría, los logs de uso de API y los procesos de revisión humana siguen siendo el núcleo de cualquier framework de gobernanza de IA que resista un escrutinio externo.

La marca de agua que se borra con un copia-pega y un segundo modelo no es cumplimiento normativo: es su apariencia.

Los sistemas de inteligencia artificial de frontera procesan volúmenes crecientes de datos personales, pero no existe aún un estándar consolidado para medir cuán bien —o cuán mal— los gestionan. El Future of Privacy Forum (FPF) publicó un análisis que plantea la ausencia de benchmarks de privacidad como un problema estructural del desarrollo de IA, no como una deuda técnica menor.

Un benchmark, en el contexto de los modelos de IA, es un conjunto estandarizado de pruebas que permite comparar el desempeño de distintos sistemas bajo condiciones equivalentes. Existen benchmarks consolidados para capacidades como razonamiento matemático, comprensión lectora o generación de código. Para privacidad, en cambio, la práctica es fragmentaria: cada laboratorio evalúa lo que considera relevante, con criterios propios, lo que impide comparaciones significativas entre modelos o versiones.

Por qué la falta de benchmarks de privacidad no es un detalle técnico

Un modelo de lenguaje de gran escala puede memorizar fragmentos de sus datos de entrenamiento y reproducirlos ante consultas específicas. Puede inferir atributos sensibles —condición de salud, orientación sexual, situación financiera— a partir de información aparentemente inocua. Puede ser utilizado como vector para extraer datos personales de terceros que interactúan con el sistema. Ninguno de estos riesgos es hipotético: son comportamientos documentados en la literatura académica. El problema, según el FPF, es que sin métricas estandarizadas no hay forma de saber si un modelo mejora, empeora o simplemente desplaza esos riesgos de una capa a otra entre versión y versión.

La ausencia de benchmarks también debilita la rendición de cuentas regulatoria. Cuando una autoridad de control pregunta si un sistema de IA cumple con el principio de minimización de datos o con la obligación de no retener información personal más allá de lo necesario, la respuesta hoy es mayormente narrativa, no cuantificable. Eso convierte la evaluación de conformidad en un ejercicio retórico.

Qué debería medir un benchmark de privacidad en IA: tres dimensiones críticas

El análisis del FPF sugiere que cualquier framework de evaluación creíble debería operar al menos en tres planos distintos:

• Riesgo de memorización y extracción: capacidad del modelo para reproducir datos personales presentes en el corpus de entrenamiento ante prompts diseñados para elicitarlos.
• Inferencia de atributos sensibles: hasta qué punto el sistema puede derivar información protegida —categorías especiales de datos, en términos del RGPD o de legislaciones latinoamericanas equivalentes— a partir de inputs no sensibles.
• Comportamiento en despliegue: cómo el modelo gestiona datos personales en tiempo real durante interacciones con usuarios, incluyendo si retiene, reutiliza o transmite esa información a capas del sistema no declaradas.

Estas dimensiones no son independientes: un modelo puede rendir bien en memorización y mal en inferencia, o viceversa. Por eso el FPF argumenta que los benchmarks deben ser multidimensionales y no colapsar la privacidad en un único puntaje.

Cuándo aplica este enfoque y cuándo no

El argumento del FPF aplica con mayor fuerza a los llamados modelos de frontera: sistemas de gran escala, de uso general, entrenados con datos masivos y desplegados en contextos donde procesan información de millones de personas. Para modelos más acotados —entrenados con datos propios, sin acceso a internet, en entornos cerrados— el riesgo de memorización y extracción es estructuralmente menor, aunque no desaparece. El marco tampoco resuelve por sí solo el problema de la privacidad diferencial en entrenamiento, que requiere decisiones de diseño previas al benchmark, no evaluables a posteriori.

El vacío regulatorio en América Latina se amplifica sin métricas

Brasil, Argentina, México, Colombia y Chile cuentan con legislaciones de protección de datos personales que imponen obligaciones sobre el tratamiento automatizado de información. La Lei Geral de Proteção de Dados brasileña (LGPD) reconoce el derecho a revisión de decisiones automatizadas y exige transparencia sobre la lógica aplicada. La Ley 25.326 argentina —cuya reforma lleva años pendiente en el Congreso— y la Ley Federal de Protección de Datos Personales en Posesión de los Particulares (LFPDPPP) de México también establecen principios de finalidad y proporcionalidad que aplican al tratamiento por sistemas de IA. El problema es que ninguna de estas normas define cómo demostrar el cumplimiento cuando el agente que trata los datos es un modelo de lenguaje. Sin benchmarks reconocidos, las empresas que despliegan IA en la región pueden afirmar conformidad sin posibilidad real de verificación independiente.

La Autoridad Nacional de Protección de Datos de Brasil (ANPD) y la Agencia de Acceso a la Información Pública de Argentina (AAIP) han iniciado consultas sobre IA, pero ninguna ha emitido aún guías técnicas sobre evaluación de privacidad en modelos de lenguaje. En ese vacío, la iniciativa de estandarización que propone el FPF podría funcionar como referencia para reguladores que necesitan criterios operativos antes de que los primeros casos lleguen a sus despachos.

Lo que hace medible la gobernanza también la hace exigible

El título del documento del FPF —”lo que se mide se gobierna”— no es un slogan vacío. En la historia de la regulación tecnológica, los estándares técnicos han precedido o acompañado a las normas jurídicas con mayor frecuencia que lo contrario. Los requisitos de auditoría del AI Act europeo, por ejemplo, asumen implícitamente la existencia de metodologías de evaluación comparables. Sin esa infraestructura de medición, la regulación opera sobre declaraciones de intención, no sobre evidencia.

El documento completo del Future of Privacy Forum está disponible en fpf.org y constituye una referencia de trabajo para equipos legales, de producto y de gobernanza que ya están evaluando —o deberían estar evaluando— el comportamiento de los modelos que despliegan.

La inteligencia artificial generativa está permitiendo que departamentos jurídicos internos absorban trabajo que antes delegaban a estudios externos. El caso de Alturas Capital Partners —una firma de inversión inmobiliaria que redujo drásticamente su dependencia de abogados externos para contratos de arrendamiento— ilustra una tendencia que replantea la cadena de valor del asesoramiento legal.

Durante décadas, los departamentos de legal in-house operaron como coordinadores: definían la estrategia, priorizaban los asuntos y derivaban el trabajo voluminoso —revisión de contratos, due diligence, investigación jurídica— a estudios especializados. Ese modelo asumía una asimetría de capacidades: los externos tenían el músculo procesal, las horas facturables y los especialistas. La IA generativa está erosionando esa asimetría de forma sistemática.

Alturas Capital Partners: el contrato de arrendamiento como caso de prueba

Según se informó en MIT Sloan Management Review, Alturas Capital Partners reorientó su flujo de trabajo de lease review hacia herramientas de IA generativa, lo que le permitió internalizar tareas que antes externalizaba y ahorrar cientos de miles de dólares en honorarios a estudios externos. El tiempo de ciclo de esas operaciones —que antes se estancaba durante días en colas de trabajo externo— se comprimió de forma significativa. No se trata de un caso aislado: es el prototipo del cliente que ya no necesita al estudio para cierto tipo de trabajo.

La pregunta que ese desplazamiento plantea no es tecnológica sino estratégica: si un cliente puede automatizar la revisión de contratos estándar, ¿qué le queda al estudio externo para ofrecer? La respuesta incorrecta es “bajar precios”. La respuesta que emerge de los análisis del sector es “subir en la cadena de valor”: pasar de la ejecución repetitiva al juicio experto, la gestión de riesgo complejo y la representación litigiosa donde la IA aún no puede sustituir al profesional.

Qué trabajo resiste la automatización y qué ya no

La distinción operativa más útil para un estudio jurídico hoy es la que separa el trabajo de volumen del trabajo de juicio. El trabajo de volumen —revisión de contratos estandarizados, extracción de cláusulas, checklists de due diligence, research de jurisprudencia conocida— es el primero en migrar a herramientas internas de los clientes. El trabajo de juicio —negociación de cláusulas atípicas, litigios con alta incertidumbre procesal, asesoramiento regulatorio en terreno gris, estructuras transaccionales complejas— mantiene mayor resistencia a la automatización porque requiere contexto acumulado, responsabilidad profesional y criterio bajo incertidumbre.

El problema es que el trabajo de volumen representaba históricamente entre el 40% y el 60% de los ingresos de muchos estudios medianos, según estimaciones del sector legal global. Perder ese segmento sin reemplazarlo con servicios de mayor complejidad implica una contracción de ingresos estructural, no cíclica.

Cuándo aplica este desplazamiento y cuándo no

Este fenómeno no es uniforme. Afecta principalmente a estudios que facturan trabajo repetitivo para clientes corporativos con departamentos de legal in-house suficientemente maduros para adoptar y operar herramientas de IA. Las firmas boutique especializadas en litigio complejo, derecho penal económico o arbitraje internacional tienen menor exposición inmediata. Tampoco aplica de igual forma en mercados donde los departamentos internos son pequeños o donde la regulación local requiere firma de abogado habilitado para actos específicos —lo que en varios países de América Latina sigue siendo la norma para escrituras públicas, presentaciones judiciales y ciertos registros.

El riesgo es mayor para estudios que compiten por precio en segmentos de contratos masivos: revisión de contratos de trabajo, arrendamientos comerciales, términos y condiciones, NDAs. Esos son exactamente los documentos que los modelos de lenguaje actuales manejan con mayor precisión.

El marco regulatorio latinoamericano como variable diferenciadora

En América Latina, la adopción de IA en departamentos jurídicos internos enfrenta fricciones adicionales que los estudios pueden convertir en ventaja competitiva. Brasil, cuyo Marco Legal de IA (PL 2.338/2023) avanza en el Congreso con disposiciones sobre sistemas de alto riesgo —incluyendo aplicaciones en servicios profesionales—, obliga a cualquier empresa que despliegue IA en decisiones con efectos jurídicos a documentar sus procesos de supervisión humana. En Argentina, la Resolución 1/2024 de la Secretaría de Innovación Pública establece lineamientos para el uso de IA en organismos públicos, pero el sector privado opera aún sin un marco equivalente. En México, la discusión en torno a una ley de IA sigue en etapa exploratoria, sin proyecto consolidado.

Esa asimetría regulatoria crea una oportunidad para los estudios que comprendan el marco de cada jurisdicción: el asesoramiento sobre cómo desplegar IA internamente de forma legalmente válida —qué tareas pueden automatizarse sin incurrir en responsabilidad profesional, qué outputs requieren revisión humana certificada— es en sí mismo un servicio de alto valor que los departamentos internos de los clientes no pueden generar por sí solos.

La respuesta estratégica: especializarse en lo que la IA del cliente no puede validar

Los estudios que están respondiendo con mayor eficacia al desplazamiento no compiten con la IA del cliente: la complementan. Ofrecen lo que los modelos no pueden ofrecer con validez jurídica autónoma —firma profesional responsable, representación ante autoridades, criterio en zonas de ambigüedad normativa— y agregan capas de servicio que las herramientas internas no contemplan: auditorías de los propios sistemas de IA del cliente, revisión de los outputs generados, gestión de incidentes cuando un contrato generado automáticamente produce un litigio. Este último punto —el abogado como auditor de la IA del cliente— es el nicho emergente con mayor proyección en el mediano plazo.

Para los estudios medianos de la región, el camino más concreto es identificar qué porcentaje de sus ingresos actuales proviene de trabajo repetitivo para clientes corporativos, modelar el escenario en que ese trabajo migra a herramientas internas en los próximos 24 meses, y diseñar hoy la oferta que captura al cliente en la capa superior. No hay tiempo suficiente para esperar a que el desplazamiento sea evidente en el estado de resultados.

El estudio que sobrevive no es el que bloquea la IA de su cliente, sino el que le cobra por entender lo que esa IA no puede hacer sola.

Las nuevas leyes de inteligencia artificial no deberían limitarse a prohibir usos concretos: expertos del sector advierten que sin marcos sólidos de gobernanza de datos en su base, cualquier regulación de IA nace con un déficit estructural de confianza. El argumento no es retórico — apunta directamente a cómo los parlamentos y agencias regulatorias están diseñando sus marcos normativos.

La discusión parte de una premisa técnica que los legisladores suelen pasar por alto: un sistema de inteligencia artificial es tan confiable como los datos con los que fue entrenado y con los que opera. Si esos datos son de mala calidad, están mal clasificados, carecen de linaje documentado o no tienen propietario formal (data owner), la ley que regule el sistema producirá resultados impredecibles. La gobernanza de datos no es un prerrequisito burocrático — es la infraestructura de confiabilidad sobre la que descansa cualquier obligación regulatoria significativa.

El AI Act europeo como caso de referencia: qué exige y qué supone

El Reglamento de Inteligencia Artificial de la Unión Europea (AI Act, Reglamento 2024/1689) es el instrumento más detallado vigente hasta la fecha. Para los sistemas de IA de alto riesgo — que incluyen decisiones de crédito, empleo, educación y servicios esenciales — el texto exige explícitamente prácticas de gobernanza de datos: los conjuntos de datos de entrenamiento, validación y prueba deben cumplir con criterios de calidad, relevancia, completitud y ausencia de sesgos en la medida de lo posible. El artículo 10 del AI Act es, en la práctica, un mandato de data governance codificado en derecho comunitario. Sin embargo, muchas organizaciones aún no cuentan con los procesos internos para cumplirlo.

El problema no es únicamente europeo. Los marcos que se están discutiendo en Asia, América del Norte y América Latina replican, con variantes, la misma tensión: regular el output de los sistemas de IA sin establecer estándares vinculantes sobre la calidad y el gobierno de los datos que los alimentan. Expertos señalan que esa brecha produce leyes que son formalmente exigibles pero operativamente difíciles de auditar.

Seguridad de datos como componente de la regulación de IA: el eslabón que falta

Más allá de la calidad, el eje de seguridad aparece como el segundo componente crítico. La convergencia entre datos sensibles y sistemas automatizados amplía la superficie de riesgo: un modelo de lenguaje grande que procesa datos médicos o financieros sin controles de acceso granulares, sin cifrado en reposo y en tránsito, y sin mecanismos de auditoría representa una exposición que ninguna cláusula de responsabilidad puede compensar ex post. La regulación de IA que no contemple requisitos mínimos de seguridad de datos queda incompleta en su arquitectura de riesgos.

Esta lectura es consistente con lo que frameworks como el NIST AI Risk Management Framework (AI RMF 1.0) y el Marco de Gestión de Riesgos de IA del NIST ya establecen como buenas prácticas: la función “Map” del NIST AI RMF exige identificar los datos utilizados, su procedencia y los riesgos asociados a su tratamiento antes de desplegar cualquier sistema. Cumplir esa función requiere capacidades de data lineage y clasificación de datos que, en muchas organizaciones de la región, todavía no existen de forma sistemática.

Cuándo aplica este enfoque y cuándo no alcanza

Este argumento es más robusto para sistemas de IA de alto riesgo — los que toman o influyen en decisiones con impacto directo sobre personas físicas — que para aplicaciones de bajo impacto. Un chatbot de atención al cliente con datos públicos plantea un perfil de riesgo diferente al de un sistema de scoring crediticio entrenado con historiales bancarios. Los marcos regulatorios que no distinguen entre ambos escenarios tienden a sobrecargar a las organizaciones con menor capacidad técnica sin reducir los riesgos reales. La proporcionalidad entre nivel de riesgo y exigencia de gobernanza es el principio que más frecuentemente aparece en los debates legislativos actuales.

América Latina frente a este debate: Brasil, México y la brecha de implementación

En la región, el panorama regulatorio de IA avanza de forma desigual. Brasil tiene el proyecto de ley de IA más avanzado (PL 2338/2023), que retoma la estructura de riesgo del AI Act europeo y establece obligaciones de transparencia y auditoría para sistemas de alto riesgo — pero no fija aún estándares específicos de gobernanza de datos con el nivel de detalle del artículo 10 europeo. México, por su parte, no cuenta con una ley específica de IA, aunque la Ley Federal de Protección de Datos Personales en Posesión de los Particulares (LFPDPPP) y el Reglamento del INAI cubren parcialmente el tratamiento automatizado de datos personales. En Argentina, la Agencia de Acceso a la Información Pública (AAIP) publicó en 2023 recomendaciones no vinculantes sobre IA y datos personales, pero sin fuerza normativa equivalente a un reglamento sectorial.

La brecha no es solo legislativa: es de capacidad instalada. Según el modelo de madurez CDMC del EDM Council, pocas organizaciones latinoamericanas superan el nivel 1 o 2 de las 14 capabilities evaluadas, lo que significa que los procesos de catalogación, clasificación y linaje de datos todavía son fragmentarios o inexistentes en gran parte del tejido empresarial regional. Exigir por ley estándares de gobernanza de datos para IA sin acompañar esa exigencia con guías de implementación crea obligaciones nominales que no se traducen en mejoras reales.

La pregunta que deberían hacerse los legisladores de la región antes de aprobar sus leyes de IA no es si deben incluir gobernanza de datos — sino si tienen claro qué nivel de madurez técnica existe en el mercado al que le van a aplicar esa exigencia.