Provincia de Buenos Aires aprueba el primer marco obligatorio para regular la Inteligencia Artificial en el Estado

Un marco normativo inédito para la era de la Inteligencia Artificial

La Provincia de Buenos Aires ha dado un paso fundamental en la adaptación del Estado a la era tecnológica al aprobar el primer marco normativo obligatorio del país para el desarrollo y uso responsable de la Inteligencia Artificial (IA) en la administración pública. Esta regulación, publicada en el Boletín Oficial mediante la Resolución 9/2025 de la Subsecretaría de Gobierno Digital, establece las “Reglas para el desarrollo, implementación y uso responsable de sistemas de Inteligencia Artificial (IA)”.

La normativa fija lineamientos generales y obligatorios para todos los organismos públicos provinciales que desarrollen, adopten o contraten sistemas de IA. Su objetivo central es proteger los derechos y garantías fundamentales de la ciudadanía, asegurando un uso «razonable y confiable» de estas tecnologías. La medida se alinea con las discusiones globales sobre la regulación de la IA promovidas por entidades como la Unión Europea, la OCDE y la UNESCO.

Principios rectores: Centralidad humana y transparencia

El nuevo marco regulatorio bonaerense incorpora un conjunto de principios rectores que buscan garantizar que el despliegue de la IA se realice bajo estándares éticos y de seguridad internacionales:

• Centralidad de la persona humana: El respeto a los derechos humanos es el eje de toda implementación de IA.

• Neutralidad tecnológica y razonabilidad: Garantizar un uso justificado y proporcionado de la tecnología.

• Inclusión, sostenibilidad ambiental y privacidad.

• Autodeterminación informativa, transparencia y trazabilidad: Los ciudadanos deben conocer el uso de sus datos y el funcionamiento de los sistemas.

• Responsabilidad demostrada: Los organismos deben poder rendir cuentas sobre el impacto de sus sistemas.

Además, la normativa enfatiza que los responsables de las bases de datos tienen la obligación de aplicar medidas técnicas y organizativas rigurosas para asegurar la seguridad, la confidencialidad y la prevención de accesos no autorizados.

La regulación del riesgo: de lo inaceptable a lo nulo

Uno de los aspectos más avanzados de la regulación es la clasificación de los sistemas de IA según su nivel de riesgo potencial para los derechos de los ciudadanos. La Provincia establece cuatro categorías con diferentes niveles de control:

Riesgo inaceptable: sistemas prohibidos

Esta categoría incluye sistemas cuya aplicación está tajantemente prohibida. Son aquellos que atentan directamente contra la ética y la autonomía de las personas, como los que:

• Manipulen comportamientos mediante técnicas subliminales.

• Exploten vulnerabilidades de grupos específicos.

• Generen perfiles de “scoring social” para clasificar a los ciudadanos.

Alto riesgo: requisitos estrictos

Estos sistemas están sujetos a requisitos rigurosos y obligan a la realización de evaluaciones de impacto detalladas. Incluyen aquellos que pueden tener consecuencias directas y significativas sobre la vida de las personas, tales como:

• Identificación biométrica en espacios públicos.

• Sistemas utilizados en la gestión de infraestructuras críticas.

• Sistemas aplicados en la administración de justicia o en procesos laborales.

Riesgo Limitado y Nulo

Los sistemas de riesgo limitado (como chatbots genéricos que no traten datos sensibles) solo requieren advertir a la ciudadanía sobre su interacción con un sistema automático. Los de riesgo nulo son aquellos con impacto insignificante sobre derechos o seguridad.

Obligaciones de los organismos y un registro provincial

La normativa impone obligaciones concretas a los organismos públicos para garantizar el uso responsable de la Inteligencia Artificial en la práctica:

1. Evaluación preliminar de riesgo: Debe realizarse antes de la implementación de cualquier sistema.

2. Gobernanza de datos: Implementación de mecanismos estrictos para gestionar los datos.

3. Prevención de sesgos: Evitar sesgos discriminatorios durante todo el ciclo de vida de los sistemas de IA.

4. Advertencia a la ciudadanía: Obligación de informar a los ciudadanos cuando estén interactuando con sistemas automáticos.

5. Registro obligatorio: Los desarrollos de IA deben inscribirse en un Registro Provincial de Inteligencia Artificial, cuya gestión estará a cargo de la Dirección Provincial de Innovación Digital.

Especialistas en tecnología y derecho destacan que la decisión bonaerense marca un precedente crucial en la regulación de la IA en Argentina. Al ofrecer un marco de referencia tan detallado, se espera que impulse un debate legislativo similar a nivel nacional y sirva de guía para municipios y otras provincias que ya exploran el uso de estas tecnologías en áreas clave como la seguridad, la salud y la gestión de trámites.