La inteligencia artificial ya está presente en nuestra vida diaria, pero su uso desmedido sin regulación plantea grandes riesgos, especialmente en el manejo de datos personales. Por esta razón, el INFO CDMX (Instituto de Transparencia, Acceso a la Información Pública, Protección de Datos Personales y Rendición de Cuentas) ha propuesto una ley que tiene como objetivo regular el uso de la inteligencia artificial (IA) en la Ciudad de México. Esta ley no solo busca proteger la privacidad, sino también garantizar que la IA se utilice de forma ética, segura y transparente. La iniciativa se presentó el 24 de octubre de 2024 ante el Congreso local.
La propuesta incluye límites claros para el uso de la IA en entornos gubernamentales y empresas que reciben fondos públicos. Un ejemplo de estos límites es la restricción del uso de IA para prácticas invasivas, como la identificación biométrica en tiempo real, según lo explicó Julio César Bonilla, comisionado del INFO CDMX. Las sanciones pueden llegar a multas de hasta 160 mil pesos o la suspensión temporal de sistemas que incumplan la normativa. Esta legislación pone a la CDMX a la vanguardia, siendo la primera en América Latina en abordar de manera integral la regulación de la IA.
Transparencia algorítmica, uno de los conceptos clave de la propuesta, se refiere a la obligación de los desarrolladores y usuarios de IA de hacer visibles y comprensibles los procesos que ejecutan sus algoritmos. Es decir, se debe poder rastrear cómo se toman las decisiones automatizadas y qué datos se utilizan. Esto no solo permite auditar el uso de la IA, sino también garantizar que no se cometan abusos con la tecnología. Durante la conferencia de prensa, Arístides Rodrigo García, otro comisionado del INFO CDMX, destacó que la transparencia es fundamental para evitar la vulneración de derechos humanos.
La ley propuesta consta de 72 artículos y 4 transitorios, y cubre tres pilares fundamentales: ética, seguridad y transparencia. Por ejemplo, establece la responsabilidad de los organismos públicos de proteger los datos personales al utilizar sistemas de IA. El diputado Víctor Romo, presidente de la Comisión de Transparencia, destacó que todos los grupos parlamentarios, desde Morena hasta el PAN, apoyaron esta iniciativa, lo que habla de su relevancia para la ciudad y su impacto potencial a nivel internacional.
¿Qué busca regular la CDMX?
La regulación de la IA en la Ciudad de México tiene un enfoque claro en proteger los derechos de las personas, estableciendo limitaciones específicas sobre el uso de esta tecnología en sectores clave como la seguridad pública. La diputada Patricia Urriza explicó que el gobierno debe tener restricciones en cómo utiliza la IA, especialmente en el manejo de información personal sensible. También se plantean reglas para evitar que la IA se use para fines dañinos, como la manipulación de imágenes, que afecta a muchas mujeres en la actualidad.
Otro aspecto importante de la propuesta es la auditoría constante a los sistemas de IA para asegurarse de que operen de manera justa y transparente. El INFO CDMX trabajará con instituciones como la UNAM y la Embajada Británica para implementar los mecanismos necesarios de capacitación y seguimiento, asegurando que los responsables sepan cómo utilizar esta tecnología de forma adecuada.
¿Cómo funcionará esta nueva regulación?
La legislación incluye un sistema de verificaciones automatizadas que será gestionado por el INFO CDMX, similar a su actual sistema de verificación de datos personales. Este sistema permitirá auditar de manera continua cómo se manejan los datos y se implementan los algoritmos en los sistemas de IA del gobierno local. Además, la ley establece que cualquier vulneración de los datos personales será sancionada conforme a un marco legal claro, como explicó el comisionado Julio César Bonilla.
En resumen, la regulación de la IA en la Ciudad de México busca proteger los derechos de los ciudadanos sin frenar la innovación tecnológica. Se trata de un balance entre aprovechar los beneficios de la IA y establecer los controles necesarios para evitar abusos. La ley aún debe pasar por comisiones y ser aprobada por el Congreso local, pero se espera que entre en vigor antes de finales de 2024.
Si este tema te interesa, te invito a adquirir mi libro ¡Esto no es juego! 10 Consejos Para Crear Prompts Increíbles y Hackear tu Productividad (pueden comprarlo aquí: enlace). Además, no te pierdas mi próximo taller sobre cómo escribirle a plataformas de inteligencia artificial generativa y mejorar tu productividad. Toda la información la puedes encontrar aquí. ¡No dejes que alguien más ocupe tu trabajo!
Aspectos Clave de la Regulación Global de IA
- Evaluación de Riesgos y Clasificación: En la Unión Europea, la ley de IA clasifica los sistemas según su riesgo. Los de alto riesgo, como los de salud o transporte, deben cumplir estrictas normativas de seguridad.
- Transparencia y Responsabilidad: Países como Japón exigen que los desarrolladores de IA revelen cómo funcionan sus sistemas y cómo toman decisiones, asegurando una mayor transparencia en su uso.
- Protección al Consumidor: En EE.UU., estados como Colorado han establecido leyes que buscan prevenir la discriminación en áreas clave como la contratación o los préstamos, donde la IA podría tener un impacto negativo en los consumidores.
Dejar un comentario
¿Quieres unirte a la conversación?Siéntete libre de contribuir!