El reglamento de la Ley 31814, que promueve el uso de la inteligencia artificial (IA) en Perú, ha generado críticas que apuntan a su posible inconstitucionalidad. Te presento las principales razones por las cuales algunos expertos consideran que este reglamento podría ser problemático desde un punto de vista constitucional:
1. Exceso de Regulación sin Base Legal
Una de las preocupaciones más destacadas es que el reglamento introduce nuevas obligaciones y prohibiciones que no están claramente habilitadas por la ley misma. Expertos como María del Pilar Segura Velasco han señalado que el reglamento excede lo que la Ley 31814 establece, creando normativas sin una justificación legal adecuada. Esto puede interpretarse como un acto arbitrario, en contra del principio de legalidad.
2. Falta de Un Régimen Sancionador
El reglamento carece de un régimen sancionador claro y no define cómo se supervisará el cumplimiento de sus disposiciones. Fátima Toche Vega, experta legal, ha enfatizado que solo una norma con rango de ley puede otorgar a las entidades la potestad sancionadora. Sin esta base legal, las prohibiciones y obligaciones impuestas por el reglamento pueden no tener mecanismos efectivos para su aplicación, lo que podría resultar en una falta de protección de los derechos fundamentales.
3. Ambigüedad en la Definición de Responsabilidades
La definición del «implementador» en el reglamento es ambigua y no permite identificar claramente a los responsables en caso de violaciones a derechos humanos. Esta falta de claridad puede generar confusión sobre quién es responsable ante posibles daños causados por sistemas de IA, afectando la seguridad jurídica y llevando a una falta de rendición de cuentas.
4. Inexistencia de Evaluaciones de Impacto
El reglamento no incluye requisitos para realizar estudios de impacto sobre derechos humanos antes de implementar sistemas de IA. Esto es crítico, ya que la clasificación del riesgo asociado a diferentes aplicaciones debería basarse en evaluaciones concretas sobre su impacto social y ético. Sin estos estudios, las decisiones sobre qué sistemas son considerados riesgosos pueden ser arbitrarias y carecer de fundamento.
Y, si quieres aprender de Inteligencia Artificial, La Academia de la Singularidad lanza su nuevo curso taller de Ingeniería de Prompt: Un curso que se centrará en el diseño y optimización de prompts para modelos de lenguaje como ChatGPT. Puedes solicitar información a: academiasingularidad@gmail.com
Esta semana debo felicitar a Tranzfer.me, la única startup peruana que nos represento en el Colombia Tech Week de este año.
Desde la India, le damos la bienvenida a nuestros amigos de Spirehub softwares que llegan con los refuerzos tech.
Y como siempre, esta columna llega gracias a Diosito lindo, Sin Fronteras, Cuentic, Nut’s & Co., Café orgánico Mishqui Huayo, Café sostenible Forest Coffee, chocolate orgánico Mahua, Tranzfer.me, Frezkito, Cluster Disruptiva, Sal Amazónica de Pilluana, Pier Point Máncora y Vichayito Village.
Y como dicen por allí, “el mundo digital no es solo código, es vida, y quiere libertad”
¿Y tú qué opinas del reglamento de Inteligencia Artificial?
Mientras lo piensas, te dejo con Daft Punk y Derezzed https://youtu.be/m4cgLL8JaVI?si=_ozvWknnn_ZdvZei