• La normativa resultará aplicable a las entidades administrativas, las empresas que realizan actividad empresarial del Estado bajo el ámbito del FONAFE, y las organizaciones de la sociedad civil, ciudadanos, academias y el sector privado, en lo que corresponda.
• Además de los principios establecidos en la Ley, se incorporan los siguientes principios: 
• Centrado en la protección de la dignidad humana
• Inclusión y equidad
• Sostenibilidad
• Sensibilización y educación en inteligencia artificial
• Promoción del acceso compartido
• Seguridad, proporcionalidad y fiabilidad
• No discriminación
• Protección a la privacidad y datos personales
• Transparencia y explicabilidad
• Responsabilidad humana
• Rendición de cuentas y supervisión humana
• La PCM será la autoridad encargada de dirigir, evaluar y supervisar el uso y la promoción del desarrollo de la inteligencia artificial y las tecnologías emergentes.  No obstante, también se reconocen como actores de la gobernanza para el uso y desarrollo de la inteligencia artificial a la Autoridad de Protección de Datos Personales; a las entidades de la Administración Pública; y a la Secretaría de Gobierno y Transformación Digital,quien canalizará la participación de las organizaciones de la sociedad civil, ciudadanos, academia y sector privado.
• Los sistemas basados en inteligencia artificial (los “Sistemas”) se clasificarán en las categorías de riesgo inaceptable, alto, medio y bajo, considerando, como mínimo, el riesgo de afectación que su uso genere al trato equitativo, transparencia y derechos humanos. Los Sistemas de riesgo inaceptable estarán prohibidos.
• Los implementadores de los Sistemas de riesgo alto tienen, entre otras, las siguientes obligaciones:
• Identificar y evaluar los riesgos generados por su finalidad prevista y ante el uso indebido razonablemente previsible.
• Implementar medidas de gestión de riesgo idóneas evaluadas por un tercero independiente para verificar su funcionamiento adecuado y el reporte de riesgos residuales.
• Implementar prácticas adecuadas de diseño, tratamiento, formulación de supuestos y disponibilidad de los datos de entrenamiento, validación y prueba a fin de que los datos incrementen su pertinencia, representatividad y completitud.
• Diseñar e incorporar un programa de trazabilidad de los datos y procedimientos involucrados en el funcionamiento del Sistema de riesgo alto.
• Registrar automáticamente el período de inicio y fin de su uso, las bases de datos de referencia, los datos de entrada y la persona que realizó la operación.
• Elaborar informes que describan el proceso de validación del Sistema en entornos reales que facilite la verificación, auditaje y reproducibilidad.
• Instruir a las personas que utilicen el Sistema de riesgo alto informando sobre la finalidad prevista, el nivel de precisión y solidez, las medidas de seguridad incorporadas, la vida útil prevista y las medidas o acciones necesarias para su buen funcionamiento y conservación.
• Incorporar un control humano que pueda interrumpir, revisar y rectificar los resultados o decisiones tomados por el Sistema.
• Implementar medidas de seguridad desde el diseño que sean idóneas para resistencia a errores, resultados incoherentes e intentos de uso no autorizado y vulneración.
• Proceder a la suspensión del uso del Sistema cuando se detecte un riesgo significativo y no exista otra medida adecuada para su gestión.
• Los implementadores de los Sistemas podrán acreditar el cumplimiento de las obligaciones si adquirieron de un proveedor, distribuidor o importador un Sistema que cuente con certificaciones reconocidas y basadas en estándares internacionales emitidas por organizaciones de auditoría independiente que abarque el contenido de las obligaciones mencionadas.
• A fin de fortalecer el uso responsable y ético de la inteligencia artificial, se propone:
• Que, el implementador vele por la incorporación de las medidas proporcionales y adecuadas para la protección de la privacidad y los datos personales de acuerdo con lo que establezca la Autoridad Nacional de Datos Personales.
• Que, el implementador cumpla con informar al ciudadano o consumidor, de forma transparente,  sobre (i) el uso del Sistema, de forma previa, clara y sencilla; (ii) el funcionamiento y parámetros para llegar a una decisión o resultado  para generar predicciones, contenido o recomendaciones que tengan impacto en las personas o empresas; y (iii) la persona responsable de la toma de decisiones y los derechos de los que dispone el afectado.
• Que, el implementador, (i) cuente con un equipo diverso y multidisciplinario para el diseño, desarrollo e implementación del Sistema; (ii) siga las mejores prácticas, estándares o normas técnicas para identificar y minimizar los sesgos de los algoritmos o bases de datos utilizados por el Sistema; (iii) garantice el cumplimiento de los derechos de autor y propiedad intelectual en el uso y desarrollo de los Sistemas; (iv) sea diligente conforme a los lineamientos que establezcan las autoridades competentes; y (v) fomente la concientización para evitar el sesgo de automatización.
• Además, debe implementar un canal de comunicación para que cualquier persona pueda alertar sobre el uso indebido de los Sistemas o el incumplimiento de sus obligaciones.
• La responsabilidad ante la afectación de los derechos fundamentales que se hayan generado en el uso o desarrollo del sistema corresponde, en todos los casos, al implementador.
• La Secretaría de Gobierno y Transformación Digital deberá aprobar lineamientos sobre la supervisión y uso de los Sistemas; el cumplimiento de las obligaciones de transparencia del implementador; aspectos éticos para el uso y desarrollo de la inteligencia artificial; y la implementación del canal de comunicación para alertar sobre el uso indebido de los Sistemas en un plazo máximo de 180 días hábiles; y sobre la clasificación de los Sistemas y el diseño e implementación de entornos de experimentación y prueba controlados tecnológicos y regulatorios para la inteligencia artificial en un plazo máximo de 1 año. Además, tendrá que implementar un canal digital para la difusión de información y actividades sobre inteligencia artificial en un plazo máximo de 60 días hábiles.

Compartir