En Sudáfrica, la falta de una regulación adecuada sobre la inteligencia artificial ha dejado al país vulnerable a una serie de problemas. La aproximación 'esperar y ver' ha permitido que surjan brechas que exponen a los ciudadanos a sesgos, deepfakes y robo de datos. El rápido avance de la tecnología de IA ha dejado atrás la paciencia del país, y ahora se hace evidente la necesidad de un marco constitucional unificado que equilibre la protección de los derechos humanos con la innovación tecnológica. Aunque existen esfuerzos sectoriales e intergubernamentales sobre el uso ético y responsable de la IA, ninguno de ellos tiene fuerza de ley. Algunos sostienen que la IA no debe regularse porque no se entiende completamente. Sin embargo, cuanto más se espere, más explotación y violaciones de derechos se presenciarán. Sudáfrica no carece de leyes, sino de uniformidad y coherencia. La fragmentación, la mala implementación y los silos de gobernanza de larga data permiten que el mal uso de la IA florezca en Sudáfrica. Esto también puede caracterizarse por jurisdicciones superpuestas, mandatos conflictivos, confusión sobre quién autoriza qué y múltiples organismos que reclaman una participación en el mismo terreno. Donde existe una brecha, probablemente será explotada. Por eso el país necesita un enfoque constitucional para la regulación de la IA. Un marco híbrido práctico que cierre las brechas estableciendo una supervisión interdisciplinaria genuina, aclarando mandatos conflictivos y evitando la duplicación de estructuras de gobernanza. Cada marco legal está moldeado por la Constitución, que existe para guiar cómo debería ser una sociedad funcional y respetuosa de los derechos. El mandato no se detiene por la nueva tecnología. Como observó la ex jueza Sisi Khampepe en un fallo de la Corte Constitucional de 2017, el alcance de los derechos que la Constitución protege debe tener en cuenta los desarrollos en tecnología, particularmente cuando el estado ha respaldado la tecnología, al igual que los cambios en nuestra estructura social remodelan el alcance de nuestros derechos. La regulación de la IA debe abordarse a través del lente de lo que cualquier constitución busca proteger en última instancia. Esto tiene implicaciones prácticas para cómo se construye la supervisión. Sudáfrica cuenta con instituciones constitucionalmente establecidas y reguladores sectoriales específicos, incluyendo nuestras instituciones del capítulo nueve. La pregunta es si pueden estar adecuadamente capacitados para supervisar la IA en sus sectores. Por ejemplo, si la Autoridad Reguladora de Productos Sanitarios de Sudáfrica tiene supervisión sobre la salud humana y animal, ¿se puede construir una capacidad de clasificación de riesgos similar para la IA? El punto no es reinventar la rueda, sino adaptarse de manera sostenible a lo que existe. Los principios de IA y la autorregulación tienen su lugar y han ayudado a llenar algunos vacíos. Pero las industrias tienden a adoptar los principios que son más fáciles de incorporar a su misión o visión, mientras dejan de lado compromisos más difíciles. La autorregulación por sí sola no puede abordar adecuadamente la explotación donde la ley está en silencio. El estado tiene el deber de promulgar leyes aplicables que respeten y defiendan los derechos humanos para cerrar las brechas. Los riesgos que plantea el mal uso de la IA no son hipotéticos. El cibercrimen mejorado por la IA está impulsando violaciones de datos y robos en el país. Los sistemas entrenados con datos poco relacionados con las realidades sudafricanas o incluso africanas se están desplegando de manera que afianzan la desigualdad racial y de género. Los deepfakes amenazan la privacidad, el trabajo creativo se cosecha sin consentimiento y la vigilancia se expande por los vecindarios con poca responsabilidad. Dado que los sistemas de IA se entrenan con los datos que se les ponen a disposición y nuestros propios datos sobre raza, género, discapacidad y cultura han estado sesgados durante mucho tiempo, las herramientas corren el riesgo de reproducir y amplificar sesgos que preexisten a ellas. Los más expuestos son a menudo los más vulnerables: a lo largo de líneas de raza y género, a través de la brecha digital y entre los niños. Un marco sostenible necesita ser formalizado como ley vinculante, no dejado para que cambie basado en la buena voluntad de sectores/industrias. Necesita ser purposivo, construido en torno a lo que Sudáfrica está tratando de proteger en lugar de importado al por mayor de otros lugares.
También lo cubren: The Mail & Guardian | Africa's Better Future, The Mail & Guardian | Africa's Better Future (Sudáfrica).
🔗 Leer la noticia completa en The Mail & Guardian | Africa's Better Future - Index.Xml
Ver más en NewsToday