La inteligencia artificial avanza a toda velocidad, y muchas empresas se enfrentan a problemas para mantener bajo control los riesgos legales asociados con su uso. Cada vez son más las decisiones que se dejan en manos de algoritmos, los datos personales que procesan estas herramientas y las tareas que realizan sin apenas intervención humana. Los expertos reunidos por la Asociación Española de Compliance (ASCOM) destacan que no basta con incorporar inteligencia artificial a la actividad empresarial, también hay que vigilar cómo funciona, establecer controles efectivos y, llegado el caso, poder demostrar que se han tomado las precauciones necesarias para evitar problemas legales. Esta fue una de las cuestiones que centraron el debate durante la décima edición del Día del Compliance Officer, celebrada en Madrid. Los ponentes analizaron las consecuencias jurídicas de la 'escalada tecnológica', un fenómeno que está poniendo a prueba la capacidad de las empresas para controlar las herramientas que utilizan. El problema es que los sistemas de inteligencia artificial incorporan nuevas funciones a un ritmo tan rápido que resulta difícil evaluar sus riesgos y comprobar que los controles siguen siendo eficaces. Especialmente con el Reglamento europeo de Inteligencia Artificial, que establece distintas obligaciones para quienes desarrollan estos sistemas y para las empresas que los utilizan, dependiendo del tipo de herramienta y del riesgo que entrañe su uso. Los participantes defendieron la necesidad de establecer 'guardarraíles', es decir, límites técnicos y organizativos que impidan que los sistemas de IA ejecuten determinadas operaciones, aunque tecnológicamente sean capaces de realizarlas. Además, el Reglamento europeo de IA obliga a que los sistemas de alto riesgo estén supervisados por personas y exige que quienes se encarguen de ese control tengan la formación, la capacidad y la autoridad necesarias para intervenir cuando sea preciso. La aplicación de estas disposiciones específicas de alto riesgo está sometida al calendario transitorio europeo: diciembre de 2027 para los sistemas independientes contemplados en el anexo III y agosto de 2028 para los integrados en determinados productos regulados. Sin embargo, la protección de los datos personales y las garantías frente a determinadas decisiones automatizadas ya son exigibles en virtud del Reglamento General de Protección de Datos (RGPD). Su artículo 22 reconoce, con determinadas excepciones, el derecho a no ser objeto de decisiones basadas únicamente en tratamientos automatizados que produzcan efectos jurídicos o afecten significativamente de manera similar a una persona. En los supuestos legalmente previstos, deben garantizarse salvaguardias como la intervención humana, la posibilidad de expresar el propio punto de vista y la impugnación de la decisión. La AEPD ha recordado en sus orientaciones que esa intervención debe ser real y significativa, no una mera formalidad destinada a aparentar supervisión. El debate también abordó las consecuencias de un incidente provocado por inteligencia artificial y la necesidad de demostrar qué medidas había adoptado previamente la organización. Fuente: Confilegal
Ver más en NewsToday