La VFA – Sociedad de Advogados celebra su décimo aniversario con una conferencia titulada 'Conferencia del Apocalipsis', que se centra en los riesgos existenciales que la inteligencia artificial (IA) podría plantear para la humanidad. Este evento, que tendrá lugar el 25 de noviembre en el Salón Noble de la Academia de Ciencias de Lisboa, reunirá a tres expertos de distintas áreas: derecho, economía y tecnología. Entre los panelistas se encuentran Teresa Violante, profesora invitada de la NOVA School of Law y especialista en derecho constitucional y derechos humanos; Pedro Brinca, profesor asociado de la Nova School of Business and Economics (Nova SBE); y Rodrigo Maia, Director Global de Investigación e Innovación de Capgemini Engineering. La moderación correrá a cargo de Luís Castro. La elección del nombre de la conferencia no es casual: la VFA adopta un enfoque provocativo, partiendo de la hipótesis de que el desarrollo de la IA podría tener consecuencias tan profundas que estarían en juego no solo la organización de las sociedades, sino la propia continuidad de la humanidad. La discusión sobre los riesgos existenciales de la inteligencia artificial ha ido ganando espacio en la comunidad científica y en las instituciones internacionales. Una de las principales preocupaciones se refiere al desarrollo de sistemas cada vez más autónomos, capaces de ejecutar tareas complejas, utilizar herramientas digitales, programar y tomar decisiones con escasa intervención humana. El temor es que, en un escenario futuro, la capacidad de supervisión e intervención de los seres humanos deje de seguir la evolución de estos sistemas. Esta hipótesis suele asociarse a la llamada 'pérdida de control' de la inteligencia artificial. El tema fue analizado en el primer Informe Internacional sobre Seguridad de la Inteligencia Artificial, publicado en enero de 2025 bajo la coordinación del investigador Yoshua Bengio, una de las figuras de referencia en la investigación en inteligencia artificial. El documento reunió la contribución de más de un centenar de expertos y contó con el apoyo de 30 países y organizaciones internacionales, incluyendo la Unión Europea, las Naciones Unidas y la Organización para la Cooperación y el Desarrollo Económico (OCDE). El informe distingue los riesgos que ya están produciendo consecuencias – como la desinformación, la discriminación, las estafas y la utilización maliciosa de herramientas de inteligencia artificial – de escenarios futuros más extremos, en los que sistemas altamente avanzados podrían operar fuera de los mecanismos de control humano. Los expertos no son unánimes en cuanto a la probabilidad de que estos escenarios se produzcan. El documento subraya que los sistemas actuales de inteligencia artificial de uso general aún no tienen las capacidades necesarias para provocar escenarios de pérdida de control con consecuencias como la marginación o la extinción de la humanidad. Pero reconoce que la evolución de las capacidades de autonomía, programación y uso de sistemas informáticos justifica la investigación y las medidas preventivas. #FuturoDeLaIA #RiesgosExistenciales #ControlHumano
También lo cubren: eco.sapo.pt - ECO.
Ver más en NewsToday