AI abierta como 'un entrenador nazi', advierte grupo antiterrorista

Fuente: Top Stories (Australia) · tecnologia · Australia, Australia

AI abierta como 'un entrenador nazi', advierte grupo antiterrorista

Un grupo antiterrorista respaldado por la ONU ha alertado sobre el peligro que representa la inteligencia artificial de código abierto, comparándola con 'tener un entrenador nazi a tu disposición, reforzando tus pensamientos'. Tech Against Terrorism ha señalado que los gobiernos tienen solo unos pocos meses para evitar que los jóvenes sean radicalizados por modelos de IA descontrolados. En un informe reciente, el grupo encontró que los modelos de IA de código abierto, especialmente aquellos cuyos controles de seguridad han sido eliminados, están proporcionando información útil a extremistas y terroristas. Esto se ha convertido en una crisis de seguridad nacional, según Adam Hadley, director ejecutivo del grupo. El informe también reveló que casi 30,000 copias gratuitas de modelos de IA sin sus controles de seguridad están disponibles en la plataforma Hugging Face. Tech Against Terrorism ha identificado un modelo descargado que está siendo utilizado por un autoidentificado Nacional Socialista como un chatbot pagado. Este hallazgo subraya la urgencia de la situación y la necesidad de una acción rápida por parte de los gobiernos para proteger a la sociedad de los peligros de la IA mal intencionada.

🔗 Leer la noticia completa en Top Stories (Australia)

Ver más en NewsToday