La inteligencia artificial jamás debe mandar sobre nosotros

Fuente: ABC · tecnologia · nacional, España

Sam Altman, máximo responsable de OpenAI, y el presidente de la compañía, Greg Brockman, han rechazado de forma categórica cualquier escenario en el que se contemple un traspaso progresivo de la toma de decisiones globales hacia los sistemas automatizados. Durante su intervención en el foro DealBook Summit, Altman calificó de «terrible» la posibilidad de que la humanidad ceda la autoridad a la tecnología. En un contexto marcado por la creciente preocupación en torno a la denominada «automejora recursiva» —un proceso en el que los modelos de inteligencia artificial perfeccionan su propio código de manera autónoma hasta volverse inescrutables para el ser humano—, los máximos dirigentes de la empresa insistieron en la urgencia de establecer límites férreos que aseguren que las personas conservan siempre el control absoluto del desarrollo tecnológico. Por su parte, Brockman reconoció las dificultades técnicas que esto entraña, señalando que a medida que los modelos adquieren mayor capacidad ejecutiva, los métodos tradicionales de supervisión y análisis del razonamiento paso a paso se quedan cortos, haciendo imprescindible el diseño de herramientas de auditoría mucho más complejas. Como muestra de esta nueva prioridad estratégica enfocada en la seguridad y el blindaje frente a vulnerabilidades, OpenAI ha llegado a reasignar al veinticinco por ciento de sus ingenieros de producción para dedicarlos exclusivamente a la ciberseguridad. Asimismo, Altman advirtió sobre los peligros de una competencia ciega en el sector, mencionando que empresas rivales como Anthropic desconocen sus avances internos y calificando esta dinámica de negativa. Esta necesidad de extremar la cautela ha llevado al CEO a descartar por el momento una salida a bolsa de la compañía, augurando un periodo prolongado de exigentes requisitos de seguridad. Fuente: ABC #InteligenciaArtificial #OpenAI #SamAltman #Ciberseguridad #Tecnología

También lo cubren: RSS de noticias de ultima-hora.

🔗 Leer la noticia completa en ABC

Ver más en NewsToday