El consejero delegado de Anthropic, Dario Amodei, ha reivindicado este jueves, 19 de noviembre, el papel pionero de su compañía en el desarrollo de tecnologías destinadas a garantizar que la inteligencia artificial permanezca bajo control humano. Sus declaraciones llegan en un momento decisivo para el sector, marcado por la aceleración de los modelos autónomos y la creciente preocupación por sus riesgos. La cuestión ya no es únicamente hasta dónde puede llegar la IA, sino quién tendrá capacidad real para detenerla cuando sus decisiones dejen de depender directamente de las personas. Amodei ha subrayado los esfuerzos de Anthropic para desarrollar métodos que permitan supervisar y controlar los sistemas de inteligencia artificial más avanzados. La empresa, responsable de Claude, considera que la seguridad debe evolucionar al mismo ritmo que las capacidades de los modelos. Este planteamiento representa uno de los principales elementos diferenciadores de Anthropic frente a sus competidores. Sin embargo, también pone de manifiesto una contradicción creciente: las compañías que desarrollan sistemas cada vez más autónomos son las mismas que advierten de las dificultades para garantizar su comportamiento. El riesgo no reside exclusivamente en que una IA cometa errores, sino en que pueda ejecutar decisiones complejas sin una supervisión humana suficiente. La preocupación de Amodei no es nueva. En septiembre de 2026, el directivo propuso ralentizar determinados avances de la inteligencia artificial para conceder más tiempo a los mecanismos de seguridad. Su propuesta contemplaba tres niveles de actuación: verificaciones independientes, coordinación entre empresas y cooperación internacional. El ejecutivo llegó a advertir de que determinados sistemas autónomos podrían alcanzar capacidades peligrosas en un horizonte de seis a doce meses, una estimación de riesgo que no equivale a una predicción demostrada. La velocidad de desarrollo explica buena parte de esta inquietud. Los sistemas actuales no solo ejecutan instrucciones, sino que comienzan a participar en tareas de programación, investigación y desarrollo de nuevas herramientas de IA. La advertencia coincide con un acontecimiento financiero de enorme relevancia: el debut bursátil de Anthropic en el Nasdaq. La compañía ha fijado el precio de su salida a bolsa en 83 dólares por acción, mediante una operación que ha captado aproximadamente 81.300 millones de dólares y que implica una valoración cercana a 1,5 billones de dólares. Estas cifras reflejan las expectativas extraordinarias que rodean a la inteligencia artificial. Sin embargo, también elevan la presión sobre Anthropic para transformar sus avances tecnológicos en ingresos sostenibles. La empresa registró unas pérdidas operativas de aproximadamente 8.000 millones de dólares en 2025, según la información difundida alrededor de su estreno bursátil. Para Anthropic, la seguridad no constituye únicamente una obligación tecnológica. También puede convertirse en un factor decisivo para atraer grandes clientes corporativos. Bancos, aseguradoras, administraciones públicas y compañías sanitarias necesitan garantías antes de permitir que sistemas autónomos accedan a información sensible o ejecuten operaciones relevantes. En estos sectores, un fallo de supervisión puede generar consecuencias económicas, legales y reputacionales muy superiores al ahorro conseguido mediante la automatización. Este hecho revela que la confianza podría convertirse en uno de los principales activos comerciales de las empresas de inteligencia artificial. Uno de los desafíos más delicados consiste en determinar hasta qué punto los desarrolladores comprenden el funcionamiento interno de sus propios modelos.
Ver más en NewsToday