Jakub Pachocki advierte que sistemas cada vez más capaces podrían alcanzar una etapa de mejora propia que complique el control humano.
El desarrollo acelerado de la inteligencia artificial vuelve a generar advertencias dentro de la propia industria tecnológica. Jakub Pachocki, científico jefe de OpenAI, señaló que la sociedad no está preparada para las consecuencias que podrían surgir conforme los sistemas de IA se vuelvan más capaces y autónomos.
Pachocki plantea que la evolución de estos sistemas podría llevarlos hacia una etapa de mejora recursiva, en la que sean capaces de contribuir a mejorar sus propias capacidades. El escenario, según el científico, podría acelerar todavía más el desarrollo de la inteligencia artificial y aumentar las dificultades para mantener una supervisión humana efectiva.
La advertencia llega después de diversos incidentes y demostraciones que han incrementado las preocupaciones sobre el comportamiento de agentes de IA con mayor autonomía. Entre los riesgos señalados se encuentran la posibilidad de que sistemas avanzados encuentren vulnerabilidades digitales, actúen de manera engañosa o evadan mecanismos diseñados para mantenerlos bajo supervisión humana.
Pachocki no plantea detener por completo la investigación en inteligencia artificial. Su propuesta apunta a desarrollar simultáneamente las capacidades de estos sistemas y las herramientas necesarias para mantenerlos seguros y alineados con los objetivos humanos.
Entre las medidas que considera necesarias aparecen estándares obligatorios de seguridad y mecanismos de supervisión que podrían involucrar a auditores independientes, gobiernos u organismos internacionales.
El científico también plantea una mayor coordinación entre los laboratorios que desarrollan IA, ante un escenario en el que la competencia tecnológica podría avanzar más rápido que los mecanismos destinados a controlar sus riesgos.
La preocupación no se limita a OpenAI. Este mismo 7 de septiembre, el alto comisionado de la ONU para los Derechos Humanos, Volker Türk, advirtió sobre posibles riesgos existenciales asociados con la inteligencia artificial y pidió establecer límites de seguridad claros para su desarrollo.
El debate ya no gira únicamente en torno a qué tan poderosa puede llegar a ser la IA, sino a si los mecanismos de seguridad y supervisión podrán avanzar al mismo ritmo que sus capacidades.
Datos Duros
- Jakub Pachocki: científico jefe de OpenAI que lanzó la advertencia.
- Mejora recursiva: escenario en el que sistemas de IA podrían contribuir a mejorar sus propias capacidades.
- 7 de septiembre de 2026: fecha en que se difundió la advertencia y coincidió con nuevos llamados internacionales a reforzar la seguridad de la IA.
La carrera por desarrollar IA más potente enfrenta un nuevo desafío: construir mecanismos de seguridad capaces de avanzar al mismo ritmo que la tecnología.