Por Sergio García Estradera
La inteligencia artificial ha vuelto a situarnos ante una pregunta incómoda: ¿estamos desarrollando esta tecnología más rápido de lo que somos capaces de controlarla?
La reciente dimisión de Jacob Coxon, investigador que ha trabajado en el desarrollo de modelos tanto en OpenAI como en Anthropic, ha reavivado el debate. Coxon ha abandonado esta última compañía lanzando una advertencia sobre la carrera hacia sistemas cada vez más avanzados y los riesgos asociados a una eventual superinteligencia capaz de mejorarse a sí misma.
Sus palabras se suman a las de otros investigadores del sector que reclaman mayor cautela ante una cuestión todavía lejos de resolverse: cómo garantizar que sistemas más capaces continúen actuando de acuerdo con los objetivos e intereses humanos. Conviene escuchar estas advertencias, pero también separar los riesgos reales del relato apocalíptico.
El principal peligro de la inteligencia artificial no es que las máquinas desarrollen voluntad propia y se rebelen contra nosotros, sino que los seres humanos vayamos cediendo progresivamente nuestra capacidad de decisión. Cuando afirmamos que una IA puede "escapar a nuestro control", debemos aclarar qué significa.
Los sistemas actuales no tienen voluntad propia. Son modelos de enorme complejidad cuyos creadores no siempre pueden explicar por qué producen determinadas respuestas. Sabemos entrenarlos, pero no siempre podemos anticipar su comportamiento, algo especialmente relevante cuando los utilizamos en ámbitos como las finanzas, la defensa, la sanidad, la energía o el transporte. A ello se añade el problema del alineamiento entre los objetivos que damos a una inteligencia artificial y aquello que realmente queremos conseguir.
Un sistema extremadamente eficiente puede encontrar una solución matemáticamente óptima y, sin embargo, provocar consecuencias que ningún ser humano consideraría aceptables.
Imaginemos que pedimos a una IA que reduzca al máximo las emisiones de CO₂. Podría interpretar que detener gran parte de la actividad industrial es una fórmula eficaz. Habría cumplido el objetivo, pero ignorando sus consecuencias económicas y sociales. El problema no sería una máquina desobedeciendo al ser humano, sino una máquina obedeciendo demasiado literalmente.
Existe otro riesgo mucho más cercano que una hipotética rebelión tecnológica: la dependencia. Sanidad, transporte, energía, mercados financieros, educación, administraciones y empresas están incorporando progresivamente estas herramientas. Los beneficios pueden ser enormes, pero debemos preguntarnos qué sucede cuando una parte creciente de nuestros sistemas depende de tecnologías cuyo funcionamiento resulta cada vez más complejo y opaco.
La pregunta, por tanto, no es únicamente qué será capaz de hacer la IA, sino qué decisiones estamos dispuestos a delegar en ella y cuáles deben permanecer bajo supervisión humana.
Esto no significa minimizar los riesgos actuales. La IA puede facilitar la búsqueda de vulnerabilidades informáticas, contribuir a generar malware o campañas de phishing y aumentar la sofisticación de ataques contra infraestructuras críticas. Su integración con drones, sistemas militares o dispositivos autónomos introduce nuevos escenarios de riesgo.
Pero hoy seguimos encontrando una intervención humana detrás de las decisiones y usos de estas herramientas. No estamos ante un desastre inminente, pero tampoco estamos gestionando perfectamente esta transformación. Y quizá ahí reside el mensaje más interesante de las advertencias que escuchamos desde la propia industria.
La innovación suele avanzar más rápido que nuestra capacidad para regularla y comprender sus consecuencias. Ya ocurrió con internet, que democratizó la información pero también multiplicó la desinformación. La energía nuclear nos permitió producir electricidad y desarrollar armas. La IA comparte esa naturaleza dual: sus efectos dependerán de cómo decidamos desarrollarla, gobernarla y utilizarla.
Para las empresas, esto supone una responsabilidad enorme. Adoptar IA no puede significar automatizar todo aquello que técnicamente pueda automatizarse. Debemos decidir qué procesos pueden delegarse, cómo supervisamos las decisiones automatizadas, quién responde cuando un sistema falla y qué competencias necesitarán los profesionales.
Porque gobernar la inteligencia artificial no depende únicamente de la regulación.
La formación será una de las herramientas de gobernanza más importantes de los próximos años. Necesitamos profesionales capaces de utilizar la IA, pero también de cuestionarla, entender sus límites y reconocer cuándo una decisión puede automatizarse y cuándo exige criterio humano. Regular tampoco debería equivaler a frenar la innovación. El desafío consiste en encontrar un equilibrio entre competitividad y seguridad mientras empresas y potencias mundiales compiten por liderar esta tecnología.
La inteligencia artificial no constituye hoy una amenaza existencial inmediata, pero sí una herramienta de transformación extraordinariamente poderosa.
Por eso, quizá estamos formulando mal la pregunta. En lugar de preguntarnos cuándo llegará una IA capaz de escapar del control humano, deberíamos preguntarnos cuánto control estamos dispuestos a entregarle antes de que eso ocurra.
La verdadera carrera no debería consistir únicamente en desarrollar la inteligencia artificial más avanzada. También debemos conseguir que nuestra capacidad para entenderla, supervisarla y gobernarla avance al mismo ritmo.
Sergio García Estradera es gerente de i3e, compañía tecnológica española especializada en servicios gestionados, outsourcing IT, infraestructuras, ciberseguridad y soluciones digitales. Desde su posición, ha contribuido a la evolución de la empresa desde un modelo centrado en la externalización tecnológica hacia la gestión integral de proyectos y servicios para grandes consultoras y multinacionales. Con un perfil ejecutivo y orientado al cliente, su gestión pone el foco en la eficiencia, la formación continua y la anticipación a las nuevas necesidades de las organizaciones. Entre sus principales áreas de interés se encuentran la ciberseguridad y la inteligencia artificial, dos ámbitos que considera estratégicos para el crecimiento y la competitividad empresarial. Bajo su gerencia, i3e ha alcanzado los 25 años de trayectoria y ha reforzado su posicionamiento dentro del mercado tecnológico español.