La discusión sobre si la inteligencia artificial representa una amenaza para la humanidad dejó de ser un asunto exclusivo de películas de ciencia ficción. Las recientes advertencias provenientes de investigadores vinculados a la industria tecnológica y del alto comisionado de Naciones Unidas para los Derechos Humanos muestran que el debate empieza a concentrarse en una pregunta mucho más seria: ¿estamos desarrollando sistemas cuyas capacidades avanzan más rápido que nuestra capacidad para comprenderlos, controlarlos y regularlos?
La preocupación no surge únicamente desde fuera de la industria. El investigador Jacob Coxon, quien trabajó en OpenAI y Anthropic, cuestionó públicamente la manera en que las grandes compañías están avanzando hacia sistemas cada vez más capaces. Sus declaraciones fueron respaldadas parcialmente por otros especialistas del sector, entre ellos Evan Hubinger, investigador de seguridad de Anthropic, quien ha advertido sobre la posibilidad de consecuencias extremadamente graves asociadas con sistemas avanzados de inteligencia artificial.
Sin embargo, sería irresponsable convertir estas advertencias en una sentencia de que la humanidad está inevitablemente condenada por la IA. Una opinión informada debe distinguir entre un riesgo posible, una proyección de expertos y un hecho demostrado. Hasta ahora, no existe evidencia que permita afirmar que una inteligencia artificial vaya a provocar necesariamente la extinción humana. Lo que sí existe es un problema concreto: las capacidades de estos sistemas están evolucionando con enorme rapidez y los mecanismos de supervisión no necesariamente avanzan al mismo ritmo.
Precisamente ahí está, a mi juicio, el verdadero peligro.
La ONU ha advertido que la inteligencia artificial avanzada podría convertirse en un riesgo existencial si no se establecen garantías suficientes. Volker Türk, alto comisionado de Naciones Unidas para los Derechos Humanos, pidió controles independientes, cooperación internacional y límites claros para evitar que los sistemas de IA lleguen a operar fuera de condiciones que puedan ser supervisadas adecuadamente.
La advertencia adquiere mayor relevancia porque el problema no se reduce a imaginar una máquina rebelándose contra sus creadores. Hay riesgos mucho más inmediatos y comprobables: utilización de la IA para manipular información, vulnerar sistemas, afectar procesos democráticos, desplazar determinadas actividades laborales, incrementar la vigilancia y concentrar una enorme capacidad tecnológica en manos de un reducido número de empresas y actores con recursos suficientes para desarrollar estos sistemas.
El propio Panel Científico Internacional Independiente sobre Inteligencia Artificial de Naciones Unidas ha señalado que las salvaguardas actuales no están avanzando al mismo ritmo que las capacidades de la tecnología. El organismo considera necesario contar con evidencia científica independiente para que los gobiernos puedan tomar decisiones antes de que los riesgos sean difíciles de controlar.
Y aquí aparece una cuestión que debería preocupar tanto como la posibilidad de una eventual superinteligencia: ¿quién controla a quienes controlan la inteligencia artificial?
El poder tecnológico se está concentrando. Las compañías que desarrollan los modelos más avanzados poseen enormes cantidades de datos, infraestructura informática y capacidad económica. Esa concentración plantea un desafío democrático porque decisiones con consecuencias sociales, económicas y políticas pueden terminar dependiendo de organizaciones privadas cuyos intereses no siempre coinciden con los de la sociedad.
Por eso, el debate no debería plantearse simplemente como IA sí o IA no. La discusión seria es otra: qué límites deben existir, quién debe establecerlos, cómo se verificará que las empresas los cumplan y qué mecanismos internacionales podrán actuar cuando una tecnología represente un peligro.
La innovación no debería detenerse por miedo. Pero tampoco puede justificarse cualquier avance bajo el argumento de que detenerse significaría perder competitividad. Una carrera tecnológica en la que cada empresa o país tema quedarse atrás puede generar precisamente el escenario que los especialistas advierten: desarrollar sistemas cada vez más poderosos antes de haber resuelto adecuadamente sus mecanismos de seguridad.
La inteligencia artificial puede convertirse en una de las herramientas más importantes para mejorar la vida humana. Puede contribuir a la ciencia, la medicina, la educación, la productividad y la solución de problemas complejos. Pero su valor dependerá de las reglas bajo las cuales sea desarrollada y utilizada.
Por eso, más que preguntarnos si la IA destruirá a la humanidad, deberíamos preguntarnos si la humanidad será suficientemente responsable para controlar la tecnología que está creando.
El peligro no está demostrado como una fatalidad. La falta de regulación, supervisión y responsabilidad, en cambio, sí constituye un riesgo que puede y debe ser enfrentado desde ahora.
Fuente: France 24. El análisis se basa en el informe sobre las advertencias de expertos de inteligencia artificial y de Naciones Unidas frente a los riesgos asociados con el desarrollo de sistemas avanzados.
Emisora Fusaonline