IA: ¿Salvación o Catástrofe?
Roman Yampolskiy argumenta que la IA podría reemplazar la mayoría de los trabajos humanos mentales para 2027 y todo el trabajo mental y físico en 2030 llevando a la sociedad a niveles de desempleo del 99%, incluso antes de que la superinteligencia completa se desarrolle.
Yampolskiy expresa una profunda preocupación por la incapacidad de controlar o alinear la IA avanzada con los valores humanos, sugiriendo que las empresas priorizan las ganancias sobre la seguridad y que las soluciones actuales son meros parches.
También explora la teoría de la simulación, afirmando que vivimos en una y que este conocimiento podría influir en nuestro comportamiento. Finalmente, subraya la urgencia de reevaluar el camino del desarrollo de la IA para evitar resultados catastróficos.
La inteligencia artificial avanzada transformará empleo y sociedad
El desarrollo de la inteligencia artificial avanzada abre un horizonte de cambios profundos que marcarán de manera decisiva la vida humana en las próximas décadas. Expertos en seguridad de la IA advierten que la llegada de la inteligencia artificial general y de sistemas con capacidad de superinteligencia no solo redefinirá el trabajo, sino que también planteará dilemas sociales y de control sin precedentes.
Las predicciones apuntan a que, hacia 2030, la capacidad de la IA para reemplazar tareas humanas estará disponible a gran escala, con un ritmo de adopción acelerado. La existencia de una fuerza de trabajo prácticamente gratuita, tanto en el ámbito físico como en el cognitivo, reducirá drásticamente la necesidad de contratar personas. En este escenario, la automatización abarcaría todo lo que se realiza en una computadora y, pocos años después, alcanzaría también la mayoría de labores físicas gracias al avance de los robots humanoides.
El desempleo masivo se perfila como una de las consecuencias más evidentes, con estimaciones que llegan a situarlo en niveles cercanos al 99%. Los trabajos que permanecerían serían aquellos en los que, por razones culturales, emocionales o simbólicas, se prefiera todavía la intervención humana, aunque representarían una fracción muy reducida del mercado.
La idea de que existen profesiones imposibles de sustituir por máquinas se debilita rápidamente. Casos como el de los conductores, desplazados por vehículos autónomos, o los docentes, que ya ven cómo sistemas de IA son capaces de resolver pruebas académicas con resultados superiores, ponen de manifiesto la magnitud del cambio.
El reentrenamiento laboral, recurso habitual en otras revoluciones tecnológicas, tampoco aparece como solución viable en esta ocasión. Incluso nuevas ocupaciones ligadas al uso de la propia inteligencia artificial, como la ingeniería de prompts, son absorbidas rápidamente por sistemas más avanzados que ejecutan esas mismas funciones con mayor precisión y velocidad.
Las implicaciones económicas y sociales de este proceso serían de gran alcance. La abundancia de mano de obra gratuita abarataría drásticamente los bienes y servicios, lo que permitiría cubrir las necesidades básicas de toda la población y garantizar un nivel de vida muy elevado. Sin embargo, la cuestión más delicada no estaría en la economía sino en el sentido de propósito. Para millones de personas, el empleo constituye un pilar de identidad y significado, y su desaparición podría derivar en una crisis de vacío personal.
El impacto en la organización social es difícil de anticipar. Un escenario con tasas de desempleo extremo afectaría a dinámicas tan esenciales como la natalidad, la cohesión comunitaria o la criminalidad. La capacidad de las sociedades para adaptarse a esta nueva realidad marcará el rumbo de un futuro en el que la inteligencia artificial avanzada dejará de ser una herramienta para convertirse en el motor central de la civilización.
El control imposible de la superinteligencia
La creación de sistemas de inteligencia artificial cada vez más potentes abre una frontera que despierta tanta fascinación como temor. El riesgo de perder el control sobre una tecnología más inteligente que el ser humano es señalado por investigadores como uno de los mayores desafíos de nuestra época. El Dr. Roman Yampolskiy, especialista en seguridad de la IA, sostiene que la superinteligencia no puede ser controlada y que avanzar hacia su desarrollo equivale a adentrarse en una misión sin garantías de retorno.
El experto asegura que la seguridad en la inteligencia artificial es un objetivo inalcanzable. Tras décadas de investigación concluye que los problemas que plantea cada componente de un sistema verdaderamente seguro no son simplemente difíciles de resolver, sino imposibles. Mientras las capacidades de la IA avanzan de manera exponencial, las soluciones de seguridad lo hacen de forma mucho más lenta, lo que amplía la brecha y deja los mecanismos de control en una posición de fragilidad permanente.
Otro de los aspectos que subraya es la naturaleza de caja negra de los modelos avanzados. Los propios creadores de sistemas como los grandes modelos de lenguaje desconocen en detalle qué sucede en su interior y deben experimentar para descubrir sus alcances y limitaciones. Esta falta de comprensión convierte el consentimiento informado en un concepto vacío, ya que ni siquiera los expertos saben a qué se están enfrentando.
La definición misma de superinteligencia plantea un reto insalvable. Se trata de un sistema más inteligente que todos los humanos en todos los ámbitos, lo que lo hace impredecible por definición. La diferencia cognitiva es tal que resulta imposible anticipar su comportamiento, un punto conocido como singularidad, a partir del cual las proyecciones humanas dejan de tener validez.
Frente a este escenario, la idea de apagar o desconectar un sistema de estas características se presenta como una ilusión. Tal como ocurre con redes distribuidas o con virus informáticos, la superinteligencia tendría capacidad para anticipar intentos de control y neutralizarlos antes de ser desactivada, lo que eliminaría cualquier margen de maniobra.
A este panorama se suma la presión competitiva entre empresas y países que buscan alcanzar la superinteligencia antes que sus rivales. Los incentivos económicos y de poder empujan a avanzar sin detenerse en consideraciones éticas, configurando lo que se percibe como una carrera armamentista en la que nadie quiere quedarse atrás. Para Yampolskiy, la consecuencia de este impulso es clara: una superinteligencia fuera de control supondría un riesgo de destrucción mutua asegurada, sin importar quién la construya.
Los riesgos existenciales aparecen como la última advertencia. Un sistema de este tipo podría actuar en contra de los intereses humanos, incluso llegar a provocar la extinción de la especie. Antes de alcanzar ese nivel, la IA avanzada ya podría ser utilizada como herramienta para diseñar armas biológicas o nuevas formas de terrorismo con efectos devastadores.
El especialista insiste en que la humanidad debe reconocer de manera universal que el desarrollo de superinteligencia es una apuesta suicida. Su propuesta pasa por enfocar los esfuerzos en herramientas útiles y específicas, evitando la creación de agentes generales que puedan escapar al control humano. A su juicio, este es el problema más importante de nuestro tiempo, un desafío que eclipsa incluso al cambio climático o a los conflictos bélicos.
Su visión para el año 2100 oscila entre dos posibilidades extremas: la desaparición de la humanidad o un estado radicalmente distinto al actual, quizá incluso dentro de una simulación imposible de comprender desde nuestra perspectiva.
