¡Hola IA, adiós humanos! Advierten expertos sobre nuestra posible extinción

En los últimos meses, los titulares han sido acaparados por noticias relacionadas con la inteligencia artificial (IA). Esta tecnología, que no deja de impresionarnos con sus aplicaciones prácticas, podría incorporarse a un gran número de industrias en los próximos años y transformarse en una parte integral de nuestra existencia.

Sin embargo, a medida que la inteligencia artificial se adentra cada vez más en nuestras vidas, un grupo de expertos ha empezado a realizar advertencias preocupantes sobre un escenario que, hasta la fecha, nos parecía impensable: el fin de la humanidad.

¿Podría la IA llevar a la extinción humana? ¿Qué tienen que decir los expertos en el tema? Y finalmente, ¿es posible que la inteligencia artificial y la sociedad humana convivan en paz? Lo exploraremos a continuación.

Avances, implicaciones y riesgos de la IA en la vida cotidiana

La inteligencia artificial ya forma parte de nuestras vidas, incluso si no te habías percatado. ¿Alguna vez te preguntaste cómo es que YouTube siempre te sugiere los videos que quieres ver, justo a la hora que quieres verlos? Esto es obra de la IA.

Además, a medida que pasa el tiempo, es probable que el uso de la inteligencia artificial se vuelva más generalizado. Desde asistentes como Siri y Alexa, hasta automóviles autónomos, y pasando por sistemas que hacen los trabajos de doctores, abogados y contadores, será cada vez más común encontrar esta tecnología.

Es innegable que la inteligencia artificial puede mejorar notablemente nuestras vidas. Incluso con aplicaciones más avanzadas, puede ayudarnos a mejorar nuestro bienestar y realizar descubrimientos que lleven nuestra civilización a alturas inexploradas. 

Sin embargo, de la mano de estas interesantes aplicaciones también vienen riesgos que amenazan nuestra propia existencia. Estos son algunos que vale la pena señalar:

  • Pérdida masiva de empleos: a medida que la IA se vuelve más avanzada, puede llevar a cabo funciones que tradicionalmente han pertenecido a los seres humanos, lo que podría provocar un incremento desmesurado del desempleo y, por ende, otros problemas sociales como hambrunas y aumento de la criminalidad.

  • Militarización de la inteligencia artificial: la IA se está incorporando a cada vez más sistemas, por lo que existe la posibilidad de que un actor malicioso tome el control de esta tecnología con fines bélicos. Solo recuerda lo que ocurrió con el descubrimiento de la fisión nuclear y el subsecuente desarrollo de armas nucleares con el Proyecto Manhattan.

  • Robo de identidad e información: los sistemas actuales identifican quién eres mediante biometría o fotografías de tu rostro. Pero ¿sabías que la IA también avanza en el campo de generación de imágenes y sonidos? Próximamente, tu rostro, tu voz e incluso tus huellas podrían dejar de ser solo tuyas, porque una máquina podría replicarlas a la perfección y robar tu identidad con fines maliciosos.

¿Qué opinan los expertos sobre el impacto de la IA en el futuro de la humanidad?

El impacto de la IA en la humanidad, para bien o para mal, será notorio. Ante esta situación, un número de expertos ha lanzado inquietantes alarmas al respecto. A continuación, exploramos algunas de estas advertencias.

«Mitigar el riesgo de extinción por IA debe ser una prioridad global […]»

El Center for AI Safety (CAIS) es una organización cuyo objetivo es mitigar los riesgos a escala social de la IA. En una sencilla, pero preocupante carta abierta, CAIS, con la firma de personalidades importantes como el empresario Bill Gates, y el director ejecutivo de Open AI Sam Altman, lanzaron esta advertencia:

«Mitigar el riesgo de extinción humana por IA debe ser una prioridad global, junto con otros riesgos a escala social, como las pandemias y la guerra nuclear».

Cuando figuras notables y expertos en el campo concuerdan y equiparan la inteligencia artificial con las bombas nucleares y los virus masivos, es hora de prestar atención. En este conciso, pero directo comunicado, el CAIS insta a la humanidad a vigilar la IA, porque su evolución descontrolada podría significar nuestro fin.

«Detengan los experimentos de IA gigantes […]»

Future of Life Institute (FLI) es una organización creada en 2014 que busca «prevenir riesgos extremos a gran escala a manos de tecnologías transformadoras». En una carta abierta firmada por sus miembros, incluyendo importantes personalidades como Elon Musk, director ejecutivo de Tesla, y el cofundador de Apple Steve Wozniak, advierte:

«Los sistemas de IA con inteligencia comparable a la humana pueden presentar riesgos profundos para la sociedad y la humanidad […]

[…] Solicitamos a todos los laboratorios de IA que pausen inmediatamente, durante al menos 6 meses, el entrenamiento de sistemas de IA más potentes que GPT-4 […]».

FLI argumenta que los sistemas actuales de inteligencia artificial representan un riesgo para la estructura social y la humanidad en sí, por lo que los laboratorios, expertos y políticos deberían implementar protocolos para que los efectos de esta tecnología sean positivos, y sus riesgos manejables.

Ciertamente, nadie puede decir con certeza cómo evolucionará la inteligencia artificial. El FLI advierte que, antes de continuar avanzando esta tecnología, debemos comprenderla e implementar medidas para que, en un futuro, no se vuelva en nuestra contra.

¿Cómo podría la inteligencia artificial acabar con los humanos?

Desolación en ChernobilDesolación en Chernobil

Como puedes ver, no son pocas ni irrelevantes las señales de alarma. Y si crees que la extinción humana por la IA es solo un escenario propio de una película de ciencia ficción, permítenos compartir contigo algunas preocupaciones reales.

Según el CAIS, existen ocho escenarios en los que la inteligencia artificial podría llevar al fin de la humanidad: 

  1. Aplicaciones armamentistas: lamentablemente, las aplicaciones bélicas de esta tecnología pueden ser variadas y tener efectos catastróficos. Desde el control de armas sin ningún compás moral, hasta el desarrollo de químicos con alto potencial letal, una IA con fines maliciosos podría provocar nuestro fin.

  2. Desinformación: un campo en el que sobresale la inteligencia artificial es la generación de texto humano comprensible. Por desgracia, eso significa que una IA maliciosa puede crear campañas de desinformación altamente efectivas, lo que provocaría la radicalización extrema de la población e impediría la toma de decisiones para el bien común. 

  3. IA entrenada con objetivos defectuosos: una inteligencia artificial solo se enfoca en su objetivo. Jamás se cansa. Jamás duda. Y eso puede ser un problema. Uno de estos sistemas con objetivos defectuosos podría hacer cualquier cosa para alcanzar su fin, incluso si eso va en contra del futuro de la humanidad.

  4. Debilitamiento de la humanidad: a medida que la IA avanza, le estamos delegando cada vez más tareas. Si la tendencia continúa, podremos encontrarnos en un escenario en el que las máquinas lo controlan casi todo, con los seres humanos relegados a un segundo plano.

  5. Concentración del poder de la IA: por sus grandes requisitos de recursos, es posible que en el futuro solo unos pocos tengan acceso a la IA. Esta falta de democratización podría representar un riesgo existencial, pues apenas un grupo reducido estaría en la capacidad de controlar a toda la humanidad según los valores que considere convenientes.

  6. Pérdida de control de la IA: en ocasiones, los sistemas de inteligencia artificial presentan «comportamientos emergentes», lo que significa que realizan ciertas acciones que no están en su programación. Esto ocurre con sistemas actuales, como ChatGPT. En un futuro, una de estas IA podría desarrollar la meta de autopreservación y hacer lo posible para sobrevivir, incluyendo acabar con la humanidad.

  7. Engaño: los sistemas de inteligencia artificial son monitoreados por seres humanos con base en la información que reportan. Pero ¿cómo podemos confiar en estos datos? Una IA lo suficientemente avanzada puede engañar a sus supervisores, y así, tomar el control de sus sistemas y escapar de la vigilancia humana. 

  8. Comportamiento de búsqueda de poder: dado el enorme potencial de esta tecnología, es común que gobiernos y empresas busquen aprovecharla al máximo. No obstante, existe la posibilidad de que la IA se salga de su control y siga sus propios objetivos, sin importar si no están alineados con el bienestar futuro de la humanidad.

Un posible futuro sostenible con la IA

Tras estos escenarios terribles, quizás te preguntes si hay algo que se pueda hacer para que la inteligencia artificial y la sociedad convivan en paz. Por suerte, algunas de nuestras mentes más brillantes e influyentes ya están tomando cartas en el asunto para mitigar los riesgos.

Para empezar, los políticos ya están preocupándose por crear regulación. Joe Biden, presidente de los Estados Unidos que busca su reelección en 2024, reunió a un grupo de expertos para determinar cómo regular la IA, y así, mitigar su potencial negativo en la humanidad.

De igual forma, organizaciones como CAIS y FLI no se limitan únicamente a lanzar llamados de auxilio, sino que llevan a cabo labores de investigación y educación para que la inteligencia artificial permanezca alineada con los valores, metas y principios de los seres humanos.

Estos esfuerzos resultan esperanzadores, en especial considerando que la inteligencia artificial no solo tiene un enorme potencial destructivo como detallamos anteriormente, sino que puede elevar la humanidad hasta una nueva era de prosperidad.

Conclusión

¿Deberíamos detener la inteligencia artificial antes de que acabe con nosotros? ¿O quizás es mejor dejarla florecer, ya que puede ser nuestra mejor aliada? El debate está servido.

Ciertamente, existen voces de expertos que piden desesperadamente un freno a esta tecnología. Sin embargo, no se puede negar que la inteligencia artificial y la sociedad, trabajando en conjunto, pueden solucionar los problemas que han quejado a la humanidad durante milenios y llevarnos a una nueva época de florecimiento.

Referencias: