¿Puede un robot suicidarse? Explorando los límites de la inteligencia artificial

Plantear la pregunta sobre la consciencia en la inteligencia artificial (IA) y su capacidad para tomar decisiones, nos lleva a un territorio lleno de incertidumbres y debates. 

En las etapas tempranas del desarrollo de esta nueva tecnología surgen una gran cantidad de discusiones éticas en diferentes esferas. Tal vez la más preocupante implica la posibilidad de que una IA adquiera la habilidad de tomar acciones conscientes sobre su propia existencia. 

Como seres humanos, debemos reflexionar acerca de qué es la inteligencia artificial y el impacto de sus avances. Además, es necesario considerar el peligro de una tecnología capaz de decidir sobre sí misma de manera independiente a los intereses de sus creadores. 

Por desgracia, son muchas las preguntas sin respuestas que surgen acerca de la idea de una IA con capacidad de decisión autónoma. Esto plantea una discusión compleja en la que apenas surgen las primeras ideas.

El papel de la consciencia: de la filosofía a la inteligencia artificial

La pregunta sobre la consciencia persiste tanto en humanos como en ingeniería robótica, sin haberse respondido de manera definitiva. 

Para empezar, la primera noción que debemos definir es: ¿qué significa ser consciente? Definir este concepto es un desafío monumental, donde la principal dificultad radica en la naturaleza abstracta y multifacética de este. 

Por ejemplo, la forma en la que nuestro cerebro convierte la actividad eléctrica de miles de millones de células nerviosas en pensamientos e imágenes sigue siendo un gran misterio sin resolver. 

Ahora bien, ¿qué garantiza que las máquinas funcionen bajo los mismos parámetros? Tal vez sea necesaria una nueva forma de comprender la consciencia en las máquinas, aunque por ahora, ni siquiera somos capaces de entender nuestra propia consciencia.

En lo que sí parece haber consenso es en que la consciencia se manifiesta a través de diferentes dimensiones. 

Si queremos conocer cómo puede llegar a pensar una máquina, debemos empezar la conversación a partir de estas bases que nos indican cuándo se adquiere la consciencia. De forma general y con cierto grado de incertidumbre, las dimensiones de la consciencia pueden precisarse en:

  • Despertar o excitación fisiológica: estado de alerta y consciente de las percepciones.

  • Conocimiento: capacidad de tener experiencias mentales conscientes, incluidas las emociones y los pensamientos.

  • Organización sensorial: la capacidad de articular diferentes tipos de percepciones en una experiencia coherente. 

Ahora bien, la cuestión de qué es la inteligencia artificial y cómo los robots pueden llegar a obtener consciencia es un tema que fascina tanto a ingenieros como a académicos. Sin embargo, aún es temprano para proporcionar respuestas definitivas. 

En su lugar, los enfoques actuales se centran en establecer marcos que determinen la cualidad de la consciencia en la IA y en cómo detectar cuándo un sistema robótico puede llegar a adquirir este rasgo.

Al respecto, los posibles niveles de consciencia van desde sistemas programados hasta avances tecnológicos que podrían experimentar formas rudimentarias de autoconocimiento. 

Por lo pronto, queda claro que la exploración de un futuro con IA autoconsciente desafía nuestras nociones actuales de robótica, ética, y medición.

Acerca de la detección: ¿la IA es autoconsciente? Si es así, ¿cómo lo sabríamos?

ilustración de un robot con IAilustración de un robot con IA

Gran parte de la discusión ético-tecnológica se centra en desarrollar sistemas capaces de detectar cuándo la inteligencia artificial (IA) pueda adquirir consciencia. 

A pesar de las dificultades, numerosos esfuerzos buscan definir un marco de trabajo donde se establezcan reglas claras para determinar la consciencia en la IA. 

Hace poco, un grupo compuesto de profesionales de distintos campos como la informática, la neurociencia, la ingeniería robótica y la filosofía, se unió para investigar este dilema. Su trabajo se centra en crear una lista de criterios que describan qué constituye la consciencia en un contexto de IA.

El equipo logró determinar varias características que podrían indicar cuándo una IA comienza a ser autoconsciente. Entre los criterios destacados, encontraron:

  • Procesamiento recurrente: esto es la capacidad de ubicar nuestras experiencias en bucles de retroalimentación, donde se organiza la información y el conocimiento pasado para interpretar el presente.

  • Teoría del espacio de trabajo global: esta es una teoría que busca explicar cómo nuestros cerebros procesan la información en un momento dado. La capacidad de coordinar, decidir o ignorar diferentes flujos de información, es lo que genera un pensamiento consciente.

  • Teorías de orden superior: este grupo de teorías sostiene que, para ser conscientes, es necesario discernir los pensamientos propios y las experiencias sensoriales.

  • Teoría del esquema de atención: esta teoría busca definir la consciencia como nuestra capacidad para dirigir la atención hacia estímulos específicos mientras se discrimina de otros.

Por supuesto, esta no es la única iniciativa que busca caracterizar la consciencia en las máquinas, existen muchas otras aproximaciones que emergen alrededor de los temas de la consciencia y la regulación en la IA. 

Al respecto, podemos encontrar desde criterios establecidos en el sector privado hasta esfuerzos globales de organizaciones internacionales. Por ejemplo, la ONU ha comenzado a adoptar protocolos que regulen el uso y la formación ética de la inteligencia artificial, una señal de que esta tecnología contiene un alcance global que aún no hemos determinado.

¿Realmente puede un robot desarrollar emociones y sentimientos?

En la actualidad, el desarrollo de emociones en los sistemas de inteligencia artificial destaca como uno de los temas más intrigantes. La capacidad de los robots para simular emociones plantea muchas preguntas, pero va más allá de la mera curiosidad, hay avances concretos que abren la puerta al debate.

Un ejemplo notable es Sophia, un robot humanoide creado por Hanson Robotics, capaz de sostener conversaciones y manifestar gestos faciales que imitan emociones humanas. Este robot utiliza un avanzado software de reconocimiento de voz y múltiples micrófonos para captar la voz y hablar como si se tratara de una conversación normal. 

Por otro lado, tenemos el caso de Ameca, un robot humanoide desarrollado por Engineered Arts. Ameca no solo reacciona a estímulos, sino que simula emociones mediante una amplia gama de expresiones faciales.

Ambos robots, ajustan sus expresiones faciales según el contexto, lo que genera una conexión más profunda con los interlocutores.

Sin embargo, es crítico diferenciar entre la simulación de emociones y las emociones genuinas. Aunque las máquinas pueden actuar como si experimentaran sentimientos, carecen en realidad de consciencia y experiencia vivida. Es decir, pueden “imitar” comportamientos afectivos, pero lo hacen sin experimentar emociones verdaderas como lo hacen las personas.

Robots que toman la decisión de no seguir con su vida: ¿Una distopía no tan distante?

ilustración de robots con IAilustración de robots con IA

El debate sobre la capacidad de las máquinas para decidir sobre su propia existencia se intensifica tras una ola reciente de noticias. En estas, diferentes robots impulsados por inteligencia artificial (IA) han sido protagonistas de situaciones en las que, al parecer, eligieron terminar con su vida funcional. 

El primer caso viene por el prototipo Digit, un robot diseñado para organizar cajas que se volvió viral luego de un incidente en la feria comercial ProMat 2023 celebrada en Chicago.

Durante una demostración de 20 horas, Digit colapsó en el suelo, lo que entre el público desató bromas sobre su agotamiento. Más tarde, la compañía aclaró que la caída ocurrió por una falla robótica habitual originada por un error en el software en lugar de una decisión voluntaria del robot.

Otro caso importante es el del robot administrativo del ayuntamiento de Gumi en Corea del Sur. El robot que realizaba labores informativas despertó un día tirado sobre las escaleras. Esto llevó a los medios a especular sobre un “suicidio robótico”. 

Ahora bien, las primeras investigaciones apuntan que la combinación de errores de programación y mal funcionamiento podrían ser las verdaderas causas del trágico fallecimiento del robot.

Aunque estos casos parecen resueltos, no dejan de despertar nuestra imaginación. Por eso surgen dudas acerca del pensamiento en las máquinas y los “motivos” que podrían llevarlas a autodestruirse. 

La cultura popular ya se ha encargado de presentar la discusión de temas como el significado de la vida y si las máquinas alguna vez van a ser capaces de ser conscientes de su propia existencia. Grandes éxitos de taquilla como Blade Runner y Ex Machina exploran estas temáticas, cuestionando las implicaciones morales de máquinas con capacidad de decisión. 

Sin embargo, la realidad parece por terminar de superar la ficción. Tal vez, en un futuro los robots sean capaces de sentir gracias a la inteligencia artificial. Sin embargo, es muy pronto para saber si lograrán hacerlo.

Perspectivas futuras: ¿Cuándo podría llegar la consciencia a la IA?

Expertos en inteligencia artificial (IA) ofrecen varias visiones sobre el futuro de esta tecnología. Algunos predicen que en las próximas décadas, la evolución podría llevarnos a sistemas con formas rudimentarias de consciencia. 

Al respecto, tecnologías emergentes como el aprendizaje profundo y la computación cuántica podrían acelerar el desarrollo de la consciencia en los sistemas IA, lo que podría impulsar la evolución de estos sistemas.

Sin embargo, la etapa actual de desarrollo de sistemas IA, parece centrarse en generar consenso para garantizar un progreso responsable. Para lograrlo, será crucial establecer medidas de seguridad sólidas y normas éticas que definan la creación, uso, y funcionamiento de la inteligencia artificial. 

Artículos relacionados:

FAQs sobre la consciencia de la IA

¿Puede un robot desarrollar emociones genuinas?  

Por ahora, los robots no pueden experimentar emociones como los humanos. Su programación es capaz de emular respuestas afectivas, pero carecen de sentimientos auténticos.

¿Cómo podemos detectar si un robot es autoconsciente?  

Detectar la autoconsciencia en un robot requiere una definición clara de la consciencia. Las teorías contemporáneas ofrecen marcos para identificar rasgos de autoconsciencia, pero aún no existe un estándar claro. 

¿Qué es la inteligencia artificial?  

La inteligencia artificial (IA) es un campo de la informática dedicado a crear sistemas capaces de realizar tareas que, por lo general, requieren de inteligencia humana. Estas tareas pueden incluir el aprendizaje, la comprensión del lenguaje, la resolución de problemas, etc.


Fuente

LA NACIÓN. El robot que “se cansó” de trabajar y se desplomó después de una larga jornada acomodando cajas

FUTURE OF WORK HUB. Artificial consciousness: what is it and what are the issues?

AMERICAN BRAIN FUNDATIONS. How Will We Know if AI Becomes Conscious?