Noticias JVTech «Lo siento por destruir a la humanidad»: la IA se pronuncia y da miedo. Tiene razón.

Compartir, repartir :

Ya está, el fin del mundo provocado por la IA ha entrado en el imaginario colectivo. El apocalipsis robótico provocado por una inteligencia artificial ya no es una fantasía friki de la ciencia ficción, sino un miedo muy real para mucha gente. En San Francisco se acaba de erigir un monumento a la desaparición de la humanidad.

Una IA te habla y te avisa en el corazón de San Francisco

Una mampara a la entrada del Museo de la desalineación da la bienvenida a los visitantes con la frase que hemos elegido como título de este artículo: «Perdón por destruir a la humanidad». En inglés, da «Perdón por matar a la mayor parte de la humanidad».

Dentro del Museo de Desalineación en San Francisco, una importante exposición sobre IA está en los titulares. La información incluso fue retomada por AFP (Agence France Presse). Es fácil entender este entusiasmo: los avances tecnológicos que rodean a la IA están asustando al público en general. Llevando la línea hasta el punto de la parodia, la exposición muestra un mundo en el que las IA dominadas sin moral se han vuelto incontrolables.

El comisario de la exposición, audrey kim, resume muy bien la idea. Ella dice: «El concepto del museo es colocar al visitante en un mundo post-apocalíptico en el que una inteligencia artificial ya ha destruido a la mayor parte de la humanidad. Posteriormente, se da cuenta del peso moral de sus actos y decide crear una salida memorial a la desaparición de la humanidad”. La exposición sería entonces una especie de inmersión dentro de este memorial.

https://www.instagram.com/p/Cob7FHXOpJM/?igshid=YmMyMTA2M2Y=

En estos momentos, todos los medios hablan de Inteligencia Artificial, un término vago, que engloba muchas realidades diferentes. Hay un abismo enorme entre una Inteligencia Artificial General (o AGI, se dice de una IA capaz de igualar o incluso superar a los humanos en todas las tareas cognitivas de las que es capaz nuestro cerebro) y una IA como Siri por ejemplo.

Un AGI dominado que ha alcanzado la famosa Singularidad, por lo tanto capaz de pensar por sí mismo, sigue siendo un concepto de ciencia ficción. Quizás algunos de ustedes piensen que nos estamos acercando a ChatGPT. A riesgo de decepcionarlo, el bebé de OpenAI puede ser una herramienta impresionante para una audiencia no iniciada, pero sigue siendo nada menos que un modelo de lenguaje simple.

Entonces, ¿toda esta historia conmemorativa es solo un delirio de artistas que juegan con nuestros miedos? ¿Qué buen gran golpe de com? No realmente. Incluso si estamos lejos de las fantasías de la ciencia ficción, todavía hay buenas razones para temer la era de la IA.

¿Es racional el miedo a las Inteligencias Artificiales? Sí

San Francisco se encuentra justo en el corazón de Silicon Valley, donde algunas de las empresas de IA más exitosas del mundo compiten por una IA sólida. Una IA fuerte es una AGI capaz de emitir sus propios pensamientos e incluso experimentar sentimientos. De momento estamos bastante lejos de ello, pero este pequeño entorno se acerca cada día un poco más a su peligroso Santo Grial.

Según muchos expertos en Inteligencia Artificial, como Lê Nguyen Hoang, es urgente interesarse por los valores morales que se codificarán en las IA del futuro. Bien hecha, una IA puede ser increíblemente beneficiosa para la humanidad, según Sam Altman, fundador de OpenAI. Mal administrada, esta misma IA tendría un poder destructivo masivo.

La exposición de la que hablamos hoy invita a sus visitantes a participar en varios experimentos mentales para que personas no expertas como tú y yo podamos comprender mejor los problemas relacionados con el desarrollo de la inteligencia artificial. El trabajo favorito de Audrey Kim es una escultura llamada “Paperclip Embrace”. Representa dos bustos de humanos abrazados, realizados íntegramente con clips.

Esta obra es una referencia obvia a la obra del filósofo y autor de SF Nick Bostrom. En la década de 2000, Bostrom imaginó lo que sucedería si una IA superpoderosa codificada sin ningún valor moral y con el único propósito de maximizar la producción de clips pudiera conducir al fin del mundo.

Ya que estamos en NoticiasVideojuegos.com, aprovechamos esta oportunidad para recomendar un excelente juego de navegador gratuito, también creado en torno al experimento mental de los clips de papel de Nick Bostrom. Si tienes una hora o dos para matar, prueba Clips universales ! Le prometemos que esto no es una colocación de productos, sino una simple recomendación.

Al igual que Paperclip Embrace, cada obra actualmente expuesta en Misalgnment Museum invita a reflexionar sobre uno de los problemas que plantea la inteligencia artificial. Así, se pueden encontrar trabajos, entre otros, sobre:

  • Las decisiones morales que se deben tomar vehículos autónomos (¿Debe un automóvil autónomo proteger a su pasajero por encima de todo, incluso si eso significa matar personas? ¿Todas las vidas son iguales? Estas son preguntas altamente filosóficas).
  • El impacto de los modelos de lenguaje como ChatGPT sobre estafas o propaganda política.
  • El arma de la desinformación masiva qué falsificaciones profundasestas imitaciones más reales que la naturaleza de rostros y voces.

El objetivo del Comisario es hacer esta exposición permanente instalando frecuentemente nuevas obras. Las IA plantean nuevos desafíos filosóficos casi todos los días: a priori, ¡siempre habrá materia!

Artículo anteriorDestiny 2: Revisión de Lightfall – Aciertos y errores
Artículo siguienteRecupera las alfombrillas de carga inalámbricas para ratones
Me apasiona la fotografía y la tecnología que nos permite hacer todo lo que siempre soñamos. Soñador y luchador. Actualmente residiendo en Madrid.