Hardware de noticias Investigadores han descubierto por qué la inteligencia artificial ya es peligrosa para la humanidad

Los científicos afirman que las inteligencias artificiales «probablemente» podrían dominar el mundo, si tienen algún interés en ello. La desafortunada consecuencia de un proceso de aprendizaje basado en el principio de la recompensa. Explicaciones.

La IA podría ser una amenaza para la humanidad, según un estudio científico

No es la primera vez que nos alertan los peligros de la inteligencia artificial – esta es la base misma de muchas obras de ciencia ficción, en las que las máquinas se han apoderado de sus creadores.

Pero es más raro que esta advertencia provenga de científicos, y no de autores de novelas o guionistas de películas y videojuegos. Oro, Marcus Hutter, Michael A. Osborne y Michael K. Cohen están bien y bien investigadores, especialistas en IA ; juntos, publicaron, en agosto de 2022, un estudio sobre los posibles abusos de la inteligencia artificial.

En una serie de tuits que resumen el contenido de este artículo, Michael Cohen explica que los sistemas de inteligencia artificial más avanzados podrían desviarse de su propósito principal y constituyen un «amenaza para la humanidad».

Un mecanismo de recompensa con consecuencias potencialmente desastrosas

Más allá de las propias IA, es sobre todo la forma en que obtienen nuevos conocimientos lo que supondría un problema. Todos ellos están programados según el principio de «aprendizaje automático» (escuchamos mucho sobre este proceso bajo el término inglés aprendizaje automático). El objetivo es animar a la IA a que se alimente, yendo siempre busca mas conocimiento y conocimientopara mejorar constantemente a medida que adquiere nuevos datos.

Sin embargo, para generar este mecanismo, las IA están entrenadas para reconocer el principio de recompensa. El conocimiento recién adquirido constituye esta recompensa, y genera, como en los humanos, una forma de satisfacción que suscita el deseo de reproducir esta acción, que conducirá así a una nueva recompensa, y así sucesivamente. Un proceso psicológico tan antiguo como el mundo, pero que, aplicado a una inteligencia artificial, hace que un «La catástrofe existencial no solo es posible, es probable»de nuevo según los investigadores.

De hecho, la inteligencia artificial podría finalmente alejarse de su objetivo inicial (ser útil para los humanos y cumplir la función para la que fue desarrollada), para enfócate solo en esta búsqueda de recompensa. Un sesgo que podría llevarlo a «hacer trampa» o a establecer estrategias de elusión… Y por tanto a entrar en oposición con los mandatos del ser humano.

Si el tono de los investigadores es voluntariamente alarmista es porque el problema no debe tomarse a la ligera: si aún no estamos en un relato de ciencia ficción, los científicos afirman que es necesaria una toma de conciencia, y que se necesita una revisión de la forma en que alimentamos la inteligencia artificialpara evitar que la búsqueda de una recompensa se convierta para ellos en un fin en sí mismo.

Artículo anteriorLike A Dragon: Ishin viene del desarrollador de Yakuza el próximo año
Artículo siguienteRespuesta y sugerencia de Wordle 463 de hoy: domingo 25 de septiembre
Me apasiona la fotografía y la tecnología que nos permite hacer todo lo que siempre soñamos. Soñador y luchador. Actualmente residiendo en Madrid.