En este artículo vas a encontrar, no solo la reseña de un ensayo sobre la Singularidad tecnológica, sino también las explicaciones sobre lo que es la Singularidad tecnológica y sus orígenes vinculados a la ciencia ficción.
El ensayo del que hablo es «Le mythe de la Singularité. Faut-il craindre l’intelligence artificielle?» – El mito de la Singularidad. ¿Tenemos que tener miedo de la inteligencia artificial?. Escrito por Jean-Gabriel Ganascia, profesor de la universidad Pierre-et-Marie-Curie e investigador sobre la inteligencia artificial. También es presidente del comité nacional de ética del CNRS: Centro Nacional de la Investigación Científica francés. No creo que haya sido traducido al español.
La premisa del ensayo me pareció interesante y lo compré sin haber leído ninguna recomendación. Lo tenía en mi estantería desde hacía varios años (fue publicado en 2017) y me decidí a leerlo cuando oí hablar de la carta abierta sobre los peligros de la IA (Inteligencia Artificial) de este año (2023). La sinopsis de contraportada dice lo siguiente (con mi traducción):
«¿Nuestras máquinas se volverán más inteligentes y más poderosas que nosotros? ¿Nuestro futuro es el de una cibersociedad donde la humanidad estará marginalizada? ¿O accederemos a una forma de inmortalidad descargando nuestos espíritus en los ordenadores del mañana?
Ese momento crítico, bautizado «Singularidad tecnológica» es una de las bases de la futurología contemporánea y su inminencia es proclamada y deseada por tecnogurús como Ray Kurzweil (jefe de proyecto de Google) o Nick Bostrom (de la venerable universidad de Oxford). Algunos científicos y empresarios, como Stephen Hawking o Bill Gates, comparten esas perspectivas pero se preocupan.»
¿Qué es la Singularidad tecnológica?
«El cataclismo no será causado ni por la colisión de un astro misterioso con la Tierra, ni por el cambio climático, ni por la polución atmosférica, las lluvias ácidas, el agujero de ozono o el efecto invernadero. Tampoco habrá una guerra nuclear (…). Surgirá de manera casi natural, por una propagación espontánea, prolífica e irreprimible de máquinas que se autogenerarán, crecerán y se multiplicarán sin avisar, antes de engullirnos.»
Extracto del ensayo, capítulo 2
Esta noción de Singularidad viene de las matemáticas y de la física. En matemáticas, la singularidad corresponde a un objeto, un punto, una valor o un caso particular mal definidos, a partir del cual, aparece crítico. El ejemplo que da el ensayo es para gente entendida: «y=1/x», cuanto más se acerca «x» de 0, menos es posible determinar el valor de «y» (ver división por cero en wikipedia). En física, la singularidad corresponde a un cambio brusco de comportamiento, como en una transición de fase, en el caso de una licuación o de una evaporación (ver cambios de estado en wikipedia).
¿Cómo se extrapoló esa noción de singularidad matemática o física a la tecnología? Para responder, tenemos que hablar de la ciencia ficción.
La ciencia ficción imagina la Singularidad tecnológica
El origen del término Singularidad tecnológica
Aunque el primer uso del término «Singularidad tecnológica» se atribuye al matemático y físico húngaro John von Neumann en 1957, no fue hasta enero de 1983 que el término no se popularizó gracias al matemático y escritor de ciencia ficción: Vernor Vinge con su artículo en la revista Omni «First Word«. Los lectores de ciencia ficción empezaron a descubrir las novelas de Vernor Vinge en los años 1980, y no publicó su ensayo «The coming technological singularity» (La singularidad tecnológica por venir) hasta 1993, dónde extendió su versión de la singularidad tecnológica a otros conceptos.
Según Vernor Vinge, en unos treinta años (vamos, en 2023, aquí estamos…), el progreso de la tecnología de la informática dotaría a entes artificiales de una inteligencia sobrehumana, que se reproducirían sucesivamente, de forma exponencial, llegando a un punto de «singularidad» con consecuencias inimaginables para el hombre. Hasta ahí, era un escenario compartido con John von Neumann, con Stanislaw Ulam (matemático polaco) y con Irving John Good (estadístico británico que había trabajado con Alain Turing)*.
La influencia de la ciencia ficción
Vernor Vinge, que se había nutrido de la ciencia ficción de los años 1950 y 1960, fue más lejos y citó un efecto colateral de la singularidad tecnológica. Él creía que el humano es competitivo por naturaleza y que eso le llevaría al transhumanismo, a la transformación de la inteligencia humana para competir con la inteligencia artificial. En consecuencia, a la evolución de los humanos en cyborgs.
Un ejemplo de estas historias de ciencia ficción sería el libro de “Yo, Robot” de Isaac Asimov estableciendo las tres leyes de la robótica. Pero su historia más relacionada con la Singularidad tecnológica es su relato de 1956, “La última pregunta”. Se trata de una historia futurista donde los humanos durante generaciones siempre hacen la misma pregunta a la poderosa computadora “Multivac” que controla y dirige la actividad humana. Un relato que recomiendo mucho leer.
El ensayo destaca el vínculo que existe entre ciencia y ciencia ficción, ya que se dan más recursos a investigaciones que puedan ser explicadas fácilmente a un gran público (conocedor de la ciencia ficción), que a las que resultan difíciles de vender o explicar a la populación.
La pseudoreligión de la Singularidad tecnológica
El autor Jean-Gabriel Ganascia nos habla de los «tecno-profetas» de la Singularidad tecnológica como pueden ser el experto en robótica: Hans Moravec que anuncia que la robótica conducirá a una transformación importante de la humanidad; o el experto en cibernética: Kevin Warwick que anuncia que el hombre tendrá que convertirse en «cyborg» para sobrevivir. El más conocido es Raymond Kurzweil, director de ingeniería de Google, con un curriculum impresionante, y que estima que nos descargaremos la consciencia en las máquinas dentro de poco, lo que nos procurará una especie de inmortalidad. Una idea que el ensayo rebate con mucho escepticismo.
También nos habla de filósofos como Nick Bostrom (profesor de la universidad de Oxford) o David Pearce, que profetizan el transhumanismo y la selección de embriones en la fecundación in vitro, una forma moderna de eugenismo para mejorar la especie humana, según el ensayo.
Y completará citando a algunos de los que presentan escenarios más pesimistas. El investigador belga: Hugo de Garis que imagina una guerra mundial entre híbridos con inteligencia artificial y los que defenderán la naturaleza humana sin hibridación. O el confundador de Sun-Microsystem, Bill Joy, que publicó un artículo «Why the futur doesn’t need us» (Por qué el futuro no nos necesita) donde preconiza que las nanotecnologías se proliferarán como los virus.
Opinión del ensayo de Jean-Gabriel Ganascia
El ensayo se hace difícil de leer una vez pasados los cuatro primeros capítulos porque entra en un análisis detallado para refutar la Singularidad tecnológica que se apoya a su vez en la ley de 1965 de Gordon Moore. ¿En qué consiste esta ley? Gordon Moore, uno de los fundadores de la empresa Intel, consideraba que el número de microprocesadores doblaba cada dieciocho meses desde 1959 y preconizó en 1965 que tendría un aumento exponencial hasta 2017. Raymond Kurzweil combinaría esta susodicha ley de Moore con la ley universal de la evolución para explicar hacia dónde se dirige la humanidad.
La mayor parte del libro la pasará a justificar por qué la ley de Moore no es infinatemente válida, por qué no se puede extrapolar a la ley universal de la evolución, y por qué considera la Singularidad tecnológica como un mito, una narración, y no un razonamiento lógico.
Pero también se interrogará sobre la carta abierta de 2015 firmada por especialistas de la inteligencia artificial preocupados por el desarrollo de su disciplina. Como la que se ha firmado en 2023. Jean-Gabriel Ganascia acusa a los que la firman de ser bomberos pirómanos, ya que la mayoría trabaja en el sector. Para él, o buscan la grandeza de convertirse en dioses, o están realmente haciendo públicas sus preocupaciones sobre el futuro, o es una forma de hacer publicidad a la industria de la IA.
Conclusión
El libro es bastante tranquilizador ya que desmitifica la catástrofe de la Singularidad tecnológica, diciendo que todo peligro identificado se puede trabajar y evitar. Para Jean-Gabriel Ganascia las verdaderas catástrofes son las que pertenecen a lo desconocido e imprevisible.
Pero lo más curioso es su conclusión. Cree que esta alerta al peligro de la Singularidad tecnológica no sería más que otra forma que tienen las grandes empresas de distraernos de la apropriación progresiva del poder de los Estados que están ejerciendo sobre la seguridad (con la biometría), la protección de nuestros datos (la ciberseguridad), la administración de nuestro dinero (las criptomonedas), pero también la gestión de registros de estado civil o de cadastro. Sin hablar de la educación a través del catálogo de formación en línea.
Tras su lectura, creo que debemos desconfiar de una carta abierta alarmista, pero continuar a protegernos de toda mala utilización de la IA o de cualquier tecnología. ¿Bastará con la reglamentación? ¿Llegaremos a tiempo? Estamos escribiendo nuestra historia.
*Artículo de S. Ulam «Tribute to John von Neumann», en el Bulleting of the American Mathematical Society», de mayo 1958. Artículo de I. J. Good «Speculations Concerning the First Ultraintelligent Machine» in Advances in Computers de Academic Press, en 1965.
Suscríbete a la lista de correo para estar informado de todo nuevo artículo de este blog:
La foto de la portada es de Happiness. El dibujo de los robots es de Chil Vera, la imagen de los cyborgs es de Pavel Kapitanov y los bomberos es una foto de Enrique. Todas las imágenes fueron encontradas en Pixabay.
