Vida 3.0

Being Human in the age of Artificial Intelligence

Max Tegmark

Edición original en inglés: agosto 2017

Edición en español: Peguin Random House, junio 2018 ( traducción de Marcos Pérez Sánchez ).

Debate Club de lecturas 1/3: Sábado 8 de Enero de 2022 – 19hrs España

Preludio y capítulos 1, 2 y 3

Debate Club de lecturas 2/3: Sábado 22 de Enero de 2022 – 19hrs España

Capítulos 4 y 5

Debate Club de lecturas 3/3: Sábado 5 de Febrero de 2022 – 19hrs España

Capítulos 6, 7, 8 y Epílogo ( Principios de Asilomar para la IA )

Guía de Lectura preparada por: Joan Viaplana

Max Tegmark  

[1]Nacido en Estocolmo, Tegmark dejó Suecia en 1990 después de recibir su B.Sc. en Física del Instituto Real de Tecnología (había obtenido una licenciatura en Economía el año anterior en la Escuela de Economía de Estocolmo). Continuó sus estudios de física en la Universidad de California, Berkeley, graduándose en 1992 y doctorándose en 1994.

Tegmark regresó a Europa como investigador asociado en el Max-Planck-Institut für Physik en Munich.

En 1996 regresó a los Estados Unidos como becario Hubble y miembro del Instituto de Estudios Avanzados de Princeton. Tegmark permaneció en Nueva Jersey durante unos años tras los que asumió una cátedra asistente en la Universidad de Pensilvania, de la que recibió la titularidad en 2003.

En septiembre de 2004 se incorpora al MIT donde actualmente desarrolla su labor docente e investigadora.

Su investigación ha abarcado desde la cosmología hasta la física de los sistemas cognitivos, y actualmente se centra en la interfaz entre la física, la IA y la neurociencia.

Tegmark es autor de más de 200 publicaciones y de los bestsellers Life 3.0: Being Human in the Age of Artificial Intelligence y Our Mathematical Universe: My Quest for the Ultimate Nature of Reality y ha aparecido en docenas de documentales científicos.

Ha recibido numerosos premios por su investigación, incluyendo una beca Packard (2001-06), un premio Cottrell Scholar (2002-07) y una beca NSF Career (2002-07). Su trabajo en colaboración Sloan Digital Sky Survey sobre el agrupamiento de galaxias compartió el primer premio en el «Avance del año 2003” de la revista Science y en 2019 recibió la Medalla de Oro de la Real Academia Sueca de Ciencias de la Ingeniería por sus «contribuciones a nuestra comprensión del lugar de la humanidad en el cosmos y las oportunidades y riesgos asociados con la inteligencia artificial».

Es miembro de la American Physical Society, presidente del Instituto del Futuro de la Vida y director científico del Instituto de Preguntas Fundacionales. Su investigación ha abarcado desde la cosmología hasta la física de los sistemas cognitivos, y actualmente se centra en la interfaz entre la física, la IA y la neurociencia.

Web personal: https://space.mit.edu/home/tegmark/

Email: tegmark@mit.edu

Facebook: https://www.facebook.com/people/Max-Tegmark/100045709865628/

Twitter: @tekmark ( 71,3 millones de seguidores )

Conferencias:

• https://www.ted.com/talks/max_tegmark_how_to_get_empowered_not_overpowered_by_ai?language=es

Entrevistas:

• https://es.paperblog.com/max-tegmark-esta-el-universo-hecho-de-matematicas-272702/
• https://theconversation.com/max-tegmark-la-inteligencia-artificial-puede-ser-lo-mejor-que-haya-sucedido-nunca-o-lo-peor-154759
• https://futureoflife.org/2017/08/29/podcast-life-3-0-human-age-artificial-intelligence/
• https://www.youtube.com/watch?v=SF0rqr2z6zw&t=8s

Vida 3.0. –  Esquema del libro

Prólogo.       La historia del equipo Omega

Relato acerca de un equipo que consigue crear y controlar una superinteligencia artificial.

Bloque: La inteligencia hoy

• Bienvenidos a la conversación más importante de nuestro tiempo

MT nos plantea el objetivo del libro los elementos básicos de la “conversación” necesaria sobre el futuro de la IA.

• La materia se vuelve inteligente

MT explora la naturaleza de la inteligencia y su desarrollo actual.

Su principal conclusión es que la materia se puede organizar para computar y aprender cumpliendo las leyes de la física y no siendo necesario que la materia sea biológica.

• El futuro próximo

MT describe los avances más recientes[2] y nos presenta los retos de la IA actual (lejos de la inteligencia general y de la superinteligencia) en 4 ámbitos distintos y termina planteando si el salto a una IA de nivel humano es posible con la tecnología actual

Bloque: La Singularidad

• ¿Explosión de inteligencia?
• Tras la explosión
• Nuestra herencia cósmica

Bloque: ¿Cómo influir en el futuro de la IA?

• Objetivos
• Consciencia

Epílogo.        La historia del equipo del FLI

Vida 3.0 – Qué significa ser humano en la era de la IA

0.-      Prólogo. La historia del equipo Omega

Max Tegmark ( MT ) nos propone la lectura de una “historia” si creemos que una IA sobrehumana puede llegar a inventarse este siglo

Pregunta #1: Solo como encuesta inicial ¿Creéis que una IA más allá de la humana podrá desarrollarse este siglo ( horizonte temporal de unos 80 años a partir del punto actual de desarrollo )?

Resumen de la historia del equipo Omega:

El equipo Omega era un equipo independiente, dentro de una empresa de IA, dedicado a la I+D que trabaja con el objetivo de crear una “inteligencia artificial general”. Eran idealistas y estaban comprometidos a conseguirlo ellos antes que lo consiguiesen grupos con objetivos dudosos.

Trabajaban en Prometeo, una IA especializada en programar sistemas de IA, con el objetivo de generar un proceso de automejora recursiva que llevara a una explosión de inteligencia. Con esta inteligencia Prometeo aprendería el resto de habilidades.

Consiguieron su objetivo con una versión de Prometeo que, aunque con una copia de ingentes datos de la web para que pueda aprender, está aislado ( desconectado de internet ).

Inicialmente utilizaron a Prometeo para ganar dinero realizando tareas altamente estructuradas para financiar el propio proyecto. La estrategia fue un éxito y, tras descartar operar en bolsa como siguiente paso, decidieron que Prometeo creara sus propios productos (digitales), aunque aún manteniéndolo “aislado”.

Así, el siguiente paso fue la creación de películas y otro contenido audiovisual. Prometeo debió no solo aprender los aspectos técnicos sino también obtener una detallada comprensión de la sociedad humana para entender qué podía tener éxito. Crearon un canal de contenido y en dos meses ya competían con las principales productoras mundiales.

Para no levantar sospechas crearon campañas de desinformación y pusieron en marcha infraestructura de computación propia diseñada por Prometeo pero implantada por un ejercito de ingenieros y científicos a partir de diseños generados por ella. En un par de años esta tecnología era superior a los equipos existentes, pero no los comercializaron, utilizándolos solo para Prometeo.

Los avances de Prometeo en diversos campos permitieron al equipo Omega crear toda una red de empresas que llevaron al mercado un gran número de avances científicos y tecnológicos, aunque el origen real de estos se mantenía oculto.

El dinero obtenido se utilizó para contratar personal para proyectos comunitarios y para realizar donaciones a los políticos que reforzaban esos proyectos. Se implementaron mejoras sociales que en opinión de los ciudadanos “debieran haberse hecho mucho antes”.

El siguiente objetivo era dominar el mundo. Para ello utilizaron el canal de noticias de su imperio mediático. Se ganaron la confianza del público, aplicaron la máxima “la verdad, nada más que la verdad, pero quizá no toda la verdad” y empezaron a persuadir para eliminar conflictos y reducir amenazas globales como la amenaza nuclear o el cambio climático. Como parte de esta estrategia Prometeo revolucionó la educación extendiendo los avances logrados pero creando al mismo tiempo estratégias de persuasión también con el objetivo de acabar con los conflictos y amenazas.

Mediante esta persuasión debilitaron las estructuras de poder político, económico y religioso, y con la red de empresas creada eliminaron la competencia de la élite empresarial tradicional. Los ciudadanos sentían que su calidad de vida mejoraba, aunque para ello Omega redistribuía tan solo una módica parte de sus beneficios.

Se crearon partidos políticos que coparon el espacio del centro y ganaron elecciones. La utopía de una retribución mínima desapareció ante la generación de empleo social sufragado por Omega a través de una ONG global: la Alianza Global.

La Alianza generó agradecimiento y lealtad en todo el mundo, incluso por encima de las instituciones políticas y fue asumiendo funciones de un Gobierno mundial.

Se completó la transición a un gobierno dirigido por una única potencia que podía hacer que la vida floreciese en la tierra y en todo el universo.

Pregunta #2: En realidad en esta historia la IA es solo una herramienta y, de hecho no controla nada por si misma sino que es un facilitador de un nuevo orden mundial. Pero ¿creéis que este es un escenario deseable (obvio la calificación de bueno intencionadamente)?

[1] La imagen la he escogido por la cita que aparece en ella y que nos muestra un enfoque poco habitual en la interpretación del Universo

[2] 2016