Artículo originalmente publicado en el Journal of Evolution and Technology - Vol. 14 Nro. 1 - April 2005; reimpreso en Academic Writing Across the Disciplines, eds. Michael Rectenwald & Lisa Carl (New York: Pearson Longman, 2011).
El deseo humano de adquirir nuevas capacidades es tan antiguo como nuestra propia especie. Siempre hemos buscado expandir los límites de nuestra existencia, ya sea social, geográfica o mentalmente. Hay una tendencia en al menos algunos individuos a buscar siempre una forma de sortear cada obstáculo y limitación para la vida y felicidad humana.
Los entierros ceremoniales y los fragmentos conservados de escritos religiosos muestran que los seres humanos prehistóricos se vieron perturbados por la muerte de sus seres queridos. Aunque la creencia en un más allá era común, esto no excluía los esfuerzos por prolongar la vida terrenal. En la epopeya sumeria de Gilgamesh (aproximadamente 1700 a. C.), un rey emprende una búsqueda de la inmortalidad. Gilgamesh aprende que existe un medio natural: una hierba que crece en el fondo del mar (Mitchell 2004). Él logra recuperar con éxito la planta, pero una serpiente se la roba antes de que pueda comerla. En tiempos posteriores, los exploradores buscaron la Fuente de la Juventud, los alquimistas trabajaron para inventar el Elixir de la Vida, y varias escuelas de taoísmo esotérico en China se esforzaron por alcanzar la inmortalidad física mediante el control o la armonía con las fuerzas de la naturaleza. El límite entre el mito y la ciencia, entre la magia y la tecnología, era borroso, y casi todos los medios concebibles para la preservación de la vida fueron realizados alguna u otra persona. Sin embargo, mientras los exploradores hicieron muchos descubrimientos interesantes y los alquimistas inventaron algunas cosas útiles, como nuevos tintes y mejoras en la metalurgia, el objetivo de la extensión de la vida resultó difícil de alcanzar.
Sin embargo, la búsqueda por trascender nuestros confines naturales ha sido vista con ambivalencia durante mucho tiempo. Querer controlarlos está en el concepto de hubris: puesto que algunas ambiciones están prohibidas y serán contraproducentes si se persiguen. Los antiguos griegos exhibieron esta ambivalencia en su mitología.
Prometeo le robó el fuego a Zeus y se lo dio a los humanos, mejorando así permanentemente la condición humana. Sin embargo, Zeus lo castigó severamente por este acto. Los dioses son repetidamente desafiados, con bastante éxito, por Dédalo, el ingeniero y artista inteligente, que utiliza medios no mágicos para ampliar las capacidades humanas. Al final, el desastre se produce cuando su hijo Ícaro ignora las advertencias paternas y vuela demasiado cerca del sol, haciendo que la cera de sus alas se derrita.
Los cristianos medievales tenían puntos de vista igualmente conflictivos sobre las búsquedas de los alquimistas, que intentaban transmutar sustancias, crear homúnculos en tubos de ensayo e inventar una panacea. Algunos escolásticos, siguiendo las enseñanzas anti-experimentalistas de Agustín, creían que la alquimia era una actividad impía. Hubo acusaciones de que implicaba la invocación de poderes demoníacos. Pero otros teólogos, como Albertus Magnus y Tomás de Aquino, defendieron la práctica (Newman 2004).
La ultramundana y rancia filosofía escolástica que dominó Europa durante la Edad Media dio paso a un renovado vigor intelectual en el Renacimiento. El ser humano y el mundo natural volvieron a convertirse en legítimos objetos de estudio. El humanismo del Renacimiento alentó a las personas a confiar en sus propias observaciones y en su propio juicio en lugar de ceder en todos los asuntos a las autoridades religiosas. El humanismo renacentista también creó el ideal de la persona integral, altamente desarrollada científica, moral, cultural y espiritualmente. Un hito del período es la Oración sobre la dignidad del hombre de Giovanni Pico della Mirandola (1486), que proclama que el hombre no tiene una forma prefabricada y es responsable de formarse a sí mismo:
Te hemos hecho una criatura que no es del cielo ni de la tierra, ni mortal ni inmortal, para que puedas, como modelador libre y orgulloso de tu propio ser, modelarte en la forma que prefieras. Estará en tu poder descender a las formas de vida más bajas y brutales; podrás, por tu propia decisión, volver a ascender a las órdenes superiores cuya vida es divina (Pico della Mirandola 1956).
A menudo se dice que la Era de la Ilustración comenzó con la publicación de Novum Organum de Francis Bacon, “la nueva herramienta” (1620), que propone una metodología científica basada en la investigación empírica más que en el razonamiento a priori (Bacon, 1620). Bacon defendió el proyecto de “hacer todo lo posible”, con lo que se refería a utilizar la ciencia para lograr el dominio de la naturaleza a fin de mejorar las condiciones de vida de los seres humanos. La herencia del Renacimiento se combina con la influencia de Isaac Newton, Thomas Hobbes, John Locke, Immanuel Kant, el marqués de Condorcet y otros para formar la base del humanismo racional, que enfatiza la ciencia empírica y la razón crítica -en lugar de la revelación y la autoridad religiosa- como formas de aprender sobre el mundo natural y nuestro lugar dentro de él, y de proporcionar una base para la moralidad. El transhumanismo tiene sus raíces en el humanismo racional.
En los siglos XVIII y XIX vislumbramos la idea de que los humanos mismos pueden desarrollarse mediante la aplicación de la ciencia. Condorcet especuló sobre la extensión de la vida humana por medio de la ciencia médica:
¿Sería absurdo suponer ahora que la mejora de la raza humana debería considerarse capaz de un progreso ilimitado? ¿Que llegará el momento en que la muerte resulte sólo de accidentes extraordinarios o del desgaste cada vez más gradual de la vitalidad, y que, finalmente, la duración del intervalo medio entre el nacimiento y el desgaste no tenga límite específico alguno? Sin duda, el hombre no se volverá inmortal, pero ¿no puede aumentar constantemente el lapso entre el momento en que comienza a vivir y el momento en que, naturalmente, sin enfermedad ni accidente, encuentra la vida como una carga? (Condorcet, 1979).
Benjamin Franklin anhelaba con nostalgia la animación suspendida, presagiando el movimiento criónico:
Ojalá fuera posible … inventar un método para embalsamar a las personas ahogadas, de tal manera que pudieran ser devueltas a la vida en cualquier período, por distante que sea; por tener un deseo muy ardiente de ver y observar el estado de América dentro de cien años, preferiría a una muerte ordinaria, estar sumergido con algunos amigos en un barril de Madeira, hasta ese momento, luego ser devuelto a la vida por ¡el calor solar de mi querido país! Pero … con toda probabilidad, vivimos en un siglo muy poco avanzado y demasiado cercano a la infancia de la ciencia para ver un arte así llevado a la perfección en nuestro tiempo (Franklin et al. 1956, pp. 27-29).
Después de la publicación de El origen de las especies de Darwin (1859), se hizo cada vez más plausible ver la versión actual de la humanidad no como el punto final de la evolución, sino más bien como un pase temprano (Darwin, 2003). El surgimiento del fisicalismo científico también podría haber contribuido a la creencia de que la tecnología bien podría mejorar el organismo humano. Por ejemplo, en 1750 el médico y filósofo materialista francés Julien Offray de La Mettrie propuso audazmente un tipo simple de visión materialista en L’Homme Machine, en el que sostenía que “el hombre no es más que un animal, o una colección de manantiales que se vinculan entre sí” (La Mettrie 1996). Si los seres humanos están constituidos por materia que obedece a las mismas leyes de la física que operan fuera de nosotros, entonces, en principio, debería ser posible aprender a manipular la naturaleza humana de la misma manera que manipulamos los objetos externos.
Se dice que la Ilustración murió víctima de sus propios excesos. Dio paso al romanticismo y a las reacciones posteriores1 contra el dominio de la razón instrumental y el intento de controlar racionalmente la naturaleza, como se puede encontrar en algunos escritos posmodernistas, el movimiento de la Nueva Era, la ecología profunda2 y partes del movimiento antiglobalización. Sin embargo, el legado de la Ilustración, incluida la creencia en el poder de la racionalidad humana y la ciencia, sigue siendo un importante moldeador de la cultura moderna. En su famoso ensayo de 1784 “¿Qué es la Ilustración?”, Kant lo resumió de la siguiente manera:
La Ilustración es el hombre abandonado su inmadurez auto causada. La inmadurez es la incapacidad de utilizar el propio entendimiento sin la guía de otro. Tal inmadurez es autocausada si su causa no es la falta de inteligencia, sino la falta de determinación y coraje para usar la inteligencia de uno sin ser guiado por otro. Por tanto, el lema de la Ilustración es: ¡Sapere aude! ¡Tenga el valor de usar su propia inteligencia! (Kant 1986).
Se podría pensar que una inspiración importante para el transhumanismo fue Friedrich Nietzsche, famoso por su doctrina de der Übermensch:
Te enseño el superhombre. El hombre es algo que se superará. ¿Qué has hecho para vencerlo? Todos los seres hasta ahora han creado algo más allá de ellos mismos; ¿y quieres ser el reflujo de este gran diluvio e incluso volver a las bestias en lugar de vencer al hombre? (Nietzsche, 1908).
Lo que Nietzsche tenía en mente, sin embargo, no era una transformación tecnológica, sino una especie de crecimiento personal vertiginoso y refinamiento cultural en individuos excepcionales (que pensaba que tendrían que superar la agobiante “moral del esclavo” del cristianismo). A pesar de algunas similitudes superficiales con la visión nietzscheana, el transhumanismo, con sus raíces ilustradas, su énfasis en las libertades individuales y su preocupación humanista por el bienestar de todos los humanos (y otros seres sintientes), probablemente tenga tanto o más en común con el contemporáneo de Nietzsche, el pensador inglés liberal y utilitario John Stuart Mill.
En 1923, el destacado bioquímico británico J. B. S. Haldane publicó el ensayo Daedalus; o, Ciencia y futuro, en el que argumentó que se obtendrían grandes beneficios del control de nuestra propia genética y de la ciencia en general. Predijo una sociedad más rica, con abundante energía limpia, donde la genética se emplearía para hacer que las personas fueran más altas, más saludables e inteligentes y donde la ectogénesis (gestar fetos en úteros artificiales) sería algo común. También comentó sobre lo que en los últimos años se conoce como el “factor asco”:
El inventor químico o físico es siempre un Prometeo. No hay gran invención, desde el fuego hasta el vuelo, que no haya sido aclamado como un insulto a algún dios. Pero si toda invención física y química es una blasfemia, toda invención biológica es una perversión. Difícilmente hay uno que, al ser puesto en conocimiento de un observador de cualquier nación que no haya oído hablar previamente de su existencia, no le parezca indecente y antinatural (Haldane 1924).
El ensayo de Haldane se convirtió en un éxito de ventas y desató una cadena de discusiones orientadas al futuro, incluyendo “El mundo, la carne y el diablo”, de JD Bernal (1969) que especuló sobre la colonización espacial y los implantes biónicos, así como también con mejoras mentales derivadas de la psicología y las ciencias sociales avanzadas; las obras de Olaf Stapledon, filósofo y autor de ciencia ficción; y el ensayo “Ícaro: el futuro de la ciencia” Bertrand Russell (1924). Russell adoptó una visión más pesimista, argumentando que sin más amabilidad en el mundo, el poder tecnológico serviría principalmente para aumentar nuestra capacidad de dañarnos unos a otros. Autores de ciencia ficción como H. G. Wells y Stapledon hicieron que mucha gente pensara en la futura evolución de la raza humana.
“Un mundo feliz” de Aldous Huxley, publicado en 1932, ha tenido un impacto duradero en los debates sobre la transformación tecnológica humana (Huxley, 1932) comparado con pocas otras obras de ficción (posiblemente excepto Frankenstein de Mary Shelley (Shelley, 1818)). Huxley describe una distopía donde el condicionamiento psicológico, la sexualidad promiscua, la biotecnología y la droga opiácea “soma” mantienen a la población plácida en una estática, conformista sociedad de castas gobernada por diez controladores mundiales. Los niños son fabricados en clínicas de fertilidad y gestados artificialmente. Las castas inferiores sufren un retraso en el crecimiento químico o se les priva de oxígeno durante su proceso de maduración, con el fin de limitar su desarrollo físico e intelectual. Desde el nacimiento, los miembros de todas las castas son adoctrinados mientras duermen, por voces grabadas que repiten los lemas de la religión oficial “fordista”, y condicionados a creer que su propia casta es la mejor a la que pueden pertenecer.
La sociedad representada en “Un mundo feliz” a menudo se compara con otra distopía influyente del siglo XX, la de “1984” de George Orwell (Orwell 1949). Esta última presenta una forma más abierta de opresión, incluida la vigilancia ubicua por parte del “Gran Hermano” y la brutal coerción policial. Los controladores del mundo de Huxley, por el contrario, se basan en medios menos descarados (predestinación de ingeniería biológica, condicionamiento psicológico, soma) para evitar que las personas quieran pensar por sí mismas. Se promueve la mentalidad de rebaño y la promiscuidad, mientras que se desalienta el arte elevado, la individualidad, el conocimiento de la historia y el amor romántico. Cabe señalar que ni en “1984” ni en “Un mundo feliz” se emplea tecnología para aumentar las capacidades humanas; más bien, la sociedad está configurada para reprimir el pleno desarrollo de la humanidad. Ambas distopías restringen la exploración científica y tecnológica por temor a alterar el equilibrio social. Sin embargo, “Un mundo feliz” en particular se ha convertido en un emblema del potencial deshumanizador del uso de la tecnología para promover el conformismo social y la satisfacción superficial.
En las primeras décadas del siglo XX, no solo los racistas y los ideólogos de derecha, sino también varios progresistas sociales de izquierda se preocuparon por los efectos de la medicina y las redes de seguridad social en la calidad del acervo genético humano. Creían que la sociedad moderna permitía sobrevivir a muchos individuos “no aptos” —individuos que habrían perecido en épocas anteriores— y les preocupaba que esto condujera a un deterioro de la población humana. Como resultado, muchos países (incluidos EE. UU., Canadá, Australia, Suecia, Dinamarca, Finlandia y Suiza) implementaron programas de eugenesia patrocinados por el estado, que infringieron en diversos grados los derechos individuales. En los Estados Unidos, entre 1907 y 1963, unas 64.000 personas fueron esterilizadas por la fuerza bajo las leyes de la eugenesia. Las principales víctimas del programa estadounidense fueron los discapacitados mentales, pero en ocasiones también fueron atacados los sordos, los ciegos, los epilépticos, los físicamente deformados, los huérfanos y los vivían en la calle. Pero incluso una esterilización obligatoria tan generalizada palidece en comparación con el programa de eugenesia alemán, que resultó en el asesinato sistemático de millones de personas consideradas “inferiores” por los nazis.
El holocausto dejó una cicatriz en la psique humana. Decidida a no dejar que la historia se repita, la mayoría de la gente desarrolló una repulsión instintiva hacia todas las ideas que parecían tener algún tipo de asociación con la ideología nazi. (Y, sin embargo, debe recordarse, la historia se repitió, por ejemplo, en el genocidio de Ruanda de 1994, en el que el mundo no hizo más que retorcerse las manos cuando 800.000 africanos fueron masacrados). En particular, el movimiento eugenésico en su conjunto, en todas sus formas, quedó desacreditada debido a los terribles crímenes que se habían cometido en su nombre, aunque algunos de los programas de eugenesia más suaves continuaron durante muchos años antes de que finalmente fueran desechados. Todos estos programas están ahora casi universalmente condenados. El objetivo de crear un mundo nuevo y mejor a través de una visión impuesta de forma centralizada quedó obsoleto. La tiranía estalinista también subrayó los peligros del utopismo totalitario.
En la era de la posguerra, muchos futuristas optimistas que sospechaban del cambio social orquestado colectivamente encontraron un nuevo hogar para sus esperanzas en el progreso científico y tecnológico. Los viajes espaciales, la medicina y las computadoras parecían ofrecer un camino hacia un mundo mejor.
El cambio de atención también reflejó el impresionante ritmo de desarrollo en estos campos. La ciencia había comenzado a ponerse al día con la especulación. Los temas transhumanistas durante este período fueron discutidos y analizados principalmente en la literatura de ciencia ficción. Autores como Arthur C. Clarke, Isaac Asimov, Robert Heinlein y Stanislaw Lem exploraron cómo el desarrollo tecnológico podría llegar a alterar profundamente la condición humana.
La palabra “transhumanismo” parece haber sido utilizada por primera vez por el hermano de Aldous Huxley, Julian Huxley, un distinguido biólogo (que también fue el primer director general de la UNESCO y fundador del Fondo Mundial para la Naturaleza). En New Bottles for New Wine (1957), escribió:
La especie humana puede, si lo desea, trascenderse a sí misma, no sólo esporádicamente, un individuo aquí de una manera, un individuo allá de otra manera, sino en su totalidad, como humanidad. Necesitamos un nombre para esta nueva creencia. Quizás transhumanismo sirva: el hombre sigue siendo hombre, pero trascendiéndose a sí mismo, al darse cuenta de nuevas posibilidades de y para su naturaleza humana (Huxley, 1957).
la IA, la singularidad, la nanotecnología y la carga de autómatas similares a los humanos siempre han fascinado a la imaginación humana. Los ingenieros mecánicos desde los primeros griegos han construido ingeniosos dispositivos automáticos.
En el misticismo judaico, un “golem” se refiere a un ser animado creado a partir de material inanimado. En las primeras historias de golem, un golem podía ser creado por una persona santa que podía compartir algo de la sabiduría y el poder de Dios (aunque el golem, al no poder hablar, nunca fue más que una sombra de las creaciones de Dios). Tener un sirviente golem era el símbolo máximo de sabiduría y santidad. En las historias posteriores, que fueron influenciadas por la preocupación más islámica acerca de que la humanidad se acerca demasiado a Dios, el golem se convirtió en una creación de místicos extravagantes que inevitablemente fueron castigados por su blasfemia. La historia del aprendiz de brujo es una variación de este tema: el aprendiz anima una escoba para buscar agua, pero no puede detener la escoba, como Frankenstein, es una historia de tecnología fuera de control. La palabra “robot” fue acuñada por el escritor checo Karel Čapek, en su obra oscura R.U.R. (1921), en el que una fuerza laboral robótica destruye a sus creadores humanos (Capek 2004). Con la invención de la computadora electrónica, la idea de los autómatas parecidos a los humanos se graduó del jardín de infancia de la mitología en la escuela de ciencia ficción (Asimov, Lem, Clarke) y, finalmente, en la escuela de predicción tecnológica.
¿Podría el progreso continuo de la inteligencia artificial conducir a la creación de máquinas que piensen de la misma manera general que los seres humanos? Alan Turing dio una definición operativa a esta cuestión en su clásico “Computing Machinery and Intelligence” (1950) y predijo que las computadoras eventualmente pasarían lo que se conoció como la Prueba de Turing. En la prueba de Turing, un experimentador humano entrevista a una computadora y a otro humano a través de una interfaz de texto; la computadora tiene éxito si el entrevistador no puede distinguirla de manera confiable del humano (Turing, 1950). Se ha derramado mucha tinta en los debates sobre si esta prueba proporciona una condición necesaria y suficiente para que una computadora pueda pensar, pero lo que importa más desde una perspectiva práctica es si las computadoras podrán igualar el desempeño humano en tareas que implican la capacidad de razonamiento general. Con el beneficio de la retrospectiva, podemos decir que muchos de los primeros investigadores de IA resultaron ser demasiado optimistas sobre la escala de tiempo para este desarrollo hipotético. Por supuesto, el hecho de que todavía no hayamos alcanzado la inteligencia artificial a nivel humano no significa que nunca lo haremos, y varias personas, p.e. Marvin Minsky, Hans Moravec, Ray Kurzweil y Nick Bostrom han presentado razones para tomarse en serio la posibilidad de que esto pudiera suceder en la primera mitad de este siglo (Minsky 1994; Moravec 1999; Bostrom 1998, 2002; Kurzweil 1999).
En un homenaje de 1958, el matemático polaco Stanislaw Ulam, refiriéndose a una reunión con su difunto colega John von Neumann, escribió:
Una conversación se centró en el progreso cada vez más acelerado de la tecnología y los cambios en el modo de vida humana, el cual da la apariencia de acercarse a alguna singularidad esencial en la historia de la especie más allá de la cual los asuntos humanos, tal como los conocemos, podrían no continuar (Ulam, 1958).
La rapidez del cambio tecnológico en los últimos tiempos lleva naturalmente a la idea de que la innovación tecnológica continua tendrá un efecto profundo en la humanidad en las próximas décadas. Esta predicción se ve reforzada si se cree que algunas de esas variables que actualmente exhiben un crecimiento exponencial continuarán haciéndolo y que estarán entre los principales impulsores del cambio. Gordon E. Moore, cofundador de Intel, notó en 1965 que la cantidad de transistores en un chip exhibía un crecimiento exponencial. Esto llevó a la formulación de la “ley de Moore”, que establece (aproximadamente) que la potencia informática se duplica cada dieciocho meses a dos años (Moore, 1965). Más recientemente, Kurzweil ha documentado tasas de crecimiento exponencial similares en varias otras tecnologías. Es interesante observar que la economía mundial, un índice general de la capacidad productiva de la humanidad, se ha duplicado aproximadamente cada quince años en los tiempos modernos.
La hipótesis de la singularidad, a la que aparentemente alude von Neumann en el pasaje citado anteriormente, sostiene que estos cambios conducirán a algún tipo de discontinuidad. Pero hoy en día a menudo se refiere a una predicción más específica: a saber, que la creación de inteligencia artificial auto-mejorable en algún momento resultará en cambios radicales en un lapso de tiempo muy corto. Esta hipótesis fue formulada claramente por primera vez en 1965 por el estadístico I. J. Good:
Dejemos que una máquina ultrainteligente se defina como una máquina que puede superar con creces todas las actividades intelectuales de cualquier hombre, por inteligente que sea. Dado que el diseño de máquinas es una de estas actividades intelectuales, una máquina ultrainteligente podría diseñar máquinas aún mejores; entonces, sin duda, habría una “explosión de inteligencia”, y la inteligencia del hombre quedaría muy atrás. Así, la primera máquina ultrainteligente es el último invento que el hombre necesita hacer (Good 1965).
Vernor Vinge discutió esta idea con un poco más de detalle en su influyente artículo de 1993, “Singularidad tecnológica”, en el que predijo:
Dentro de treinta años, tendremos los medios tecnológicos para crear inteligencia sobrehumana. Poco después, la era humana terminará (Vinge, 1993).
Los transhumanistas de hoy tienen puntos de vista divergentes sobre la singularidad: algunos lo ven como un escenario probable, otros creen que es más probable que nunca haya cambios muy repentinos y dramáticos como resultado del progreso en la inteligencia artificial.
La idea de la singularidad también viene en una versión escatológica algo diferente, que remonta su linaje a los escritos de Pierre Teilhard de Chardin, un paleontólogo y teólogo jesuita que vio un telos evolutivo en el desarrollo de una noosfera abarcadora (una conciencia global) - a través del físico Frank Tipler, quien argumentó que las civilizaciones avanzadas podrían llegar a tener una influencia definitoria en la evolución futura del cosmos y, en los momentos finales del Big Crunch, podrían lograr extraer un número infinito de cálculos aprovechando la pura energía de la materia que colapsa (Teilhard de Chardin 1964) (Tipler 1994). Sin embargo, si bien estas ideas pueden atraer a quienes desean un matrimonio entre el misticismo y la ciencia, no se han popularizado ni entre los transhumanistas ni entre la comunidad científica en general. Las teorías cosmológicas actuales indican que el universo continuará expandiéndose para siempre (falsificando la predicción de Tipler). Pero el punto más general que el transhumanista podría hacer en este contexto es que tenemos que aprender a pensar en “preguntas generales” sin recurrir a ilusiones o misticismo. Las preguntas generales, incluidas aquellas sobre nuestro lugar en el mundo y el destino a largo plazo de la vida inteligente, son parte del transhumanismo; sin embargo, estas preguntas deben abordarse de manera sobria y desinteresada, utilizando la razón crítica y nuestra mejor evidencia científica disponible. Una de las razones por las que estas preguntas son de interés transhumanista es que sus respuestas podrían afectar los resultados que deberíamos esperar de nuestro propio desarrollo tecnológico y, por lo tanto, indirectamente, qué políticas tiene sentido que siga la humanidad.
En 1986, Eric Drexler publicó Engines of Creation, la primera exposición en un libro sobre la fabricación molecular (Drexler, 1985). (La posibilidad de la nanotecnología había sido anticipada por el físico ganador del Premio Nobel Richard Feynman en su famoso discurso después de la cena en 1959 titulado “Hay mucho espacio en la parte inferior” (Feynman, 1960)). En esta obra fundamental, Drexler no solo defendió la viabilidad de la nanotecnología basada en ensambladores, sino también exploró sus consecuencias y comenzó a trazar los desafíos estratégicos planteados por su desarrollo.
El libro posterior de Drexler, Nanosystems (1992), proporcionó un análisis más técnico que pareció confirmar sus conclusiones originales (Drexler 1992). Para preparar al mundo para la nanotecnología y trabajar hacia su implementación segura, fundó el Foresight Institute junto con su entonces esposa, Christine Peterson, en 1986.
En los últimos años, la nanotecnología se ha convertido en un gran negocio y la financiación de la investigación en todo el mundo asciende a miles de millones de dólares. Sin embargo, poco de este trabajo se ajusta a la ambiciosa visión de Drexler de la nanotecnología como una tecnología de construcción casi universal basada en ensambladores. La comunidad dominante de la nanotecnología ha tratado de distanciarse de las afirmaciones de Drexler. El químico Richard Smalley (otro premio Nobel) ha debatido sobre Drexler, afirmando que los ensambladores moleculares no biológicos son imposibles (Drexler & Smalley 1993). Sin embargo, hasta la fecha, ninguna crítica técnica del trabajo de Drexler, en la literatura publicada, ha encontrado fallas significativas en su razonamiento. Si la nanotecnología molecular es físicamente posible, como sostiene Drexler, la pregunta es qué tan difícil será desarrollarla y cuánto tiempo llevará.
Estos problemas son muy difíciles de resolver de antemano.
Si la nanotecnología molecular pudiera desarrollarse como lo prevé Drexler, tendría ramificaciones trascendentales:
Carbón y diamantes, arena y chips de computadora, cáncer y tejido sano: a lo largo de la historia, las variaciones en la disposición de los átomos han distinguido lo barato de lo apreciado, lo enfermo de lo sano. Organizados de una manera, los átomos forman el suelo, el aire y el agua, dispuestos de otra manera, forman las fresas maduras. Dispuestos de una manera, forman hogares y aire fresco; dispuestas otra, componen ceniza y humo (Drexler, 1985, p. 3).
La nanotecnología molecular nos permitiría transformar el carbón en diamantes, la arena en supercomputadoras y eliminar la contaminación del aire y los tumores de los tejidos sanos. En su forma madura, podría ayudarnos a abolir la mayoría de las enfermedades y el envejecimiento, hacer posible la reanimación de los pacientes criónicos, permitir una colonización espacial asequible y, lo que es más inquietante, conducir a la rápida creación de vastos arsenales de armas letales o no letales.
Otra tecnología hipotética que tendría un impacto revolucionario es la mind-uploading, la transferencia de una mente humana a una computadora. Esto implicaría los siguientes pasos: primero, crear un escaneo suficientemente detallado de un cerebro humano en particular, quizás deconstruyéndolo con nanobots o introduciendo finas rebanadas de tejido cerebral en microscopios potentes para el análisis automático de imágenes. En segundo lugar, a partir de este escaneo, reconstruir la red neuronal que implementó el cerebro y combinarla con modelos computacionales de los diferentes tipos de neuronas. En tercer lugar, emular toda la estructura computacional en una poderosa supercomputadora. Si tiene éxito, el procedimiento daría como resultado que la mente original, con la memoria y la personalidad intactas, se transfiriera a la computadora donde entonces existiría como software; y podría habitar en un cuerpo de robot o vivir en una realidad virtual (Bostrom, 2003). Si bien a menudo se piensa que, en circunstancias adecuadas, la subida de datos sería consciente y que la persona original habría sobrevivido a la transferencia al nuevo medio, los transhumanistas individuales tienen diferentes puntos de vista sobre estos asuntos filosóficos.
Si se desarrolla superinteligencia, nanotecnología molecular, subida de datos o alguna otra tecnología de un tipo revolucionario similar, la condición humana claramente podría transformarse radicalmente. Incluso si uno creyera que la probabilidad de que esto suceda en el corto plazo es bastante pequeña, estas perspectivas ameritarían una seria atención en vista de su impacto extremo. Sin embargo, el transhumanismo no depende de la viabilidad de tecnologías tan radicales. Realidad virtual; diagnóstico de preimplantación genética; ingeniería genética; productos farmacéuticos que mejoran la memoria, la concentración, la vigilia y el estado de ánimo; Drogas para mejorar el rendimiento; cirugía cosmética; operaciones de cambio de sexo; prótesis; medicina antienvejecimiento; interfaces humano-computadora más cercanas: estas tecnologías ya están aquí o se pueden esperar en las próximas décadas. La combinación de estas capacidades tecnológicas, a medida que maduran, podría transformar profundamente la condición humana. La agenda transhumanista, que consiste en hacer que estas opciones de mejora estén disponibles de manera segura para todas las personas, será cada vez más relevante y práctica en los próximos años a medida que estas y otras tecnologías anticipadas se pongan en línea.
Benjamin Franklin deseaba ser conservado en un barril de Madeira y luego volver a la vida, y lamentó que estuviera viviendo demasiado cerca de la infancia de la ciencia para que esto fuera posible. Desde entonces, la ciencia ha crecido un poco. En 1962, Robert Ettinger publicó el libro The Prospect of Immortality, que lanzó la idea de la suspensión criónica (Ettinger 1964). Ettinger argumentó que, dado que la tecnología médica parece progresar constantemente, y dado que la ciencia ha descubierto que la actividad química se detiene por completo a temperaturas lo suficientemente bajas, debería ser posible congelar a una persona hoy (en nitrógeno líquido) y preservar el cuerpo hasta un momento en que la tecnología sea lo suficientemente avanzada como para reparar el daño por congelación y revertir la causa original de la desanimación. La criónica, creía Ettinger, ofrecía un boleto hacia el futuro.
Por desgracia, las masas no se alinearon a la propuesta. La criónica se ha mantenido como una alternativa marginal a los métodos más tradicionales de tratar a los enfermos, como la cremación y el entierro. La práctica de la criónica no se integró en el entorno clínico convencional y, en cambio, se llevó a cabo a bajo costo por un pequeño número de entusiastas. Dos de las primeras organizaciones criónicas quebraron, lo que permitió que sus pacientes se descongelaran. En ese momento, el problema del daño celular masivo, que ocurre cuando se forman cristales de hielo en el cuerpo, también se hizo más conocido. Como resultado, la criónica adquirió la reputación de una estafa macabra. La controversia mediática sobre la suspensión de la estrella del béisbol Ted Williams en 2002 mostró que la percepción pública de la criónica no ha cambiado mucho en las últimas décadas.
A pesar de su problema de imagen y sus primeros fallos de implementación, la comunidad criónica continúa activa y cuenta entre sus miembros con varios científicos e intelectuales eminentes. Se han mejorado los protocolos de suspensión y la infusión de crioprotectores antes de la congelación para suprimir la formación de cristales de hielo se ha convertido en una práctica estándar. La perspectiva de la nanotecnología ha dado una forma más concreta a la supuesta tecnología futura que podría permitir la reanimación. Actualmente hay dos organizaciones que ofrecen suspensión de servicio completo, la Alcor Life Extension Foundation (fundada en 1972) y el Cryonics Institute (fundado en 1976). Alcor ha introducido recientemente un nuevo método de suspensión, que se basa en un proceso conocido como “vitrificación”, que reduce aún más el daño microestructural durante la suspensión.
En un trabajo posterior, “Man into Superman” (1972), Ettinger discutió una serie de mejoras tecnológicas concebibles del organismo humano, continuando la tradición iniciada por Haldane y Bernal (Ettinger 1972).
Otro transhumanista temprano fue F. M. Esfandiary, quien más tarde cambió su nombre a FM-2030. Uno de los primeros profesores de estudios futuros, FM enseñó en la New School for Social Research en Nueva York en la década de 1960 y formó un grupo de futuristas optimistas conocidos como UpWingers.
¿Quiénes son los nuevos revolucionarios de nuestro tiempo? Son genetistas, biólogos, físicos, crionólogos, biotecnólogos, científicos nucleares, cosmólogos, radioastrónomos, cosmonautas, científicos sociales, voluntarios del cuerpo juvenil, internacionalistas, humanistas, escritores de ciencia ficción, pensadores normativos, inventores … Ellos y otros están revolucionando la condición humana de manera fundamental. Sus logros y metas van mucho más allá de las ideologías más radicales del Antiguo Orden (Esfandiary 1970).
En su libro “¿Eres transhumano?” (1989), FM describió lo que él consideraba los signos del surgimiento de lo “transhumano” (FM-2030, 1989). En la terminología de FM, un transhumano es un “humano en transición”, alguien que, en virtud de su uso de la tecnología, valores culturales y estilo de vida, constituye un vínculo evolutivo con la próxima era de la posthumanidad. Los signos que FM vio como indicativos de un estado transhumano incluían prótesis, cirugía plástica, uso intensivo de las telecomunicaciones, una perspectiva cosmopolita y un estilo de vida trotamundos, androginia, reproducción mediada (como la fertilización in vitro), ausencia de creencias religiosas y rechazo de valores familiares tradicionales. Sin embargo, nunca se explicó satisfactoriamente por qué alguien que, digamos, rechaza los valores familiares, tiene una operación de nariz y pasa mucho tiempo en aviones, está más cerca de la posthumanidad que el resto de nosotros.
En las décadas de 1970 y 1980, surgieron muchas organizaciones que se centraban en un tema en particular, como la extensión de la vida, la criónica, la colonización espacial, la ciencia ficción y el futurismo. Estos grupos a menudo estaban aislados unos de otros, y los puntos de vista y valores compartidos que tuvieran aún no equivalían a una cosmovisión unificada. “Great Mambo Chicken and the Transhuman Condition” (1990), de Ed Regis, analizó con humor estas franjas proto-transhumanistas, que incluían a individuos excéntricos e inteligentes que intentaban construir cohetes espaciales en sus patios traseros o que experimentaban con máquinas de biorretroalimentación y drogas psicodélicas, así como también científicos que persiguen líneas de trabajo más serias pero que se habían empapado demasiado del espíritu californiano (Regis, 1990).
En 1988, Max More y Tom Morrow publicaron el primer número de Extropy Magazine, y en 1992 fundaron el Extropy Institute (el término “extropía” se acuñó como un opuesto metafórico de entropía). El Instituto sirvió como un catalizador que reunió a grupos dispares de personas con ideas futuristas y facilitó la formación de nuevos compuestos meméticos. El Instituto organizó una serie de conferencias, pero quizás la más importante fue la lista de correo de extropianos, un foro de discusión en línea donde se compartieron y debatieron nuevas ideas. A mediados de los noventa, muchos se vieron por primera vez en contacto con los puntos de vista transhumanistas del servidor de listas del Extropy Institute.
More había emigrado a California desde Gran Bretaña después de cambiar su nombre a Max O’Connor. De su nuevo nombre, dijo:
Parecía encapsular realmente la esencia de mi objetivo: siempre mejorar, nunca estar estático. Iba a mejorar en todo, volverme más inteligente, más en forma y más saludable. Sería un recordatorio constante para seguir avanzando (Regis, 1994).
Max More escribió la primera definición de transhumanismo en su sentido moderno, y creó su propia marca distintiva de transhumanismo, “extropianismo”, que enfatizaba los principios de “expansión ilimitada”, “autotransformación”, “optimismo dinámico”, “tecnología inteligente”, y “orden espontáneo”. Originalmente, el extropianismo tenía un claro sabor libertario, pero en años posteriores More se ha distanciado de este ingrediente, reemplazando el “orden espontáneo” por la “sociedad abierta”, principio que se opone al control social autoritario y promueve la descentralización del poder y la responsabilidad (More, 2003).
Natasha Vita-More es la actual presidenta del Instituto Extropy. Es artista y diseñadora, y a lo largo de los años ha publicado varios manifiestos sobre arte transhumanista y extrópico (Vita-More, 2002).
Las conferencias y la lista de correo del Extropy Institute también sirvieron como un lugar de reunión para algunas personas a las que les gustaba discutir ideas futuristas pero que no eran necesariamente participantes. Aquellos que vivieron a mediados de los noventa recordarán a individuos como Anders Sandberg, Alexander “Sasha” Chislenko, Hal Finney y Robin Hanson de entre los habituales más reflexivos del medio transhumanista en ese momento. En la última década, se ha producido una enorme discusión sobre el transhumanismo en varias listas de correo electrónico.
La calidad de las publicaciones ha sido variada (por decirlo suavemente). Sin embargo, en el mejor de los casos, estas conversaciones en línea exploraron ideas sobre las implicaciones de las tecnologías futuras que, en algunos aspectos, estaban muy avanzadas con respecto a lo que se podía encontrar en libros o revistas impresas. Internet jugó un papel importante en la incubación del transhumanismo moderno al facilitar estos encuentros de mentes, y quizás también de manera más indirecta, a través de la “exuberancia irracional” que impregnaba la era de las puntocom.
La Asociación Transhumanista Mundial fue fundada a principios de 1998 por Nick Bostrom y David Pearce, para proporcionar una base organizativa general para todos los grupos e intereses transhumanistas, en todo el espectro político. El objetivo también era desarrollar una forma de transhumanismo más madura y académicamente respetable, libre del “culto” que, al menos a los ojos de algunos críticos, había afectado a algunas de sus convocatorias anteriores. Los dos documentos fundacionales de la WTA fueron la Declaración Transhumanista (ver apéndice) y las Preguntas Frecuentes Transhumanistas (v. 1.0). (WTA 2002). La Declaración fue concebida como una declaración de consenso concisa del principio básico del transhumanismo. La FAQ también fue un documento de consenso o casi consenso, pero fue más ambicioso en su alcance filosófico, ya que desarrolló una serie de temas que anteriormente habían estado, como mucho, implícitos en el movimiento. Más de cincuenta personas contribuyeron con comentarios sobre los borradores de las preguntas frecuentes. El documento fue elaborado por Bostrom, pero varios otros contribuyeron con partes e ideas importantes, incluido el pensador utilitario británico David Pearce, Max More, la feminista estadounidense y activista por los derechos de las personas con discapacidad Kathryn Aegis y la enciclopedia ambulante Anders Sandberg, que fue en aquel tiempo un estudiante de neurociencia en Suecia.
David Pearce también ha desarrollado su propio sabor distintivo de transhumanismo basado en una ética de utilitarismo hedonista. Pearce aboga, en “The Hedonistic Imperative”, a favor de un programa ambicioso para eliminar el sufrimiento en animales humanos y no humanos mediante neurotecnología avanzada (en el corto plazo, productos farmacéuticos, en el largo plazo, quizás ingeniería genética) (Pearce, 2004). Paralelamente a este esfuerzo negativo por abolir el sufrimiento, propone un programa positivo de “ingeniería del paraíso” en el que los seres sintientes serían rediseñados para permitir que todos experimenten niveles de bienestar sin precedentes. En la utopía de Pearce, nuestro sistema de motivación se ejecutaría en “gradientes de felicidad” en lugar del actual eje placer-dolor.
La membresía de la WTA creció rápidamente y los capítulos locales se multiplicaron por todo el mundo. Las actividades se centraron principalmente en la discusión en Internet, el desarrollo de documentos, la representación en los medios de comunicación, la organización de una conferencia anual de TransVision y la publicación de la revista académica en línea Journal of Transhumanism (más tarde rebautizada como Journal of Evolution and Technology).
En los primeros años de su existencia, la WTA era una estructura organizada de manera muy relajada e informal. Entró en su siguiente fase después de una reunión en 2001 entre James Hughes (un sociólogo del Trinity College en Hartford Connecticut), Mark Walker (un filósofo de la Universidad de Toronto, entonces editor del Journal of Transhumanism) y Bostrom (quien era en ese momento enseñaba en Yale). Hughes fue elegido secretario y dedicó sus habilidades organizativas y energía a la tarea. En poco tiempo, la WTA adoptó una constitución, se incorporó como una organización sin fines de lucro y comenzó a construir una vigorosa red internacional de grupos locales y voluntarios. Actualmente, la WTA tiene aproximadamente 3,000 miembros de más de 100 países y lleva a cabo una amplia gama de actividades, todas impulsadas por voluntarios.
Varias organizaciones relacionadas también han surgido en los últimos años, centrándose de manera más estrecha en cuestiones transhumanistas particulares, como la extensión de la vida, la inteligencia artificial o las implicaciones legales de las “tecnologías convergentes” (tecnologías nano-bio-info-neuro). El Instituto de Ética y Tecnologías Emergentes, un grupo de expertos sin fines de lucro, se estableció en 2004 para “promover el uso ético de la tecnología para expandir las capacidades humanas”.
Durante las últimas dos décadas, la academia ha recogido la pelota y ha comenzado a analizar varios “asuntos transhumanistas”, tanto normativos como positivos. Las contribuciones son demasiadas para describirlas de manera exhaustiva aquí, por lo que seleccionaremos solo algunos hilos, comenzando con la ética.
Durante la mayor parte de su historia, la filosofía moral no rehuyó abordar problemas prácticos. A principios y mediados del siglo XX, durante el apogeo del positivismo lógico, la ética aplicada se convirtió en un remanso a medida que los filósofos morales se concentraban en problemas lingüísticos o meta-éticos. Desde entonces, sin embargo, la ética práctica ha resurgido como un campo de investigación académica. El regreso comenzó en la ética médica. Las revelaciones de los horribles experimentos que los nazis habían llevado a cabo en seres humanos en nombre de la ciencia llevaron a la adopción del código de Nuremberg (1947) y la Declaración de Helsinki (1964), que establecía estrictas salvaguardias para la experimentación médica, enfatizando la necesidad para el consentimiento del paciente (Office, 1949) (World Medical Organization, 1996). Pero el surgimiento del sistema de atención médica moderno generó nuevos dilemas éticos: desactivar el soporte vital, la donación de órganos, la asignación de recursos, el aborto, las directivas anticipadas, las relaciones médico-paciente, los protocolos para obtener el consentimiento informado y para tratar con pacientes incompetentes. En la década de 1970, comenzó a surgir un tipo de investigación más amplio, estimulado particularmente por los desarrollos en reproducción asistida y genética. Este campo se conoció como bioética. Muchas de las cuestiones éticas más directamente relacionadas con el transhumanismo ahora caerían bajo esta rúbrica, aunque también están involucrados otros discursos normativos, por ejemplo, la ética de la población, la metaética, la filosofía política y las hermanas menores de la bioética: ética informática, ética de la ingeniería, ética ambiental.
La bioética fue desde el principio un esfuerzo interdisciplinario, dominado por teólogos, juristas, médicos y, cada vez más, filósofos, con la participación ocasional de representantes de grupos de derechos de los pacientes, defensores de la discapacidad y otras partes interesadas (Jonsen, 1998). Al carecer de una metodología clara y operar en una llanura a menudo barrida por los vientos de la controversia política o religiosa, el estándar de la erudición ha sido con frecuencia decepcionante. A pesar de estas dificultades, la bioética floreció. Un cínico podría atribuir este logro a la amplia fertilización que recibió el campo de una serie de imperativos prácticos: absolver a los médicos de dilemas morales, capacitar a los estudiantes de medicina para que se comporten, permitir que las juntas de los hospitales proclamen abiertamente3 su compromiso con los más altos estándares éticos de atención, proporcionando contenido4 para los medios de comunicación y permitir que los políticos se cubran las espaldas delegando temas controvertidos a los comités de ética. Pero es posible un brillo más amable: las personas decentes reconocieron que los problemas morales difíciles surgían en la biomedicina moderna, que estos problemas debían abordarse y que podría ser útil tener algunos académicos profesionales tratando de aclarar estos problemas de alguna manera sistemática.
Si bien sería bueno contar con una erudición de mayor calibre y una metodología más sólida, por el momento, aprovechamos al máximo lo que tenemos.
Los filósofos de la moral han hecho en las últimas dos décadas muchas contribuciones que inciden en la ética de la transformación humana, y debemos limitarnos a algunas menciones. El clásico “Reasons and Persons” (1984) de Derek Parfit discutió muchas cuestiones normativas relevantes (Parfit, 1984). Además de la identidad personal y la teoría ética fundamental, este libro trata sobre la ética de la población, los principios morales que afectan a las personas y los deberes para con las generaciones futuras. Aunque el análisis de Parfit tiene lugar en un nivel idealizado, sus argumentos aclaran muchas consideraciones morales que surgen dentro del programa transhumanista.
“¿Qué clase de personas debería haber?”, de Jonathan Glover (1984), abordó la transformación humana habilitada por la tecnología a un nivel algo más concreto, centrándose especialmente en la genética y diversas tecnologías que podrían aumentar la transparencia social. Glover dio un tratamiento analítico claro y equilibrado de estos temas que estaba muy adelantado a su tiempo. Su conclusión general es la siguiente:
No cualquier aspecto de la naturaleza humana actual … vale la pena preservarlo. Más bien son especialmente aquellas características que contribuyen al autodesarrollo y la autoexpresión, a ciertos tipos de relaciones y al desarrollo de nuestra conciencia y comprensión. Y algunas de estas características pueden extenderse en lugar de verse amenazadas por la tecnología (Glover, 1984).
Varias personas han defendido principios que afirman algún tipo de equivalencia ética entre las intervenciones ambientales y genéticas. Por ejemplo, Peter Singer ha propuesto el “principio preventivo”:
Para cualquier condición X, si sería una forma de abuso infantil que los padres inflijan X a su hijo poco después del nacimiento, entonces debe, en igualdad de condiciones, al menos estar permitido tomar medidas para evitar que su hijo tenga esa condición (Singer, 2003).
Julian Savulescu ha defendido un principio de Beneficencia Procreativa, según el cual los futuros padres deben seleccionar al hijo, de los posibles hijos que podrían tener, que tendría la mejor vida, según la información relevante disponible (donde el “debería” es pretende indicar que la persuasión está justificada, pero no la coerción) (Savulescu, 2001). Este principio no presupone que todas las vidas puedan colocarse en una clasificación definida con respecto a su bienestar, solo que las comparaciones por pares son posibles en al menos algunos casos. Por ejemplo, si una pareja está recibiendo FIV y debe seleccionar uno de los dos embriones que son genéticamente idénticos, a excepción de uno que tiene un gen defectuoso que predispone al asma, entonces Procreative Beneficence sugiere que deberían elegir el embrión sano para la implantación.
En “From Chance to Choice” (2000), Allen Buchanan, Dan W. Brock, Norman Daniels y Daniel Wikler, examinaron cómo los avances en ingeniería genética deberían afectar nuestra comprensión de la justicia distributiva, la igualdad de oportunidades, nuestros derechos y obligaciones como padres, el significado de la discapacidad y el concepto de naturaleza humana en la teoría y la práctica ética (Buchanan et al. 2002). Desarrollaron un marco inspirado en el trabajo de John Rawls en un intento de responder algunas de estas preguntas.
Greg Stock, John Harris, Gregory Pence y Eric Juengst, entre otros, también han discutido la ética de la ingeniería genética desde una perspectiva ampliamente transhumanista (Stock, 2002; Harris, 1992; Pence, 1998; Parens, 1998). Mark Walker ha argumentado desde un punto de vista perfeccionista que tenemos el deber de utilizar la tecnología para mejorarnos. Walker también ha argumentado que una razón para buscar mejoras cognitivas es que podrían ayudarnos a resolver problemas filosóficos (Walker, 2002). Nick Bostrom y varios otros han llamado la atención sobre la distinción entre las mejoras que ofrecen solo ventajas posicionales (por ejemplo, un aumento en la altura), que son solo ventajas en la medida en que otros carecen de ellas, y las mejoras que proporcionan beneficios intrínsecos o externalidades netas positivas (como un mejor sistema inmunológico o mejora del funcionamiento cognitivo). Debemos promover mejoras del segundo tipo, pero no mejoras que sean simplemente posicional (Bostrom, 2003).
Bostrom ha sugerido que tenemos una razón para desarrollar medios para explorar el “espacio más grande de posibles modos de ser” que actualmente es inaccesible para nosotros debido a nuestras limitaciones biológicas, sobre la base de que podríamos encontrar modos de ser extremadamente valiosos —formas de vivir, pensar, sentir y relacionarse (Bostrom, 2004). Junto con muchos otros escritores transhumanistas, Bostrom ha defendido la urgencia moral de desarrollar medios para ralentizar o revertir el proceso de envejecimiento (Bostrom, 2005). También ha propuesto una concepción más amplia de la dignidad humana que puede adaptarse a la “dignidad posthumana” (Bostrom, 2005). Un artículo conjunto reciente de Bostrom y Toby Ord propone una heurística para eliminar el sesgo del “status quo” en la bioética, un sesgo que, según afirman, afecta a muchas de nuestras intuiciones morales (Bostrom & Ord 2005).
Eliezer Yudkowsky (un académico independiente) ha investigado la ética de la superinteligencia y ha tratado de desarrollar una teoría sobre cómo programar una IA amigable con los humanos, un desafío que podría adquirir un significado de vida o muerte una vez que seamos capaces de crear tal máquina de inteligencia artificial.
Yudkowsky sostiene que los mandatos sencillos basados en reglas (como las “tres leyes de la robótica” de Isaac Asimov) producirían consecuencias mortales no deseadas. Él concibe una superinteligencia como un proceso de optimización enormemente poderoso, y la tarea central es especificar la arquitectura mental y la estructura de objetivos de la IA de tal manera que obtenga resultados deseables. En lugar de crear una lista de objetivos específicos, Yudkowsky argumenta que debemos adoptar un enfoque más indirecto y elegir las condiciones iniciales de la IA para que utilice sus poderes intelectuales superiores para derivar los objetivos específicos y extrapolar nuestras decisiones si estuviéramos mejor calibrados, mejor informados y más capaces de reflexionar sobre las fuerzas que influyen en nuestras decisiones. Yudkowsky también desea especificar una IA que utilizaría sus reglas iniciales de extrapolación para extrapolar decisiones humanas más inteligentes sobre las reglas de extrapolación; en efecto, un conjunto de reglas iniciales para la extrapolación se “renormalizaría” (Yudkowsky, 2004).
Aparte de las preguntas normativas, también hay preguntas positivas que hacer sobre la naturaleza y el momento de las tecnologías transformadoras y sus consecuencias. El libro “Mind Children” de Hans Moravec de 1989 exploró las ramificaciones de posibles avances futuros en robótica mind-uploading (Moravec, 1989). Un libro posterior de Moravec, “Robot” (1999), y el éxito de ventas “Age of Spiritual Machines” (1999) de Ray Kurzweil introdujeron estas ideas a una audiencia más amplia (Moravec, 1999), (Kurzweil, 1999). Como hemos visto, Eric Drexler estaba tratando de anticipar las consecuencias de la nanotecnología molecular en los años 80, un esfuerzo en el que desde entonces se le han sumado varios otros investigadores como Robert Freitas, quien ha estudiado con gran detalle las posibles aplicaciones médicas de la nanotecnología y Ralph Merkle, quien ha colaborado con Freitas para estudiar la cinemática de los sistemas autorreplicantes y los pasos técnicos hacia los ensambladores moleculares crudos (Freitas y Merkle 2005). Todos estos autores reconocen que tecnologías tan potentes como la superinteligencia o la nanotecnología molecular no están exentas de graves riesgos de accidentes o mal uso deliberado.
Bostrom (2002) introdujo el concepto de un “riesgo existencial”, definido como “uno en el que un resultado adverso aniquilaría la vida inteligente originada en la Tierra o reduciría de manera permanente y drástica su potencial”, y creó un catálogo de lo que él vio como los más probables riesgos existenciales (Bostrom, 2002). Tanto los riesgos relacionados con la nanotecnología como con la superinteligencia ocupan un lugar destacado en esa lista. En un artículo popular muy discutido, “Por qué el futuro no nos necesita” (2000), Bill Joy argumentó que deberíamos renunciar a los desarrollos en IA, nanotecnología y genética debido a los riesgos que eventualmente surgirán de estas disciplinas (Joy, 2000). Varias personas, reaccionando a Joy, se opusieron a tales prohibiciones alegando que no son realistas, nos privarían de grandes beneficios y podrían aumentar en lugar de disminuir el riesgo si el desarrollo se llevara a la clandestinidad o a regiones del mundo menos vacilantes. John Leslie, Martin Rees y Richard Posner también han investigado las amenazas a la supervivencia humana en el siglo XXI; todos ellos han calificado el riesgo como altamente significativo (Leslie, 1996; Rees, 2003; Posner, 2004).
Robin Hanson ha analizado varios temas de relevancia para la transformación humana, incluidas las consecuencias del mind-uploading en una economía no regulada, la función de señalización social de las creencias, las fuentes y el estado epistemológico de los desacuerdos de opinión, la dinámica de una carrera de colonización espacial y la información, los mercados como un sistema para agregar información y orientar las políticas (Hanson, 1994, 1995, 1998). En relación con el trabajo de Hanson sobre la competencia del mind-uploading y las carreras de colonización, Bostrom ha explorado cómo los resultados distópicos podrían resultar en algunos escenarios evolutivos futuros (Bostrom, 2005). Basándose en su trabajo anterior sobre los efectos de selección de la observación, también formuló el argumento de la simulación, que pretende mostrar que se sigue de algunos supuestos bastante débiles que al menos una de las siguientes proposiciones es cierta:
- es muy probable que la especie humana se extinga antes de alcanzar una etapa “posthumana”; (2) es extremadamente improbable que cualquier civilización posthumana ejecute un número significativo de simulaciones de su historia evolutiva (o variaciones de la misma); (3) es casi seguro que vivamos en una simulación por computadora. De ello se desprende que la creencia de que existe una posibilidad significativa de que algún día nos convertiremos en posthumanos que realicen simulaciones de ancestros es falsa, a menos que estemos viviendo actualmente en una simulación (Bostrom, 2003).
No sabemos qué sucederá, pero varias limitaciones sutiles nos permiten reducir la gama de puntos de vista sostenibles sobre el futuro de la humanidad y nuestro lugar en el universo. Estas limitaciones se derivan de una variedad de fuentes, incluido el análisis de las capacidades de posibles tecnologías basadas en simulaciones físicas o químicas; análisis económicos; teoría de la evolución; teoría de probabilidad; teoría de juegos y análisis estratégico; y cosmología. En parte debido a la naturaleza interdisciplinaria y técnica, a veces, de estas consideraciones, no se comprenden ampliamente. Sin embargo, cualquier intento serio de lidiar con las implicaciones a largo plazo del desarrollo tecnológico debe tenerlas en cuenta.
James Hughes ha argumentado que la biopolítica está emergiendo como una nueva dimensión fundamental de la opinión política. En el modelo de Hughes, la biopolítica se une a las dimensiones más familiares de la política cultural y económica, para formar un espacio de opinión tridimensional. Ya hemos visto que a principios de los 90, los extropianos combinaron la política cultural liberal y la política económica del laissez-faire con la biopolítica transhumanista. En “Citizen Cyborg” (2004), Hughes presenta lo que él denomina “transhumanismo democrático”, que empareja la biopolítica transhumanista con la política económica socialdemócrata y la política cultural liberal (Hughes, 2004). Argumenta que lograremos el mejor futuro posthumano cuando nos aseguremos de que las tecnologías sean seguras, las pongamos a disposición de todos y respetemos el derecho de las personas a controlar sus propios cuerpos. La diferencia clave entre el transhumanismo extropiano y el transhumanismo democrático es que este último otorga un papel mucho más importante al gobierno en la regulación de las nuevas tecnologías para la seguridad y garantizando que los beneficios estén disponibles para todos, no solo para una élite adinerada o informada de la tecnología.
En principio, el transhumanismo se puede combinar con una amplia gama de puntos de vista políticos y culturales, y muchas de esas combinaciones están representadas, por ejemplo, dentro de la membresía de la Asociación Transhumanista Mundial. Una combinación que no se encuentra a menudo es el acoplamiento del transhumanismo a una perspectiva conservadora de la cultura. No está claro si esto se debe a una tensión irresoluble entre la agenda transformadora del transhumanismo y la preferencia del conservador cultural por los arreglos tradicionales. En cambio, podría deberse a que nadie ha intentado desarrollar seriamente tal posición. Es posible imaginar cómo se podrían utilizar las nuevas tecnologías para reforzar algunos valores conservadores de la cultura. Por ejemplo, un producto farmacéutico que facilitó el vínculo de pareja a largo plazo podría ayudar a proteger a la familia tradicional. Parecería una empresa valiosa desarrollar formas de utilizar nuestros crecientes poderes tecnológicos para ayudar a las personas a realizar valores culturales o espirituales ampliamente arraigados en sus vidas.
Sin embargo, esta no es la ruta por la que han optado hasta ahora los conservadores culturales. En cambio, han gravitado hacia el opuesto del transhumanismo, el bioconservadurismo, que se opone al uso de la tecnología para expandir las capacidades humanas o modificar aspectos de nuestra naturaleza biológica. Las personas atraídas por el bioconservadurismo provienen de grupos que tradicionalmente han tenido poco en común. Los conservadores religiosos de derecha y los ecologistas y antiglobalistas de izquierda han encontrado causas comunes, por ejemplo, en su oposición a la modificación genética de los seres humanos.
Las diferentes corrientes del bioconservadurismo contemporáneo se remontan a una serie de orígenes diversos: antiguas nociones de tabú; el concepto griego de arrogancia; la visión romántica de la naturaleza; ciertas interpretaciones religiosas (antihumanistas) del concepto de dignidad humana y de un orden natural dado por Dios; la revuelta de los trabajadores luditas contra la industrialización; El análisis de Karl Marx de la tecnología bajo el capitalismo; varias críticas de filósofos continentales a la tecnología, la tecnocracia y la mentalidad racionalista que acompaña a la tecnociencia moderna; enemigos del complejo militar-industrial y corporaciones multinacionales; y opositores al consumismo por la “carrera de ratas”. Los remedios propuestos van desde el aplastamiento de máquinas (los luditas originales), la revolución comunista (Marx), la compra de “orgánicos”, el yoga (José Ortega y Gasset), pero hoy en día comúnmente emana de llamados nacionales o internacionales para prohibir diversas tecnologías de mejora humana (Fukuyama, Annas, etc.).
Las escritoras feministas se han pronunciado en ambos lados del debate. Los ecofeministas han sospechado que la biotecnología, especialmente su uso para remodelar cuerpos o controlar la reproducción, es una extensión de la explotación patriarcal tradicional de las mujeres o, alternativamente, la han visto como un síntoma de un cuerpo obsesionado por el control, poco enfático, obsesionado con los aparatos, mentalidad de odio al cuerpo. Algunos han ofrecido una especie de psicoanálisis del transhumanismo, concluyendo que representa una vergonzosa racionalización de la inmadurez egocéntrica y el fracaso social. Pero otros han dado la bienvenida al potencial libratorio de la biotecnología. Shulamith Firestone argumentó en el clásico feminista “The Dialectic of Sex” (1971) que las mujeres serán completamente liberadas solo cuando la tecnología las haya liberado de tener que incubar niños (Firestone, 1970). La ciberfeminista Donna Haraway proclama que “preferiría ser un cyborg que una diosa” y argumenta en contra de la visión dualista que asocia a los hombres con la cultura y la tecnología y a las mujeres con la naturaleza (Haraway, 1991).
Quizás la voz bioconservadora más destacada hoy en día es la de Leon Kass, presidente del Consejo de Bioética del presidente Bush. Kass reconoce una deuda intelectual con otros tres distinguidos bioconservadores: el teólogo protestante Paul Ramsey, el apologista cristiano C. S. Lewis y el filósofo y teólogo de origen alemán Hans Jonas (que estudió con Martin Heidegger) (Kass, 2002). Las preocupaciones de Kass se centran en la dignidad humana y las formas sutiles en las que nuestros intentos de afirmar el dominio tecnológico sobre la naturaleza humana podrían terminar deshumanizándonos al socavar varios “significados” tradicionales como el significado del ciclo de vida, el significado del sexo, el significado de comer y el significado del trabajo. Kass es bien conocido por su defensa de “la sabiduría de la repugnancia” (que se hace eco de la “heurística del miedo” de Hans Jonas). Si bien Kass enfatiza que una sensación visceral de repulsión no es un argumento moral, insiste, no obstante, en que el factor de asco merece nuestra respetuosa atención:
En casos cruciales … la repugnancia es la expresión emocional de una sabiduría profunda, más allá del poder de la razón para articular completamente … intuimos y sentimos, de inmediato y sin discusión, la violación de cosas que por derecho nos gustan … A la contaminación y la perversión, la respuesta adecuada solo puede ser horror y repulsión; y a la inversa, el horror y la repulsión generalizados son evidencia prima facie de maldad y violación (Kass 1997).
Francis Fukuyama, otro destacado bioconservador y miembro del Consejo del presidente, ha identificado recientemente al transhumanismo como “la idea más peligrosa del mundo” (Fukuyama, 2004). Para obtener una respuesta, consulte (Bostrom, 2004). Para Fukuyama, sin embargo, la principal preocupación no es el debilitamiento sutil de los “significados”, sino la perspectiva de violencia y opresión. Sostiene que la democracia liberal depende del hecho de que todos los seres humanos comparten un “Factor X” indefinido, que fundamenta su igual dignidad y derechos. Teme que el uso de tecnologías de mejora podría destruir el Factor X (Fukuyama, 2002).
Los bioeticistas George Annas, Lori Andrews y Rosario Isasi han propuesto una legislación para convertir la modificación genética heredable en humanos en un “crimen contra la humanidad”, como la tortura y el genocidio. Su razón fundamental es similar a la de Fukuyama:
La nueva especie, o “posthumana”, probablemente verá a los viejos humanos “normales” como inferiores, incluso salvajes, y aptos para la esclavitud o la matanza. Los normales, por otro lado, pueden ver a los posthumanos como una amenaza y, si es posible, pueden participar en un ataque preventivo matando a los posthumanos antes de que ellos mismos sean asesinados o esclavizados por ellos. En última instancia, es este potencial predecible de genocidio lo que convierte a los experimentos de alteración de especies en potenciales armas de destrucción masiva, y convierte al inexplicable ingeniero genético en un bioterrorista potencial (Annas, Andrews e Isasi, 2002).
Hay algo en común entre Annas et al. y los transhumanistas: están de acuerdo en que el asesinato y la esclavitud, ya sea de humanos por posthumanos o al revés, sería una atrocidad moral y un crimen. Sin embargo, los transhumanistas niegan que esto sea una consecuencia probable de la línea germinal de terapia para mejorar la salud, la memoria, la longevidad u otros rasgos similares en los seres humanos. Si desarrollamos la capacidad de crear alguna entidad singular que pueda potencialmente destruir a la raza humana, como una máquina superinteligente, entonces podríamos considerarlo como un crimen contra la humanidad proceder sin un análisis de riesgo completo y la instalación de un sistema de seguridad con características adecuadas. Como vimos en la sección anterior, el esfuerzo por comprender y encontrar formas de reducir los riesgos existenciales ha sido una preocupación central para algunos transhumanistas, como Eric Drexler, Nick Bostrom y Eliezer Yudkowsky.
Hay otros puntos en común entre los bioconservadores y los transhumanistas. Ambos coinciden en que enfrentamos una perspectiva realista de que la tecnología podría utilizarse para transformar sustancialmente la condición humana en este siglo. Ambos coinciden en que esto impone a la generación actual la obligación de pensar detenidamente sobre las implicaciones prácticas y éticas. Ambos están preocupados por los riesgos médicos de los efectos secundarios, por supuesto, aunque a los bioconservadores les preocupa más que la tecnología pueda tener éxito en lugar que pueda fallar. Ambos campos coinciden en que la tecnología en general y la medicina en particular tienen un papel legítimo que desempeñar, aunque los bioconservadores tienden a oponerse a muchos usos de la medicina que van más allá de la terapia al mejoramiento. Ambas partes condenan los programas de eugenesia racistas y coercitivos patrocinados por el estado del siglo XX.
Los bioconservadores llaman la atención sobre la posibilidad de que los avances tecnológicos puedan erosionar los valores humanos sutiles, y los transhumanistas tal vez deberían aprender a ser más sensibles a estas preocupaciones. Por otro lado, los transhumanistas enfatizan el enorme potencial de mejoras genuinas en el bienestar humano y el florecimiento humano que solo se pueden lograr a través de la transformación tecnológica, y los bioconservadores podrían tratar de apreciar más la posibilidad de que podamos realizar grandes valores al aventurarnos más allá de nuestras limitaciones biológicas actuales.
Agradezco a Anders Sandberg y Sara Lippincott sus comentarios, y a Lovro Furjanić una corrección.
La humanidad se verá profundamente afectada por la ciencia y la tecnología en el futuro. Prevemos la posibilidad de ampliar el potencial humano superando el envejecimiento, las deficiencias cognitivas, el sufrimiento involuntario y nuestro confinamiento en el planeta Tierra.
Creemos que el potencial de la humanidad está todavía en su mayor parte sin realizar. Existen escenarios posibles que conducen a condiciones humanas maravillosas y extremadamente valiosas.
Reconocemos que la humanidad se enfrenta a graves riesgos, especialmente por el mal uso de las nuevas tecnologías. Existen posibles escenarios realistas que conducirían a la pérdida de la mayor parte, o incluso de todo, lo que consideramos valioso. Algunos de estos escenarios son drásticos, otros son sutiles. Aunque todo progreso es cambio, no todo cambio es progreso.
Es necesario invertir esfuerzos de investigación para comprender estas perspectivas. Tenemos que deliberar cuidadosamente sobre la mejor manera de reducir los riesgos y agilizar las aplicaciones beneficiosas. También necesitamos foros en los que la gente pueda debatir de forma constructiva lo que debería hacerse, y un orden social en el que se puedan aplicar decisiones responsables.
La reducción de los riesgos existenciales y el desarrollo de medios para la preservación de la vida y la salud, el alivio de los graves sufrimientos y la mejora de la previsión y la sabiduría humanas deberían ser prioridades urgentes y contar con una gran financiación.
La elaboración de políticas debe estar guiada por una visión moral responsable e integradora, tomando en serio tanto las oportunidades como los riesgos, respetando la autonomía y los derechos individuales, y mostrando solidaridad y preocupación por los intereses y la dignidad de todos los pueblos del mundo. También debemos considerar nuestras responsabilidades morales hacia las generaciones que existirán en el futuro.
Abogamos por el bienestar de todos los seres sensibles, incluyendo a los seres humanos, los animales no humanos y cualquier inteligencia artificial futura, formas de vida modificadas u otras inteligencias a las que puedan dar lugar los avances tecnológicos y científicos.
Estamos a favor de permitir a los individuos una amplia elección personal sobre cómo habilitar sus vidas. Esto incluye el uso de técnicas que puedan desarrollarse para ayudar a la memoria, la concentración y la energía mental; las terapias de extensión de la vida; las tecnologías de elección reproductiva; los procedimientos de criogenización; y muchas otras posibles tecnologías de modificación y mejora humana.
Annas, G., L. Andrews, and R. Isasi (2002), “Protecting the Endangered Human: Toward an International Treaty Prohibiting Cloning and Inheritable Alterations”, American Journal of Law and Medicine 28 (2&3):151-178.
Bacon, F. (1620), Novum Organum. Translated by R. L. Ellis and J. Spedding. Robertson, J. ed, The Philosophical Works of Francis Bacon, 1905. London: Routledge.
Bernal, J. D. (1969), The world, the flesh & the devil; an enquiry into the future of the three enemies of the rational soul. Bloomington: Indiana University Press.
Bostrom, N. (1998), “How Long Before Superintelligence?” International Journal of Futures Studies 2.
—, (2002), “Existential Risks: Analyzing Human Extinction Scenarios and Related Hazards”, Journal of Evolution and Technology 9.
—, (2002), “When Machines Outsmart Humans”, Futures 35 (7):759-764.
—, (2003), “Are You Living in a Computer Simulation?” Philosophical Quarterly 53 (211):243-255.
—, (2003), “Human Genetic Enhancements: A Transhumanist Perspective”, Journal of Value Inquiry 37 (4):493-506.
—, The Transhumanist FAQ: v 2.1. World Transhumanist Association 2003. http://transhumanism.org/index.php/WTA/faq/.
—, (2004), “Transhumanism: The World’s Most Dangerous Idea?”, Betterhumans 10/19/2004.
—, (2004), “Transhumanist Values”, in Fredrick Adams (ed.), Ethical Issues for the 21st Century: Philosophical Documentation Center Press.
—, (2005), “The Fable of the Dragon Tyrant”, Journal of Medical Ethics 31 (5):273-277.
—, (2005), “The Future of Human Evolution”, in Charles Tandy (ed.), Death and Anti-Death: Ria University Press.
—, (2005), “In Defence of Posthuman Dignity”, Bioethics forthcoming.
Bostrom, N., and T. Ord (2005), “Status Quo Bias in Bioethics: The Case for Cognitive Enhancement”, in Nick Bostrom and Julian Savulescu (eds.), Improving Humans, Oxford: Oxford University Press.
Buchanan, A., D. W. Brock, N. Daniels, and D. Wikler (2002), From Chance to Choice: Genetics and Justice: Cambridge University Press.
Capek, K. (2004), R.U.R. (Rossum’s universal robots), Penguin classics. London: Penguin Books.
Condorcet, J.A.N. d. C. (1979), Sketch for a historical picture of the progress of the human mind. Westport, Conn.: Greenwood Press.
Darwin, C. (2003), The origin of the species, Barnes & noble classics. New York, NY: Fine Creative Media.
Drexler, E., and R. Smalley (1993), “Nanotechnology: Drexler and Smalley make the case for and against ‘molecular assemblers’”, Chemical & Engineering News 81 (48):37-42.
Drexler, K. E. (1985), Engines of Creation: The Coming Era of Nanotechnology. London: Fourth Estate.
—, (1992), Nanosystems: Molecular Machinery, Manufacturing, and Computation. New York: John Wiley & Sons, Inc.
Esfandiary, F. M. (1970), Optimism one; the emerging radicalism. New York: Norton.
Ettinger, R. (1964), The prospect of immortality. New York: Doubleday.
Ettinger, R. C. W. (1972), Man into superman; the startling potential of human evolution and how to be part of it. New York: St. Martin’s Press.
Feynman, R. (1960), “There is Plenty of Room at the Bottom”, Engineering and Science Feb.
Firestone, S. (1970), The dialectic of sex; the case for feminist revolution. New York,: Morrow.
FM-2030 (1989), Are you a transhuman?: monitoring and stimulating your personal rate of growth in a rapidly changing world. New York, NY: Warner Books.
Franklin, B., et al. (1956), Mr. Franklin: a selection from his personal letters. New Haven: Yale University Press.
Freitas, R., and R. Merkle (2005), Diamond Surfaces and Diamond Mechanosynthesis. Georgetown, TX: Landes Bioscience.
Fukuyama, F. (2002), Our Posthuman Future: Consequences of the Biotechnology Revolution: Farrar, Straus and Giroux.
—, (2004), “Transhumanism”, Foreign Affairs September/October.
Glover, J. (1984), What Sort of People Should There Be?: Pelican.
Good, I. J. (1965), “Speculations Concerning the First Ultraintelligent Machine”, Advances in Computers 6:31-88.
Haldane, J. B. S. (1924), Daedalus; or, Science and the future. London,: K. Paul, Trench, Trubner & co., ltd.
Hanson, R. (1994), “What If Uploads Come First: The Crack of a Future Dawn”, Extropy 6 (2).
—, (1995), “Could Gambling Save Science? Encouraging an Honest Consensus”, Social Epistemology 9:1:3-33.
—, Burning the Cosmic Commons: Evolutionary Strategies for Interstellar Colonization 1998. http://hanson.gmu.edu/filluniv.pdf.
Haraway, D. (1991), “A Cyborg Manifesto: Science, Technology, and Socialist Feminism in the Late Twentieth Century”, in Simians, Cyborgs and Women: The Reinvention of Nature, New York: Routledge, 149-181.
Harris, J. (1992), Wonderwoman and Superman: the ethics of human biotechnology, Studies in bioethics. Oxford: Oxford University Press.
Hughes, J. (2004), Citizen Cyborg: why democratic societies must respond to the redesigned human of the future. Cambridge, MA: Westview Press.
Huxley, A. (1932), Brave New World. London: Chatto & Windus.
Huxley, J. (1957), New Bottles for New Wine. London: Chatto & Windus.
Jonsen, A. R. (1998), The birth of bioethics. New York: Oxford University Press.
Joy, B. (2000), “Why the future doesn’t need us”, Wired 8.04.
Kant, I. (1986), Philosophical writings, The German library; v. 13. New York: Continuum.
Kass, L. (1997), “The Wisdom of Repugnance”, The New Republic 2 June 1997:22.
—, (2002), Life, liberty, and the defense of dignity: the challenge for bioethics. 1st ed. San Francisco: Encounter Books.
Kurzweil, R. (1999), The Age of Spiritual Machines: When computers exceed human intelligence. New York: Viking.
La Mettrie, J. O. d. (1996), Machine man and other writings, Cambridge texts in the history of philosophy. Cambridge: Cambridge University Press.
Leslie, J. (1996), The End of the World: The Science and Ethics of Human Extinction. London: Routledge.
Minsky, M. (1994), “Will Robots Inherit the Earth?” Scientific American.
Mitchell, S. (2004), Gilgamesh: a new English version. New York: Free Press.
Moore, G. E. (1965), “Cramming more components onto integrated circuits”, Electronics 38 (8).
Moravec, H. (1989), Mind Children. Harvard: Harvard University Press.
—, (1999), Robot: Mere Machine to Transcendent Mind. New York: Oxford University Press.
More, M. Principles of Extropy, Version 3.11 2003. http://www.extropy.org/principles.htm.
Newman, W. R. (2004), Promethean ambitions: alchemy and the quest to perfect nature. Chicago: University of Chicago Press.
Nietzsche, F. W. (1908), Also sprach Zarathustra: ein Buch für alle und keinen. Leipzig: Insel-Verlag.
Office, U. S. G. P. (1949), Trials of War Criminals before the Nuremberg Military Tribunals under Control Council Law No. 10, 2:181-182.
Orwell, G. (1949), 1984, a novel. New York: Harcourt.
Parens, E. (1998), Enhancing human traits: ethical and social implications, Hastings Center studies in ethics. Washington, D.C.: Georgetown University Press.
Parfit, D. (1984), Reasons and Persons. Oxford: Clarendon Press.
Pearce, D. The Hedonistic Imperative 2004. http://www.hedweb.com/hedab.htm.
Pence, G. E. (1998), Who’s afraid of human cloning? Lanham: Rowman & Littlefield.
Pico della Mirandola, G. (1956), Oration on the dignity of man. Chicago: Gateway Editions.
Posner, R. (2004), Catastrophe. Oxford: Oxford University Press.
Rees, M. (2003), Our Final Hour: A Scientist’s Warning: How Terror, Error, and Environmental Disaster Threaten Humankind’s Future in This Century — On Earth and Beyond. Basic Books.
Regis, E. (1990), Great mambo chicken and the transhuman condition: science slightly over the edge. Reading, Mass.: Addison-Wesley.
—, (1994), “Meet the Extropians”, Wired 2 (10).
Russell, B. (1924), Icarus; or The future of science. London: K. Paul, Trench, Trubner & Co., ltd.
Savulescu, J. (2001), “Procreative Beneficence: Why We Should Select the Best Children”, Bioethics 15 (5-6):413-426.
Shelley, M. W. (1818), Frankenstein; or, The modern Prometheus. London,: Printed for Lackington, Hughes, Harding, Mavor, & Jones.
Singer, P. (2003), “Shopping at the Genetic Supermarket”, in SY Song, YM Koo and DRJ. Macer (eds.), Bioethics in Asia in the 21st Century: Eubios Ethics Institute, 143-156.
Stock, G. (2002), Redesigning Humans: Our Inevitable Genetic Future: Houghton Mifflin Company.
Teilhard de Chardin, P. (1964), The future of man. New York: Harper & Row.
Tipler, F. (1994), The Physics of Immortality. New York: Doubleday.
Turing, A. (1950), “Computing machinery and intelligence”, Mind 59:433-460.
Ulam, S. (1958), “John von Neumann 1903-1957”, Bulletin of the American Mathematical Society (May).
Vinge, V. (1993), “The Coming Technological Singularity”, Whole Earth Review Winter issue.
Vita-More, N. Transhumanist Arts Statement 2002. http://www.transhumanist.biz/transart.htm.
Walker, M. (2002), “Prolegomena to Any Future Philosophy”, Journal of Evolution and Technology 10.
World Medical Organization (1996), “Declaration of Helsinki”, British Medical Journal 313 (7070):1448-1449.
WTA The Transhumanist Declaration 2002. http://transhumanism.org/index.php/WTA/declaration/.
Yudkowsky, E. Collective Volition 2004. http://www.singinst.org/friendly/collective-volition.html.