1c.the Future of Human Evolution

8/19/2019 1c.the Future of Human Evolution

1/25

EL FUTURE DE HUMAN EVOLUCIÓN

Nick Bostromfuturo de la humanidad, losprofesores del Instituto de Filosofía & James Martin 21stCentury School de laUniversidad de Oxfordwww.nickbostrom.com[Primera versión: 2004. Publicado en muerte y Anti-muerte:Doscientos años después de Kant, cincuenta años después de Turing,ed. Charles Tandy (Ria University Press: Palo Alto, California,2004): pp. 339-371. Republicado enBedeutung (2009): El próximo]

ResumenEl desarrollo evolutivo a veces se piensa que exhibe una tendenciainexorablehacia mayores, más complejos y normativamente valiosas formas devida. Este documento explora algunos escenarios distópico donde

rueda libre evolución, mientras sesigue produciendo y complejas formas de organización inteligente,conducir a la eliminación progresiva de todas las formas de vida quenos preocupa. Luego consideramos cómo tales resultados catastróficospodrían evitarse y argumentan que, bajo ciertas condiciones, laúnica solución posible sería una política coordinada a nivel mundialpara el control de la evolución humana, modificandola función de adecuación de las futuras formas de vida inteligente.

1. La vista Panglossianpodemos confiar en el desarrollo evolutivo de nuestra especie enadoptar ampliamente deseable direcciones?

A partir de primitivos, vida inconsciente, la evolución biológica haconducido al desarrollo demicroorganismos cada vez más avanzadas, incluyendo las criaturas quetienen mentes, la conciencia, ellenguaje y la razón. Más recientemente, cultural y tecnológico, queexhibenciertos paralelismos con la evolución biológica, han permitido anuestra especie a avanzar a unritmo acelerado enormemente. Los últimos cien años han visto enormesmejoras en laduración de la vida humana, la productividad laboral, elconocimiento científico y la organización social y política,que han permitido que miles de millones de personas a disfrutar de

oportunidades sin precedentes para el disfrutey el desarrollo personal. En un histórico así como en una escala detiempo geológico, la granimagen muestra una tendencia global hacia el aumento de los nivelesde complejidad, el conocimiento, la


2/25

conciencia, y 1 coordinada organización dirigido hacia una meta, unatendencia que, de no poner demasiado finas1 un punto en ella, es posible que la etiqueta de "progreso".Lo que llamaremos la vista Panglossian sostiene que este historialde éxitonos da buenas razones para pensar que la evolución (ya seabiológico, memetic, otecnológicos) continuará liderando en direcciones deseables. EstePanglossian ver, sin embargo,puede ser criticada por al menos dos razones. En primer lugar,porque no tenemos ninguna razón para pensar que todo este progresofue pasado en ningún sentido inevitable--mucho de él puede, paraaught sabemos, ha sido debido a la suerte. Y segundo, porque inclusosi el progreso logrado en el pasado fueron hasta cierto puntoinevitable, no hay garantía de que la melioristic tendenciacontinuará en elfuturo indefinido. La primera objeción deriva cierto grado de apoyode la consideración de que unefecto de selección de observación está funcionando para filtrar laspruebas podemos tener acerca del éxito

2 de nuestro propio desarrollo evolutivo. Supongamos que fueracierto que el 99,9% de todos los planetasdonde la vida surgió, se extinguieron antes de desarrollar hasta elpunto de quelos observadores inteligentes podrían comenzar a meditar sobre suorigen. Si este fuera el caso, ¿qué deberíamos esperar paraobservar? Respuesta: algo similar a lo que hacemos en el hecho deobservar. Claramente, la hipótesis deque las probabilidades de desarrollar vida inteligente en un planetadado son bajos no predice que debemosencontrarnos en un planeta donde la vida se extinguieron en unaetapa temprana. En su lugar, predice que debemos encontrarnos en unplaneta donde la vida inteligente ha evolucionado, incluso si tales

planetas constituyen una fracción muy pequeña de todos los planetasdonde la vida primitiva evolucionó. El largo historial de éxito dela vida en nuestro pasado evolutivo, que uno puede tomar paraingenuamente apoyan la hipótesis de que la vida es, en general, lasperspectivas son buenas y que hay algo parecido a lainevitabilidad del surgimiento de organismos superiores desdesimples replicadores, resulta,después de reflexionar sobre el abrumador efecto de selección deobservación el filtrado posiblesevidencias podríamos Tienen, no ofrecer ningún ese apoyo en todo,porque esta es la misma evidencia de que deberíamos esperar a habertenido si la hipótesis optimista eran falsas. Una muchomás cuidadoso examen de los detalles de nuestra historia evolutiva

se necesitarían paraeludir este efecto de selección. Dicho examen está más allá delalcance del presentedocumento 3. Este documento se centrará más bien en la segundaobjeción a la vista Panglossian. Incluso si el surgimiento de vidainteligente desde simples replicadores han un robusto y casiinevitable, este proceso no nos dan fuertes motivos para pensar que latendencia positiva continuará. Una posibilidad es, por supuesto, queun evento catastrófico puede provocar la repentina


3/25

1 Para un argumento que tanto la historia geológica y humanamanifiestan una tendencia hacia una mayor complejidad, véase (Wright1999). Para un argumento contrario (criticado en el capítulo 9 dellibro de Wright), véase (Gould 1990).2 Para la teoría de la observación de los efectos de selección, veaBostrom (2002a) y sus referencias.3 Pero véase, por ejemplo, (Carter, 1983, 1989; Bostrom Hanson,2002a; 1998b).2 La

extinción de la especie humana. Algunos riesgos existenciales surgende la naturaleza, por ejemplo,riesgos de impacto (meteoritos y asteroides), las pandemias, lascatástrofes, astrofísicos y supervolcano erupciones. Pero losmayores riesgos existenciales son antropogénicas y surgen, másespecíficamente,presentes o futuras previstas de los desarrollos tecnológicos. Usos

destructivos de laavanzada nanotecnología molecular, diseñador de los patógenos, lasfuturas carreras de armamentos nucleares, experimentos de física dealta energía, y auto-mejoramiento de AI con un mal concebido metasystem están entre las preocupantes perspectivas que podrían causarel mundo humano para terminar en una explosión. Aquí, sin embargo,vamos a estudiar un conjunto diferente de riesgo existencial, en elque el mundo terminaría el4 de manera más gradual, no con una explosión, sino con un quejido.Dejemos pues suponer que ningúncataclismo repentino pone fin a la vida. También nosotros debemosapartar los escenarios en los cuales la evolución conduce a laerosión de la complejidad. Vamos a estudiar cómo, incluso si el

desarrollo evolutivo continúa sin cesar en la dirección de una mayorcomplejidad, sin embargo, las cosas podrían tomar un giro equivocadoque conduce a la desaparición de todas las cosas que valoramos. Estepapel no se afirman que esto es lo que sucederá. El objetivo es, másbien, parasocavar nuestra confianza en la vista Panglossian y sugerir que unapostura más agnóstica refleja mejor la evidencia disponible. Voy aexaminar un par de escenarios en los cualesrueda libre evolución nos llevan en direcciones indeseables, y voy aargumentarque si el futuro paisaje de fitness evolutivo es tal que estoscursos evolutivos predeterminado (y no tenemos sólidas razones afavor o en contra de esta hipótesis), entonces

la única forma en que podríamos evitar existencial a largo plazoDesastre está por tomar el control de nuestra propiaevolución. Haciendo esto, voy a argumentar más, requeriría laelaboración de un "singleton",un orden mundial en el que al más alto nivel de organización haysólo unpoder de decisión independiente (que puede ser, pero nonecesariamente, un gobierno mundial).52. Dos distópica "hacia arriba" escenarios evolutivosen esta sección vamos a considerar dos escenarios en los que laevolución humana, potenciados por la


4/25

tecnología avanzada, conduce en direcciones que debemos considerarcomo altamente indeseable.Escenario I: Los insensatos Outsourcerscontinúa el progreso tecnológico para acelerar y en algún momento latecnología de6 "mente cargando" llega a ser posible. Algunos individuos humanoscargar y hacer

4 Para obtener más información sobre riesgos existenciales, y laclasificación de estos en "bangs", "whimpers" y otras categorías,consulte Bostrom (2002b); también (Leslie 1996; Rees 2003; Posner2004).5 En singletons, vea Bostrom (2006).6 Cargando abarcaría, en primer lugar, congelar un cerebro y, acontinuación, cortar en rodajas, luego de escanear las rodajas conalguna técnica de escaneado de alta resolución y, a continuación,utilizando el software de procesamiento de imágenes automatizadopara reconstruir y etiquetar un mapa 3D muy detallado del cerebrooriginal. El mapa mostraría todas las neuronas, la matriz de susinterconexiones sinápticas, las fortalezas de estas uniones, y otros

detalles relevantes. Utilizando3

muchas copias de sí mismos. Mientras tanto, hay un progreso gradualen la neurocienciay la inteligencia artificial, y eventualmente es posible aislarlos módulos cognitivos individuales y conectarlas a los móduloscargados de otras mentes. Posiblemente, módulos tendría que estarcapacitado para poder comunicarse entre sí demanera efectiva. Los módulos que se ajusten a una norma común, sería

mejor podercomunicarse y cooperar con otros módulos y sería, por tanto,económicamente más productivos, creando una presión para lanormalización. Pueden existirmúltiples estándares; algunos módulos podrían especializarse en latraducción entrenormas incompatibles. Comenzar la carga competitiva crecienteexternalización porcionesde su funcionalidad: "¿Por qué necesito saber aritmética cuandopuedo comprar tiempo dearitmética-Modules Inc. siempre que necesito para hacer mis cuentas?¿Por qué necesito para serbuenos con el lenguaje cuando puedo contratar a un profesional del

módulo de lenguaje para expresar mispensamientos? ¿Por qué necesito para molestarse con la toma dedecisiones acerca de mi vida personalcuando hay certificación ejecutiva-módulos que puede escanear miobjetivo estructurar y administrar mis activos, de modo que lo mejorpara cumplir mis objetivos?" Algunas cargas pueden preferirconservar la mayor parte de su funcionalidad y gestionar tareas síque podría ser máseficiente si se hace por otros. Serían como los aficionados quedisfrutan de cultivar sus


5/25

propios vegetales o tejer sus propias cardigans; pero no sería menoseficiente que otras cargas, y que, por tanto, quedaría outcompeted alo largo del tiempo.Es posible que la eficiencia óptima se alcanzará mediante laagrupación de habilidades enagregados que son aproximadamente equivalentes en humanos. Podríaser el caso, por ejemplo, que unmódulo de matemáticas deben estar adaptados a la lengua-module, yque ambos deben ser adaptados ala ejecutiva-módulo, a fin de que los tres son capaces de trabajarjuntos de manera eficaz.La normalización podría estar casi totalmente impracticable. Pero esdifícil ver algunarazón convincente para estar seguros de que esto es así. Para aughtsabemos,mentes de tipo humano puede ser sólo óptimo dadas las limitacionesde la neurología. Cuando resulta posible copiar módulos a voluntad,para enviar señales de alto ancho de banda entre las piezas dediferentes cerebros, y construir arquitecturas que no puede serfácilmente implementado en redes neuronales biológicas, puede

resultar que la optima en relación a este nuevo paisaje derestricciones se ha desplazado de la región como la mente humana.Puede no existir un nicho para arquitecturas mental de7 a la especie humana.

Modelos computacionales de cómo funcionan estos elementos básicos,todo el cerebro podría entonces ser emulados De manerasuficientemente amplio equipo. Para más detalles, véase (Sandberg& Bostrom 2008).7 algunas especulaciones sobre el futuro de la ecología de losagentes inteligentes pueden encontrarse en (Chislenko 1996; MoravecMoravec, 1989; 1999); cf. también Minsky (1988). Existe una amplialiteratura económica sobre los contratos, los costos de transacción,

el tamaño de la empresa, etc. que forman un fondo pertinente parapensar acerca de la plausibilidad de la hipótesis deexternalización, pero una revisión de esta literatura está más alládel alcance de este papel; el locus classicus (Coase 1937).4

Puede haber nichos ecológicos para los complejos que o bien sonmenos complejas (comomódulos individuales), más complejas (como las inmensas colonias demódulos), o de complejidad similar como la mente humana pero con

arquitecturas radicalmente diferente. Serían estos complejos merezcala pena desde nuestro punto de vista actual? Nosotros, previareflexión, realmentea favor de un mundo en el que tales tipos de alienígenas complejoshan reemplazado complejos de tipo humano? La respuesta podríadepender de la naturaleza exacta de esos complejos alienígena. Elmundo actual contiene muchos niveles de organización. Algunasentidades altamente complejas comolas corporaciones multinacionales y los estados nación contienenseres humanos como constituyentes. Sin embargo, solemos


6/25

asignar estos complejos de alto nivel sólo valor instrumental. Lasempresas y los Estadosno (se supone generalmente) tienen por sí mismos la conciencia, másallá de laconciencia de la gente que constituyen ellos; no puede sentir doloroplacer fenomenal. Pensamos que son de valor sólo en la medida en quesirven a las necesidades humanas. Enlos casos en que no contribuyen al bienestar de toda criaturasensible, nos "matar" a ellos8 sin escrúpulos. También hay niveles inferiores de la organizaciónen el mundo de hoy, y a lasentidades que habitan en esos niveles no gozan de considerable valormoral. Pensamos que no está mal para borrar un trozo de códigoinformático. Tampoco pensamos que un neurocirujano estádañando a nadie cuando ella extirpates un módulo (quizás conteniendoun centro epilépticos) de un cerebro humano si la operación ayuda alas restantes partes del cerebro para que funcione mejor. En cuantoa formas alienígenas de complejos de la misma complejidad como uncerebro humano, la mayoría de nosotros podría asignarles valor sólo

si pensamos que tenían una capacidad de experiencia consciente. Asípodemos imaginar una sociedad tecnológicamente muy avanzados, quecontiene muchostipos de estructuras complejas, algunas de las cuales son mucho másinteligentes y más intrincados quenada de lo que existe hoy en día, en la cual no sería, sin embargo,una ausencia total de cualquiertipo de ser cuyo bienestar ha significado moral. En cierto sentido,esto sería unasociedad deshabitadas. Todos los tipos de vida que nos preocupamossiquiera remotamente sobre habríadesaparecido. ¿Qué haría un mundo sin valor no es el hecho de quelas máquinas que habría

sustituido el hombre biológico. Si una cuenta está implementado enlas neuronas biológicas o en procesadores de silicio parece no hacerninguna diferencia moral fundamental. Más bien, la catástrofe seríaque ese mundo no contendría incluso el tipo correcto de lasmáquinas, es decir, aquellas queson conscientes y cuyo bienestar asuntos. Puede haber una abundanciade riqueza económica y capacidad tecnológica en un mundo como elactual, sin embargo, sería inútil porque no habría nadie allí parabeneficiarse de ella.Escenario II: Todo-trabajo-y-no-Fun

8 Algunos nacionalistas fundamentalistas pueden creer que un Estadonación ha estado moral independiente y tiene derecho a los

sacrificios humanos incluso cuando ninguna necesidad humana seríaservida. La mayoría de nosotros rechazamos esas opiniones.5

incluso si no suponemos que la carga y la externalización resultaráen unapérdida generalizada de conciencia, aún podemos contemplar laposibilidad de que actividades intrínsecamente valiosa y estados de


7/25

conciencia se vuelven más escasos o desaparecer. Gran parte de lavida humana su significado posiblemente depende del goce, porsu propio bien, humor y amor, el juego, el arte, el sexo, el baile,la conversación social, lafilosofía, la literatura, el descubrimiento científico, la comida yla bebida, la amistad, la paternidad,y el deporte. Tenemos preferencias y capacidades que nos hacenparticipar en talesactividades, y estas predisposiciones son adaptables en nuestraespecie' pasado evolutivo;pero lo que suelo hacer, hemos de estar seguros de que estasactividades continuarán o similarespara ser adaptables en el futuro? Quizás lo que maximizará laaptitud en elfuturo será nada pero non-stop de alta intensidad la monotonía, eltrabajo de una monótona yrepetitiva, encaminadas a mejorar el octavo decimal de ciertaproducción económica medida. Incluso si los trabajadoresseleccionados en este escenario son conscientes, el mundo resultantesería todavía empobrecido radicalmente en términos de las cualidades

quedan valor a la vida.Para ver por qué estos escenarios evolutivos no son absolutamentetan improbable como puedeparecer, consideraremos brevemente cómo llegamos a donde estamoshoy, y si los factoresque conducen a la evolución de la conciencia e interesantesactividades será necesariamenteseguir promoviendo estos fenómenos valiosos, o si podrían reflejaren su lugar Una fase transitoria en la historia de la vidainteligente.

3. El nuestro es un desequilibrio evolutivo

si deseaba maximizar el número de su descendencia, su mejorestrategia sería probablemente para donar como cantidad deespermatozoides a los bancos de esperma como puede si son hombres, opara convertirse en undonante del huevo si son mujeres. La mayoría de nosotros no hacemosesto porque la mayoría de nosotros no tienen ninguna gran deseo deéxito reproductivo concebido de manera abstracta. Especialmente enlospaíses desarrollados, las parejas suelen elegir a los niños tienenmucho menos que el máximo que podía apoyar, y los programas debienestar social garantizaría la supervivencia de cualquier númerode hijos que una pareja no podía apoyar. La naturaleza humana es enun desequilibrio evolutivo; nuestro evolucionado

disposiciones no están adaptadas a la adecuación del paisajecontemporáneo y no maximizar el9 inclusive fitness actual de los individuos.Si la tecnología y la organización social fueron congeladosmágicamente en su estado actual,la especie humana seguramente tendría que evolucionar laspreferencias que refleje más cabalmente lafunción de fitness moderna. Esto podría suceder por nuestrodesarrollo de una preferencia directa para el éxito reproductivo (encontraste con las preferencias por sexo, la crianza de los hijos,etc.). Alternativamente, podríamos


8/25

9 No hay pruebas recientes de influencia genética sobre lafertilidad humana resultados, más allá de lo que puede atribuirse alequilibrio tasas de mutación; ver (Kirk 2001; Rogers et al. 2003).6

desarrollar una fuerte aversión instintiva a la utilización demétodos de control de natalidad. También es posible quela evolución cultural sería actuar más rápido que la evoluciónbiológica, produciendo un meme dominanteconjunto favoreciendo abundante descendencia y oponerse a todas lasformas de control de la natalidad.10 El crecimiento de la poblaciónes limitada no sólo por nuestra relativa falta de interés en tenerhijos, sino también por la biología de la reproducción humana ymaduración. Las parejas pueden producir sólo un niño por año y selleva a un recién nacido alrededor de una década y media paraalcanzar la madurez sexual. Incluso estos inhibidores fisiológicosdel crecimiento de la población puede ser reducida. Si bien la

evolución biológica probablemente podría reducir la duración delembarazo humano y tiempo a la pubertad, en cierta medida, efectosmucho más radical podría ser el resultado de laevolución tecnológica. Cargas (y las inteligencias artificiales)podría reproducir prácticamente de manera instantánea. Además, desdesus "hijos" (copias) sería idéntico aloriginal, no habría ningún maturational latencia. El crecimiento dela población en la poblaciónpodría ser una carga rápidamente exponencial, con un tiempo deduplicación potencial de días o menos. El actual nivel sinprecedentes de renta media global es el resultado del hecho deque, durante mucho tiempo, la economía mundial ha crecido más rápidoque la población mundial.

La renta media sólo puede aumentar si el crecimiento económicosupera el crecimiento de la población. Si y cuandola motivación fisiológica y los impedimentos para el crecimiento dela población se reduce,la tasa de crecimiento de la población sería empezar a acelerar,alcanzar potencialmente "cerca del infinito" cuando la carga llega aser posible. El crecimiento económico sería incapaz de mantenerse ala par con elcrecimiento de la población en una población de reproducirlibremente las cargas. Si un programa de bienestar social trató degarantizar una renta mínima para cargas mientras permitiendo unareproducción ilimitada,11 sería muy rápido quiebran incluso estelar dadas las tasas de

crecimiento económico. Sino se impusieran limitaciones sociales sobre la reproducción, laslimitaciones de recursos se iniciaría en el ingreso promedio yconduzca a un nivel que hizo imposible la reproducción frecuente.12Estas reflexiones nos advierten contra la importación ingenuamenteintuiciones sobre elestado actual de las cosas en nuestro modo de pensar acerca delfuturo. Podría parecer que el pesimismo maltusiano

10 ya hay algunos datos sugiriendo memetic efectos en el gimnasio.La expansión de la Hutterites, una secta anabaptista, es atribuible


9/25

a su extremadamente alta tasa de fecundidad (Eaton y Mayer, 1953).Un promedio Hutterite mujer da a luz a nueve hijos. Los Hutteritesse oponen a cualquier tipo de control de la natalidad y ver la altafecundidad como un signo de la bendición divina. Las mujerescatólicas romanas tienen aproximadamente un 20% mayor aptitudreproductora de la mujer de otras religiones (KIRK 2001). Por elcontrario, los partidarios de VHEMT (movimiento de extinción humanavoluntaria) han rechazado el tener hijos por completo, lo que lesdaría cero fitness (Knight, 2001). Las mujeres con estudiosuniversitar soitienne un 35% de menor aptitud que aquellos con menosde siete años de educación (KIRK 2001), y no religiosas tambiéntienen menor al promedio de fitness.11 Incluso si pudiéramos colonizar el universo en todas direccionesa la velocidad de la luz, ello sólo serviría para aumentar losrecursos bajo control humano exponencialmente (a una tasa de ~ t2),mientras que el crecimiento demográfico desenfrenado puedefácilmente ser exponencial (~ e t).12 Para un análisis de la economía de cargar, ver (Hanson, 1994).7

13 han sido refutadas por la historia de los últimos doscientosaños. Hanmejorado las condiciones de vida incluso en la ausencia de controlde la población, al contrario de Malthus es notorio lapredicción. Sin embargo, esta anomalía se explica por los factoresmencionados anteriormente: nuestraspreferencias no están en un equilibrio evolutivo y la lentitud de lareproducción humana. Si evolutivo más o desarrollos tecnológicosfueron para eliminar estosfactores inhibitorios, las tasas de crecimiento de la población

podría fácilmente llegar a superar el crecimiento económico, en eladvenimiento de una era malthusiana donde la renta media se ciernecerca del nivel de subsistencia. Concarga ilimitada de reproducción, esta transición podría pasar casiinstantáneamente.

4. Señalización costosa y ostentosa exhibición?Hacemos muchas cosas que no lo son, en un sentido estrictoinstrumentalmente útil: bailamos, broma, escribir poesía, TiraPartes, ir de vacaciones, se visten con ropa de moda caros, observary participar en deportes, y así sucesivamente. Que actualmenteestamos en undesequilibrio evolutivo no da cuenta de esto: Incluso nuestros

antepasados Pleistoceno exhiben muchos deestos comportamientos "inútil". Por otra parte, dichoscomportamientos no se limitan a los seres humanos:[extravagante muestra] aparecen en una variedad de contextos, desdeconcursos de selección sexual en el mundo animal, a concursos deprestigio entre los miembros de los estados-nación contemporáneosque abarcan continentes con enormes sistemas de carreteras, eincluso la gente de la tierra ala Luna.14 Una explicación evolutiva para la existencia de Talescomportamientos es que funcionan


10/25

como duro-a-señales falsas de importantes cualidades que sondifíciles de observar directamente,tales como la aptitud física o mental, condición social, calidad dealiados, capacidad y voluntad de prevalecer en una lucha, o laposesión de recursos. No sólo el comportamiento sino la morfología,también puede servir como una señal, la cola del pavo real de ser unparadigma. Una extravagante cola es unhandicap que sólo caben pavos puede permitirse y, peahens hanevolucionado para ser sexualmente atraído por esas colas porque sonindicadores de aptitud genética.15 Dado que la ostentosa exhibiciónes tan común entre los seres humanos y otrasespecies, uno podría considerar si no también ser parte delrepertorio de

13 Thomas Robert Malthus (1766-1834), político economista ydemógrafo, argumentó que el nivel de vida de la clase obrera nopodría elevarse sin control de la población debido a que el aumentode los ingresos llevaría eventualmente a los trabajadores que tienenmás hijos sobrevivientes, lo que elevaría los salarios hacia abajootra vez. Pero Malthus no era tan completamente pesimista como

comúnmente se piensa. En la segunda, rara vez leen, edición de suensayo sobre la población escribe: "Aunque nuestras perspectivas defuturo respetando la mitigación de los males derivados del principiode la población puede no ser tan brillante como podríamos desear,pero están lejos de ser totalmente desalentador." (Malthus 1803).14 (Kansa 2003).15 Véase, por ejemplo, (Zehavi et al. 1999).8

formas de vida tecnológicamente más madura. Tenemos la esperanza de

que incluso si no hubieraestricto uso instrumental para jugar o incluso para mentesconscientes en el futuro ecología de vida inteligente, estascaracterísticas podrían sin embargo conferir ventajas evolutivas asus poseedores en virtud de ser señales fiables de otras cualidadesadaptativas. Sin embargo, aunque esta posibilidad es difícil dedescartar, hay varias razones para el escepticismo que socavan laconfianza Panglossian prescrito por la vista. En primer lugar,muchos de los extravagantes muestra que encontramos en la naturalezaestán relacionadas con Sexual16 selección. Sin embargo, la reproducción entre formas de vidatecnológicamente maduros bien puede ser asexual.En particular, esto es así en la carga de situación descrita

anteriormente. En segundo lugar, los nuevos métodos de comunicarinformación fiable sobre sí mismo podría estar disponible para lascriaturas, métodos tecnológicamente maduros que no se basan en laostentosaexhibición. Incluso hoy, los prestamistas profesionales tienden adepender más de certificados de propiedad,extractos bancarios y similares, que en costosas pantallas comotrajes de diseño y relojes Rolex.En el futuro, podría ser posible utilizar firmas de auditoría quepuede comprobar mediante


11/25

inspección directa que un cliente posee un atributo reclamados. Unode señalización por las cualidades de este tipo de auditoría puedeser mucho más eficaz que la vía de señalización ostentosaexhibición. Dichaseñal mediada profesionalmente aún sería costoso fake (esto es, porsupuesto, lacaracterística esencial que hace que la señal fiable), pero la señalpodría ser mucho más barato para transmitir deuna forma llamativa comunicado uno cuando es veraz. En tercer lugar,no todas las posibles costosas o "Flamboyant" muestra son las quedebemosconsiderar como intrínsecamente valiosa:[señalización] costosos no sólo toma la forma de aprovisionamientode bienes públicos que mejoran las prestaciones del grupo. Muchasseñales costosas adoptan la forma de "residuos" dondelos gastos no confieren ningún beneficio de grupo... En el noroestede Estados Unidos, elKwakiutl n potlatch ceremonias públicas implicó la destrucción devastas cantidades deriqueza acumulada principalmente en el contexto de la competencia.

17,mientras que el humor, la música y la poesía puede plausiblementedecirse para mejorar la calidad intrínseca de la vida humana--apartede ninguna de las prestaciones sociales--es más dudoso que la mismaafirmación puede ser sostenido con respecto a la costosa búsqueda detendencias de moda o con respecto a posturas machistas que conducena la violencia de las pandillas o bravado militar. Incluso si en elfuturo las formas de vida inteligente,utilizaría la señalización costosa, por lo tanto, es una cuestiónabierta si la señal seríaintrínsecamente valiosa: si sería como el ruiseñor's extasiadacanción o más como

el sapo's monosílabos croar.

16 Véase (Miller 2000a).17 (Kansa 2003). Para tomar una provocativa, véase también (Frank,2000).9

5. Dos sentidos de outcompeteddebemos distinguir dos sentidos diferentes en los que una especiepuede ser outcompeted por otras formas de vida. En los escenarios

presentados en la sección 2, la subcontratación y las cargas detrabajo de todos- no reproducir los agentes fueron postuladas paramedrar mejor que los agentes que conservan la conciencia yaficionado intereses (vamos a término este último eudaemonicagentes). Esto podría significar una cosa esque los antiguos tipos de agente gradualmente obtener los recursosoriginalmente celebrada por losagentes eudaemonic, de manera que este último podría quedarse sinrecursos y extinguido.


12/25


13/25

no se podía hacer nada para evitarlo. Si la externalización o fatigaconstante tiene un mayor valor de fitnessde eudaemonic vivir, no teoría de la evolución entonces implica quelos agentes eudaemonic desaparecerá? Sin embargo, como veremos, elfuturo no necesitan ser desesperada, incluso si el curso de laevolución es predeterminado distópica. La evolución nos hizo lo quesomos, pero ningúnprincipio fundamental se interpone en el camino de nuestrodesarrollo de la capacidad de intervenir en elcurso de los acontecimientos predeterminados con el fin de orientarla evolución futura hacia un destino más agradable para los valoreshumanos. Dirigir nuestra propia evolución, sin embargo, requiere lacoordinación. Si elcurso evolutivo predeterminado es distópica, tomaría coordinado paragirar el barco remando a lahumanidad en una dirección más favorable. Si sólo algunas personaseligieron la alternativa eudaemonic, mientras que otros persiguen lamaximización de fitness, entonces, por supuesto, sería elúltimo que prevalecerían. Fitness-maximizar variantes, incluso siellos comenzó como una minoría, sería seleccionado para

preferentemente a expensas del eudaemonic agentes, y se estableceríaun proceso en movimiento que conducen inexorablemente a laminimización o desaparición deeudaemonic cualidades, y el no-agentes eudaemonic quedaría paraejecutar la presentación.A este problema sólo hay dos posibles soluciones: la prevención noeudaemonicvariantes surjan en primer lugar, o bien modificar la función deadecuación para que eudaemonicfitness rasgos se maximiza. Examinemos estas dos opciones a la vez.7. Prevención No eudaemonic agentes de derivadoses bastante verosímil suponer que formas de vida tecnológicamenteavanzada sería capaz de

prevenir la ocurrencia de mutaciones no deseados, al menos sientendemos "mutación" en un sentido estrecho. Los métodoscriptográficos y códigos de corrección de errores podría reducir latransmisión de errores y errores de copia a niveles insignificantes.Los sistemas de control de losreplicadores nanotechnological puede estar encriptada, de manera quetengan una evolución-Prueba (cualquier azar19 cambio sería prácticamente seguro para destruir totalmente elreplicador). Para cargas,evitando la mutación reproductiva puede ser simplemente una cuestiónde realizar varias comprobacionesque la copia es idéntica al original antes de que se ejecute.Incluso para las criaturas biológicas

simple por la nanotecnología, suficientemente avanzada tecnologíagenética debería hacer todo lo posiblepara escanear todos los embriones no deseados y ordinaria de lasmutaciones, la recombinación genética podría evitarsecon el uso de la clonación reproductiva. Código fuente de mutación yrecombinación genética no son, sin embargo, la única manera en quelas nuevas variantes con propiedades inesperadas pueden surgir.Examine de nuevo lacarga de escenario donde carga subcontratar gran parte de sufuncionalidad y compartir módulos mentales. Recombinando diferentesmódulos podría provocar inesperados fenómenos emergentes.


14/25

19 Véase (Drexler, 1985).11

Asimismo, el fortalecimiento de las diversas capacidades cognitivaso emocionales, o la entrega denuevas capacidades, podría producir efectos combinatorio que puedeno ser totalmentepredecible. El crecimiento y la maduración normal de un individuopodría conducir al desarrollo de un fitness-maximización noeudaemonic personaje, incluso donde no semanifiesta en el momento de la concepción. Novela influenciasmemetic también podría desencadenar no eudaemonictendencias. Por lo tanto, aunque es plausible que una forma de vidaavanzada podría evitar mutaciones aleatorias en su código fuente, esmás dudoso que sería capaz de predecir y evitar efectos emergentesde crecimiento, la mejora y el aprendizaje en personas o en la

interacción delas comunidades de desarrollo de agentes. Prevención de idoneidadmaximizar no-eudaemonicocasionalmente las variantes derivadas puede ser inviable o puederequerir la creación de una sociedad completamente estática, dondela experimentación individual y las mejoras son prohibidos y dondenose permite la reorganización social. Tal fossilized mundo pareceintrínsecamente indeseable.20Incluso si los agentes eudaemonic podría impedir que surjan mutantespeligrosos, susesfuerzos serían en vano si la población original ya conteníaalgunos individuos con no-fitness eudaemonic maximizar las

preferencias, porque estos sería proliferan y eventualmente dominar.Y sin duda podemos suponer que al menos algunosindividuos humanos actual sería cargar si pudieran, harían quemuchas copias de sí mismos si se lescarga, y estaría encantado de abrazar la externalización o privarsede ocio si pudieran incrementar su idoneidad. Estas personas que dealguna manera tienen que desaparecer de lapoblación, y es difícil ver alguna práctica y ética en el modo enque esto podría suceder. Prevenir la distópica escenarios evolutivosimpidiendo a los no-eudaemonicagentes de derivados es, pues, un non-starter. En la mayoría, estamedida podría servir un papel auxiliar. En ciertos casos, podríatener sentido para intentar reducir la frecuencia con que

se generan los mutantes peligrosos--En los casos en que esto sepuede hacer de una forma relativamente económica,de una manera éticamente aceptables, y donde perjudica claro yespecífico se pueden prever. Porejemplo, en el futuro podríamos aprobar leyes en contra de lacreación de potentes inteligencias artificialescon el objetivo de sistemas que son hostiles a los valores humanos.Pero no podemos confiar en esta estrategia solopara prevenir un escenario evolutivo distópica si tal escenariodebería pasar a ser lapredeterminada.


15/25

8. Modificar la función de adecuación dela segunda opción es modificar la función de adecuación para queagentes continúan eudaemonic tienen al menos algún nicho en el queson maximizar la aptitud. El éxito reproductivo diferencial de geneshumanos- o meme-tipos está determinadano sólo por el hábitat natural en el que viven, sino también por suentorno social.Las instituciones sociales, leyes y actitudes de otras personasdefinen las opciones abiertas para nosotros como

20 Cf. (Huxley, 1932).12

individuos y determinar los efectos que estas decisiones tienensobre nuestra adaptabilidad. Lasestructuras sociales podría organizarse de una manera que reduce laaptitud de no eudaemonic tipos

y mejora la aptitud de eudaemonic tipos. Estas estructuras, si losuficientemente estable, podríalimitar el desarrollo evolutivo de un conjunto de trayectorias en lacual el tipo eudaemonic florece. Sería engañoso para caracterizaresa intervención como "ayudar al débil einadecuado". La manera en que la sociedad está configuradoparcialmente define qué tipos son aptos y "fuerte" (en el sentido deser capaz de utilizar los medios disponibles para proliferar). Siqueremos evitar lastrayectorias evolutivas que conducen a una región del espacio deestados donde las cualidades valoramos están extintas omarginados, luego escultura social de las condiciones para el éxitoreproductivo puede ser nuestro

único recurso. El término "éxito reproductivo" aquí no sólo abarcalareproducción sexual biológica sino también cargar la duplicación yen general la difusión de formas de organizaciones. La conformaciónsocial de las condiciones para el éxito reproductivo, por supuesto,es un hechode la vida de cada organismo que vive en las sociedades; pero lasugerencia aquí es que podríaser necesario ajustar deliberadamente para que estas condicionesfavorecen eudaemonic tipos. Evidentemente, no necesidad dereestructurar todos los nichos de mercado para que favoreceneudaemonic agentes.Hacerlo equivaldría a trabajar hacia la eliminación de todos los no-

eudaemonic agentes. Pero muchos no-eudaemonic agentes soninofensivos; muchos de ellos son muy útiles paralos agentes eudaemonic. Así como los seres humanos actuales sebenefician de otras especies, que no representan una amenaza seriapara la especie humana, así también agentes tecnológicamente másavanzados puedenbeneficiarse de la existencia de una ecología no eudaemonic agentes.No eudaemonic tales agentes podrían servir económicamente útilesfunciones. No sólo aquellos agentes eudaemonic que amenazan coninvadir el nicho ocupado por los agentes eudaemonic plantean unriesgo evolutivo; o, más exactamente, (desde los agentes eudaemonic


16/25

podrían moverse de una posición a otra), la preocupación se refierea los no-eudaemonic agentes como reduciría el tamaño total de losnichos disponibles para eudaemonic tipos. El objetivo es maximizarlacantidad total de recursos poseídos por agentes eudaemonic o, encualquier caso, para evitar que esta cantidad secaiga a cero. No eudaemonic agentes, incluso si reducen la fracciónde los recursosposeídos por agentes eudaemonic, podría ser beneficiosa enequilibrio si también aumentó elmonto total de los recursos disponibles. No sensible robots depropietarios, por ejemplo, teóricamente podría tener ese efecto.9. Políticas para la dirección evolutiva dequé tipo de intervención sería necesaria para dar forma a lascondiciones sociales, de modo que favoreceneudaemonic tipos? Un método sencillo pero crudo sería prohibir lasubcontratación (y otrostipos de no-eudaemonic fenotipos). Dicha prohibición, sin embargo,resultaría costoso ya que estamossuponiendo que muchas tareas productivas son la manera más eficiente

a través de la13 de la

externalización. Un enfoque más eficaz sería gravar a laexternalización y subsidiareudaemonic arquitecturas cognitivas. De esta manera, laexternalización se utilizaría para las tareasdonde se produce los mayores retornos y el nivel de tributaciónpodría fijarse en un nivel que garantice el tipo eudaemonic continúaprosperando. Uno podría pensar que no habría razones económicas para

subvencionar eltipo eudaemonic, porque en la medida en que valoramos este tipoestaríamos dispuestos a gastarnuestro dinero en asegurar su existencia, quizás por ocuparnos deeudaemonicactividades. No tenemos, en el mundo de hoy, consulte cualquiernecesidad especial para fomentar elconsumo presente al gravar la inversión. Quizás no los individuosque actúan en un mercado libre, asignarsus recursos de manera óptima entre eudaemonic "consumo" y noeudaemonic"inversión" (en empresas que pueden producir recursos que podríanposteriormente han sido

eudaemonically consumidos)? Hay al menos tres posibles razones paraser escépticos deque la mano invisible constituiría en sí misma orquestar una viable,mucho menos óptima, la solución al problema no eudaemoniccompetencia.En primer lugar, los derechos de propiedad no siempre pueden serperfectamente aplicados. Si no eudaemonictipos emergen y se vuelven inmensamente poderosas, podrían robar laeudaemonic agentes. Tal podría ser el robo descarado, como en ungran golpe de estado o en una serie de agresiones leves por no


17/25

eudaemonic grupos o individuos; o podría tomar una forma más sutil,como en influenciar a los gobiernos a promulgar legislación quefavorece injustamente no eudaemonic intereses.Agentes Eudaemonic también podría robar no eudaemonic agentes, sinoporque sería menos productivo queuno esperaría un flujo neto de recursos a organizaciones noeudaemonic agentes. Incluso si losderechos de propiedad existentes fueron cumplidas, persistiría elenorme costo de oportunidad de tener elno-agentes eudemonic colonizando el cosmic commons para que losderechos de propiedad todavía no han sido asignados. 21 Ensegundo lugar, los valores de la población eudaemonic inicial nopuede ser conservado para siempre. Tal preservación requeriría quelos agentes eudaemonic inicial nomueran y que sus eudaemonic preferencias no cambian a través de loseones, o bien que seelija para reproducir casi exclusivamente en formas que transmitensus preferencias eudaemonica su progenie sin diluir. Si hubo cruzamientos ocasionales dondedesarrollar agentes eudaemonic no eudaemonic preferencia, o tener

descendencia con tales preferencias, entoncesesto tendría que ser compensado con al menos igualmente gran flujoen ladirección opuesta. Ya hemos discutido el problema de prevenir laocurrencia de tales cruces.22

21 Véase Hanson (1998a).22 Hemos observado que los códigos de corrección de errores deberealizar reproducciones arbitrariamente fiables. Las cargas nosufren crianza biológica, y la costumbre de mantener copias deseguridad en ubicaciones dispersas debería reducir el riesgo demuerte accidental a un nivel muy bajo. Como una posible forma dereducir el riesgo de que las preferencias básicas podría derivar en

maneras inesperadas cuando se instalan o nuevas capacidadesadquiridas, sería interesante considerar el uso de pactos deseguridad. La idea es que se potencie algunos agentes14 En

tercer lugar, si la existencia de una floreciente poblaciónaficionado es un bien público (es decir, norivalrous y no excluyentes), será infrasuministrado por el mercado.Usted y yo y otro millón de personas podrían todos desean que existaeudaemonic agentes en el mundo un largo

tiempo desde ahora. Cada uno de nosotros se da cuenta de quenuestras acciones individuales, pero tendrá un efecto insignificantesobre el resultado. Por lo tanto, nosotros cada gastar nuestrosrecursos en otros objetivos, y el resultadoes que el tipo de eudaemonic desaparece. Esto es compatible connuestra conviniendo en que nuestrosintereses habría sido mejor si alguna fracción de nuestros recursoshabían sido retiradasen una eudaemonics fondo de conservación. La provisión del bienpúblico mundial--En este caso, la continua existencia de eudaemonic


18/25

tipos en el futuro indefinido--ha sido frustrado por el problema deparasitismo.Por estos tres motivos, hay motivo para dudar de que un enfoque delaissez-faire daríauna protección adecuada al tipo de eudaemonic. Pero antes deavanzar, consideremos de nuevo la primera de estas objeciones alenfoque de laissez-faire en un poco más de detalle.10. Desvío dela preocupación es que podría resultar inviable para garantizar quelos derechos de propiedad están perfectamenteejecutada. Los agentes pueden ocasionalmente robar mutuamente losrecursos; o en un escenario más extremas, puede haber una guerrageneral de recursos. Sin embargo, no parece haber ninguna razón parapensar que esas peleas sería perfectamente bipolar entre dos grandescoaliciones de concurso,y el no-eudaemonic agentes eudaemonic luchando en bandos opuestos.En su lugar,puede haber diversas y cambiantes alianzas entre individuo y noeudaemonic eudaemonic agentes. En un conflicto de esta índole,habría una pérdida social neto en términos de gasto en protección y

servicios de seguridad, armamentos y, probablemente, también entérminos debajas y daños colaterales. Es casi seguro que hay uncosto de oportunidad adicional en términos de oportunidades perdidaspara la colaboración. Pero suponiendo que nose ha desplegado armas doomsday que causa la extinción de toda lapoblación de formas de vida inteligente (que no es una purasuposición) todavía podemos preguntarnos si tal conflicto conduciríanecesariamente a la eventual extinción del eudaemonic tipo. Pues loque tenemos aquí es un caso de dos tipos de organismo-un tipo máseficiente que el de otros enzarzados en una lucha por el mismorecurso nicho, uno podría esperar,

Que confíe a revertir su auto-modificaciones si creen que lasmodificaciones han cambiado en una forma que no hubiera aprobadoantes del cambio. Si son una carga, también podría ser capaz decrear una copia de sí mismo y, a continuación, nombrar esta copiacomo un supervisor de confianza del proceso de transformación con laautoridad para revertir los cambios realizados dentro de unintervalo si juzga que las modificaciones han sido para peor.También podría ser interesante estudiar cómo dichas técnicas serefieren a dispositional hipotéticas teorías del valor (Lewis, 1989;Johnston 1989), teoría del observador ideal y, más generalmente, ala ética de la potenciación humana (Glover, 1984; 2004; BostromBostrom y Roache 2007; Savulescu y Bostrom 2009).15

de tipo ecológico, que el menos eficiente tipo acabarán pordesaparecer. (Algunos de losagentes eudaemonic pueden sobrevivir, pero al precio de perder susinclinaciones eudaemonic o verseobligado, a fin de seguir siendo competitivos, para mantener esasinclinaciones perpetuamente reprimidas.)


19/25

Pero, en realidad, no es del todo claro que esto es lo quesucedería. La situación difiere de la de la competencia entre lasformas de vida más primitivas, como las plantas y los animales. Losagentes implicados en esta lucha pueden formar alianzasestratégicas. Además, a diferencia de la competencia política delhombre actual, donde las alianzas cambian con el tiempo, podría serposible que formas de vida más avanzadas de forma verificable acomprometerse definitivamente a unaalianza particular-mente (quizás usando las técnicas de exploracióny tecnologías para controlar lamotivación). Si esos compromisos permanentes son posibles, entoncescuando estalla la guerra,varias coaliciones en ciernes pueden negociar a favor de la lealtadde los individuos no afiliados. En esta etapa, algunos agentespueden eudaemonic huelga acuerdos favorables con lo que resulta serla coalición ganadora. Después de la victoria, el eudemonic agentesen la coalición ganadora no podía,por supuesto, cambie sus lealtades, así que los agentes eudaemonicsobreviviente puede entonces tener garantizada su seguridad enperpetuo.

11. Sólo un singleton podría controlar la evolución,incluso si los supervivientes de ese concurso, en definitiva llegara disfrutar de la paz perpetua, habrían llegado hasta allí por uncostoso y arriesgado desvío. Podríamos llegar al mismo destino másdirectamente, evitando el desperdicio y el desgaste y algunos de losriesgos de conflicto, creandoun singleton. La alianza estable que hemos especulado podríanformarse en el final del conflictosería de hecho un régimen global que podría aplicar leyes básicaspara sus miembros; en otras palabras, sería una especie desingleton. A fin de estar seguros de la estabilidad, no sólotendrían que carecen de competidores externos; sus asuntos internos

también tendría que regularse de tal manera que no hay retosinternos para su constitución podría surgir. Esto requeriría que laalianza se implementa una política coordinada para prevenir losacontecimientos internos deinaugurar éste en una trayectoria evolutiva que termina por derrocarsu acuerdo constitucional, y hacerlo sería presumiblemente implicamodificar la función de adecuación para suecología interna de los agentes, por ejemplo, por medio de unimpuesto independiente códigos para eudaemonic y noeudaemonic agentes combinados, Quizás, con una prohibición de lacreación de agentes de lostipos más peligrosos.El Reining en evolución es una hazaña que sólo podía lograrse

mediante un singleton. Unpoder local podría ser capaz de controlar la evolución de su propiosistema interno de la ecología, pero a menos que estasintervenciones han servido para maximizar su productividad total (locual sería incompatible con la acción afirmativa para eudaemonicactividades), la selección evolutiva sería simplemente resurgira un nivel superior. Las potencias que optaron a maximizar sudesarrollo económico en lugar de suproductividad eudaemonic superan a las potencias rivales que eranmenos de modo unánime


20/25

obsesionada por adelantar su situación competitiva y en el largoplazo los poderes eudaemonic16

pasaría a ser marginados o extintos o estaría obligado a rescindirsus eudaemonicpolíticas. En este contexto, el "largo plazo" puede ser muy corto,especialmente en la carga de escenario donde la reproducción podríaser extremadamente rápido. Además, si las potencias eudaemonicpodría anticipar que serían outcompeted si continuaban consus actividades eudaemonic, podrán decidir a escala volver sobretales actividades incluso antes fueron invadidos por los no-eudaemonic poderes. Tales efectos anticipatorios podría producirmanifestaciones inmediatas de desarrollo evolutivo que tomaríanmuchotiempo para desplegar. El resultado, en cualquier caso, sería unatremenda pérdida de eudaemonic

potencial. Un singleton podría evitar este desafortunado desenlacepromoviendo eudaemonic tiposy actividades dentro de su jurisdicción.23 Desde un singletoncarecería decompetidores externos, no habría un nivel superior al que podríaobtener la selección evolutivaafianzada y empezar a penalizar el singleton no la política demaximización de laproductividad económica.Un singleton no necesita ser un monolito (excepto en el sentidotrivial que tiene algún tipo de mecanismo o procedimiento dedecisión que le permite resolver problemas de coordinación interna).Hay muchas posibles constituciones singleton: un singleton podría

ser ungobierno mundial democrático, benévolo y abrumadoramente poderososuperintelligent máquina, una dictadura mundial, una alianza establede potencias, o incluso algo tan abstracto como uncódigo moral generalmente difundida que incluía disposiciones paraasegurar su propia estabilidad ycumplimiento.24 un singleton puede resultar bastante minimalistaEstructura que podría funcionar sin perturbar significativamente lavida de sus habitantes. Y no tiene por qué prohibir la novedad y laexperimentación, puesto que conservaría la capacidad para interveniren una etapa posterior para proteger suconstitución si algunos acontecimientos gira malignos.Aumento de la transparencia social, como pueden ser el resultado de

los avances en latecnología de vigilancia de detección o mentira, podría facilitar eldesarrollo de un singleton.25 deliberar

23 Uno podría preguntarse cómo un espacio-colonizar singleton podríaaplicar sus leyes sobre las distancias cósmicas y hacerlo sindesintegrarse aún más escalas temporales de millones de años. Sinembargo, esto parece estar en la raíz de un problema técnico. Unasolución sería asegurar que la meta-sistema de todos loscolonizadores envía incluyen un deseo fundamental para obedecer lasleyes básicas de la singleton. Y una de estas leyes puede ser


21/25

asegurarse que cualquier progenie producida también deben compartireste deseo fundamental. Además, la Ley fundamental se podríaestipular que, a medida que mejora la tecnología, las normas deseguridad para la reproducción (el grado de verificación necesariospara asegurar que la progenie o sondas de colonización comparten eldeseo fundamental de obedecer la constitución básica) mejorancorrespondientemente, de modo que la probabilidad de deserciónasymptotically se aproxima a cero. Si bien esta propuesta puedeparecer intimidante tecnológicamente, debemos tener en cuenta quecualquier Imperio galáctico sería tecnológicamente muy avanzado. Unsingleton podría posponer el amplio espacio hasta que lacolonización ha desarrollado la tecnología de control necesaria paraasegurar su propia estabilidad a largo plazo.24 para un escenario de este tipo, véase (Miller 2000b).25 Véase (Brin 1998).17

las iniciativas políticas internacionales también podría conducir ala aparición gradual de un singleton, yestas iniciativas pueden verse drásticamente catalizada por 'wildcard' de eventos tales como una serie decataclismos que puso de relieve las desventajas de una fractura enel orden mundial. Sería unerror juzgar la verosimilitud de la última evolución de unsingleton, sobre la base delas tendencias efímeras en los asuntos internacionales actuales. Laconformación de las condiciones básicas de larealidad política puede cambiar a medida que las nuevas tecnologíasestán en línea, y, vale la pena señalar que latendencia histórica a largo plazo es hacia el aumento del alcance de

la coordinación y laintegración política.26 Si esta tendencia continúa, la culminaciónlógica es un singleton.

12. Conclusióncontraria a la opinión Panglossian, las pruebas actuales nojustifican un gran confianza enla creencia de que el curso predeterminado de la futura evoluciónhumana apunta en una dirección deseable. En particular, hemosexaminado un par de escenarios en los cuales distópica evolutivo delacompetencia conduce a la extinción de las formas de vida queconsideramos como valioso. Intrínsecamente valiosa experiencia puede

resultar no ser adaptables en el futuro. La única manera de evitarestos resultados, si lo hacen de hecho representan latrayectoria predeterminada, es asumir el control de la evolución. Seargumentó que esto requeriría la creación de un singleton. Singletoncarecería de competidores externos, y sumecanismo de decisión sería suficientemente integrados que lepermitan resolver problemas de coordinación interna, en particular,el problema de cómo reformar la función de adecuación para suagente interno ecología a favor eudaemonic tipos. Un mero poderlocal también podría tratar de hacer esto, pero sería disminuir sucompetitividad y asegurar su propia desaparición. El control a largo


22/25

plazo de la evolución exige la coordinación global. Un singletonpodría adoptar una variedad de formas y no necesita parecerse a unacultura monolítica o una mente colmena. En el singleton podría haberespacio para una amplia gama de diferentes formas de vida,incluyendo aquellas que se centran en la no-eudaemonic objetivos.Singleton podría garantizar la supervivencia y la prosperidad deleudaemonic tipos restringiendo los derechos de propiedad deentidades no-eudaemonic, subvencionando actividades eudaemonic,garantizando elcumplimiento de los derechos de propiedad, prohibiendo la creaciónde agentes convalores humano-antipático o tendencias psicópatas, o en un número deotras maneras. Tal un singleton podrían guiar la evolución cósmica eimpedir que nuestro procomún de voy a perder enun primer llegado primer servido colonización raza. Las reflexionesque se ofrecen en este documento no pretenden ser la última palabrasobre eltema. No sabemos que un escenario distópico resultado evolutivo esla predeterminada. Incluso si lo es, y aunque la creación de unsingleton es la única forma de anticiparse a la última

catástrofe, es una pregunta aparte qué políticas tiene sentidopromover en el aquí y el

26 Para un argumento convincente para esta reclamación, consulte(Wright 1999).18

ahora. Al crear un singleton ayudaría a reducir determinadosriesgos, puede al mismo tiempoaumentar otros, tales como el riesgo de que un régimen opresivo

podría ser global ypermanente. Si nuestro estudio preliminar sirve para llamar laatención sobre algunos posiblemente noconsideraciones evidentes y estimular más riguroso de la laboranalítica, su propósito se ha logrado.27

ReferenciasBostrom, N. (2002a), el sesgo antrópico: Observación efectos deselección en la ciencia y la filosofía.Nueva York: Routledge.--- (2002b), ʺExistential riesgos: Análisis de escenarios yextinción humana relacionados

Hazardsʺ, Oficial de la evolución y la tecnología 9. --- (2003), el Transhumana FAQ: v 2.1. Asociación Transhumanamundial.Http://www.transhumanism.org/resources/FAQv21.pdf.--- (2005), ʺTranshumanist Valuesʺ, Fredrick Adams (ed.), problemaséticos para el siglo XXI, edición especial de la conferencia oficial de la investigaciónfilosófica.--- (2006), es un singleton ʹWhat?ʹ, lingüísticos y deinvestigaciones filosóficas 5 (2): 48-54. Bostrom, N. y Roache, R.(2007), cuestiones de derechos Enhancementʺ ʺEthical, J. Ryberg, T.


23/25

Petersen, y C. Wolf (eds.), nuevas olas en ética aplicada.Basingstoke: PalgraveMacmillan: 120-152.Brin, D. (1998), la sociedad transparente. Lectura, MA: De AddisonWesley. Carter, B. (1983), principio antrópico ʺThe y sus

implicaciones biológicas, Evolutionʺ para Transacciones Filosóficas de la Royal Society una 310: 347-363.--- (1989), principio de selección antrópica ʺThe y la ultra-darwinista Synthesisʺ, en F. Bertola y U. Curi (eds.), el principio antrópico. Cambridge:CambridgeUniversity Press: 33-63.Chislenko, A. (1996), la creación de redes en la mente de la edad.Manuscrito inédito.Http://www.ethologic.com/sasha/mindage.html.Coase, R. H. (1937), la naturaleza de la Firmʺ ʺThe, Economica 4

(16): 386-405. Drexler, K. E. (1985), los motores de la Creación: Lapróxima era de la nanotecnología. Londres: sucesivamenteBreak.Eaton, J. W. y Mayer, A. J. (1953) La Biología Social ʺThe de muy

alta fecundidad entre losHutterites; la demografía de una singular Populationʺ, BiologíaHumana 25 (3): 206-64.Frank, R. H. (2000), Fiebre de lujo: el dinero y la felicidad en unaépoca de exceso. Princeton:Princeton University Press.

27 un proyecto Versión de este documento distribuido en mayo de2001. Una versión anterior de este documento fue publicada en muertey Anti-muerte: Doscientos años después de Kant, cincuenta añosdespués de Turing, ed. Charles Tandy (Ria University Press: PaloAlto, California, 2004), págs. 339-371. Estoy agradecido a Wei Dai,Robin Hanson, y Rebecca Roache para comentarios.

19

Glover, J. (1984), qué tipo de personas debe haber? Londres: elpingüino.Gould, S. J. (1990), maravillosa vida: el Burgess Shale y lanaturaleza de la historia. Nueva York:W.W. Norton & Company.Hanson, R. (1994), ʺWhat si carga vienen primero: la grieta de un

futuro Extropy Dawnʺ, 6 (2). --- (1998a), quemando el Commonscósmico: estrategias evolutivas de la

colonización interestelar. Manuscrito inédito.Http://hanson.gmu.edu/filluniv.pdf.--- (1998b), debe ser fácil de Vida temprana? El ritmo de lasgrandes transiciones evolutivas.Inéditos. Http://hanson.gmu.edu/hardstep.pdf.Huxley, A. (1932), Brave New World. Londres: Chatto & Windus.Johnston, M. (1989), teorías de Valueʺ ʺDispositional, Actas de la

sociedad aristotélica, supl. 63: 139-174.Kansa, E. (2003), ʺSocial complejidad y ostentosa exhibición en

competencia: Másreflexiones sobre el Paradoxʺ Fermi. Documento de trabajo.


24/25

Kirk, K. M. (2001), y la selección genética cuantitativa ʺNatural de

rasgos de historia de vida enlas mujeres occidentales: un Twin Studyʺ, evolución 55 (2): 432-435.Knight, L. U. (2001), el movimiento de extinción humana voluntaria.Http://www.vhemt.org/. Leslie, J. (1996), El Fin del Mundo: Laciencia y la ética de la extinción del ser humano. Londres:Routledge.Lewis, D. (1989), teorías de Valueʺ ʺDispositional, Actas de la

sociedad aristotélica,supl. 63: 113-137.Malthus, T. R. (1803), un ensayo sobre el principio de población. 2ªEd. Londres: J. Johnson. Miller, G. (2000a), el apareamiento cuenta:¿Cómo la preferencia sexual moldearon la evolución de la naturalezahumana.Nueva York: Doubleday.--- (2000b) Visión Moral. Manuscrito inédito.Http://www.unm.edu/~gfmiller/new_papers2/miller%202000%20moralvision.doc.Minsky, M. (1988), de la sociedad de la mente. Nueva York: Simon& Schuster. Moravec, H. (1989), mente a los niños. Harvard:

Harvard University Press. --- (1999), Robot: la mera máquina a lamente trascendente. Nueva York: Oxford UniversityPress.Posner, R. (2004), la catástrofe. Oxford: Oxford University Press.Rees, M. (2003), nuestra última hora: un Scientistʹs Advertencia:

cómo el terror, Error ydesastre ambiental Humankindʹs amenazan el futuro en este siglo - enla tierra y más allá. NuevaYork: Basic Books.Rogers, J. L., et al. (2003), influencia ʺGenetic ayuda a explicar

la variación en la fertilidad humana:Pruebas de Genética Molecular y comportamiento reciente Studiesʺ,

direcciones actuales en Ciencia Psicológica 10 (5): 184-188.

Sandberg, A. y Bostrom, N. (2008), emulación de la totalidad delcerebro: una "Hoja de Ruta". Informe Técniconº 2008-3, el futuro de la humanidad Institute, La Universidad deOxford.

20 http://www.fhi.ox.ac.uk/Reports/2008-3.pdf

Savulescu, J. y Bostrom, N. (eds.) (2009), el mejoramiento humano.Oxford: Oxford University

Press.Wright, R. (1999), distintas de cero: La lógica del destino humano.New York: Pantheon Books. Zehavi, A. et al. (1999), el principio deHandicap: Falta una pieza del rompecabezas Darwinʹs. Oxford: Oxford University Press.

21


25/25

1c.the Future of Human Evolution

Documents

Transcript of 1c.the Future of Human Evolution