Por qué el futuro ya no nos necesita

por Bill Joy


Nuestras más poderosas tecnologías del siglo 21 – robótica, ingeniería genética, nanotecnología – están amenazando en trasformar la especie humana en una especie en peligro de extinción…


Desdé el momento en que me ví involucrado en la creación de nuevas tecnologías, sus dimensiones éticas me han preocupado, pero no fue hasta el otoño de 1998 que me volví ansiosamente consciente de cuan grandes son los peligros a que nos enfrentamos en el siglo XXI. Puedo fechar el comienzo de mi incomodidad al día en que me encontré con Ray Kurzweil, el merecidamente famoso inventor de la primera máquina lectora para ciegos y otros muchos objetos sorprendentes.


Ray y yo éramos, ambos, oradores en las conferencias Telecosm y me lo encontré por casualidad en el bar del hotel una vez terminadas nuestras sesiones. Yo estaba sentado con John Searle, un filósofo de Berkeley que estudia la consciencia. Ray se acercó e inicio una conversación cuyo contenido sigue dándome escalofríos hasta el día de hoy.

Yo me había perdido la conferencia de Ray, y el subsiguiente debate en el que Ray y John habían participado, y que ellos retomaban aquí en el punto en que lo habían dejado, con Ray diciendo que la tasa de crecimiento del desarrollo tecnológico se iba a acelerar, y nosotros nos convertiríamos en robots, o nos fusionaríamos con ellos, o algo parecido, y John sosteniendo que esto no podría pasar, ya que los robots nunca alcanzarían la consciencia.


Habiendo ya escuchado conversaciones como esta, e había pensado que los robots auto conscientes eran algo que pertenecía al dominio de la ciencia ficción. Pero ahora, viniendo de alquien al que respetaba, estaba oyendo un argumento convincente de que esto era una posibilidad más que factible en un futuro próximo. Me sentí dubitativo, dada la probada habilidad de Ray para imaginar y construir futuros. Yo sabía ya que nuevas tecnologías como la ingeniería genética y la nanotecnología nos estaban dando el poder para rehacer el mundo. Pero un escenario realista e inminente para robots inteligente me sorprendió.


Es fácil volverse escéptico ante tales avances. Casi todos los días escuchamos en los noticieros sobre algún avance tecnológico o científico. Pero esta no era una predicción usual. Ray me regaló una pre-impresión parcial de su próximo libro, “La era de las máquinas espirituales” que esbozaba una utopía que el preveía. Una en la que los humanos alcanzaban una quasi-inmortalidad al fusionarse con la ingeniería robótica. Al leerlo, mi sentido de incomodidad solo consiguió intensificarse: estaba seguro que él tenía que comprender los peligros, comprender la posibilidad de un mal resultado si se sigue este camino.


Me sentí aún más perturbado tras lectura de un pasaje describiendo un paisaje diatópico:


EL NUEVO DESAFÍO LUDDITA


Postulemos primero que los científicos en computación consiguen desarrollar máquinas inteligentes que pueden hacer las cosas mejor que los seres humanos. En ese caso todo el trabajo será realizado por sistemas enormes, altamente organizados, de máquinas y ningún esfuerzo humano será entonces necesario. Nos enfrentaríamos a dos casos: podría ocurrir que diéramos a las máquinas la posibilidad de tomar sus propias decisiones, o que retuviéramos el control sobre estas decisiones.


Si a las máquinas se les permite tomar sus propias decisiones, no podremos hacer ninguna conjetura sobre sus decisiones, porque es imposible adivinar como van a comportarse tales máquinas. Solo señalamos que el futuro de la raza humana estaría a merced de las máquinas. Podría argumentarse que la raza humana nunca sería tan tonta para traspasar todo el poder a las máquinas. Pero ni estamos sugiriendo que los humanos cederían el poder voluntariamente a las máquinas, ni que las máquinas voluntariamente tomarían el poder. Lo que estamos sugiriendo es que la raza humana podría fácilmente permitirse a sí misma deambular hacia una posición de tal dependencia de las máquinas que no habría otra opción práctica que aceptar las decisiones de las máquinas. Mientras la sociedad y los problemas a que se enfrenta se vuelven más y más complejos y las máquinas se vuelven más y más inteligentes, la gente dejará a las máquinas tomar más decisiones por ellos, simplemente porque esas decisiones serán cada vez más prácticas que las humanas.
Eventualmente, se llegará a un punto en el que las decisiones necesarias para mantener el sistema en funcionamiento serán tan complejas que los seres humanos serán incapaces de tomarlas de forma inteligente. En ese punto las máquinas tendrán el control efectivo. La gente simplemente no podrá “apagar las máquinas”, porque serán tan dependientes de ellas que apagarlas equivaldría al suicidio. Por otra parte, es posible que el control humano sobre las máquinas pueda ser retenido. En ese caso el hombre medio podría tener control sobre ciertas máquinas privadas, como su coche o su computador personal, pero el control sobre grandes sistemas de máquinas estará en las manos de una pequeña élite – igual que hoy, pero con dos diferencias. Debido a los avances técnicos, la élite tendrá un control más grande sobre las masas, y como el trabajo humano ya no será necesario, las masas serán superfluas, una carga inútil para el sistema. Si esta élite es despiadada, simplemente decidirá exterminar a las masas. Si se comporta de forma humanitaria, la élite podrá usar la propaganda u otras formas de control psicológico o biológico para reducir la tasa de nacimientos hasta que las masas se extingan, dejando el mundo a esta élite. O, si la élite si compone de liberales de corazón blando, podrían aceptar jugar el papel de buenos pastores hacia el resto de la humanidad. Cuidarían de que las necesidades de todos estén satisfechas, que los chicos sean criados bajo sanas condiciones psicológicas, que todos tuvieran algúna afición de tiempo completo y que cualquiera que estuviera insatisfecho con esta situación recibiera “tratamiento” para curarle su “problema”. Por supuesto, la vida tendría tan poco sentido que la gente tendría que ser modificada biológica y psicológicamente para remover de ellos todo intento de llegar al poder y transformarlo en una afición inofensiva. Estos seres humanos diseñados serían felices en una sociedad así, pero ciertamente no serían libres. Estarían reducidos al estado de animales domésticos.

En el libro, no descubres hasta que pasas la página que el autor de este texto es Theodore Kaczynski, el Unabomber. No soy ningún defensor de Kaczynski. Sus bombas mataron a tres personas durante los diecisiete años que duró su campaña de terror e hirió a muchos otros. Una de sus bombas hirió gravemente a mi amigo David Gelernter, uno de los científicos en computación más brillantes y visionarios de nuestro tiempo. Como muchos de mis colegas, sentí que yo podría muy bien haber sido el siguiente blanco de Unabomber.


Las acciones de Kaczynski fueron mortíferas y, desde mi punto de vista, criminalmente insanas. El es claramente un Luddita, pero el simplemente decir esto no descalifica su argumento: por muy difícil que me resulte reconocerlo, ví algún merito en el razonamiento de este pasaje. Me sentí compelido a confrontarlo.


La visión distópica de Kaczynski describe consecuencias no intencionadas, un problema bien conocido en el diseño y el uso de tecnología, y que está claramente relacionado con la Ley de Murphy- “Si algo puede funcionar mal, lo hará”. (En realidad, esta es la ley de Finagle, que en sí misma muestra que Finagle tenía razón). Nuestro excesivo uso de antibióticos nos ha conducido a lo que puede ser el más grande de estos problemas: la aparición de bacterias resistentes a los antibióticos y mucho más peligrosas. Casos similares han ocurrido cuando se intenta eliminar los mosquitos transmisores de malaria usando DDT y provocando que estos adquieran resistencia al DDT; parásitos transmisores de malaria adquirieron asimismo genes resistentes a múltiples drogas.


La causa de muchas de estas sorpresas parece clara: los sistemas involucrados son complejos, presentando interacción y retro-alimentación entre múltiples partes. Cualquier cambio en un sistema de este tipo provocará un efecto de cascada en formas difíciles de predecir: esto es particularmente cierto cunado incluye acciones humanas.


Comencé a mostrar a algunos amigos la cita de Kaczynski que aparecía en “La era de las máquinas espirituales”; les pasé el libro de Kurzweil, y observé sus reacciones cuando descubrían quien había escrito el pasaje. Más o menos para la misma época, encontré el libro “ De mera máquina a Mente transcendente” de Hans Moravec. Moravec es uno de los líderes en investigación robótica, y fue el fundador del programa de investigación en robótica más grande del mundo, en la Universidad Carnegie Mellon. Su libro me dio más material que enseñar a mis amigos, material sorprendentemente en consonancia con el argumento de Kaczynski. Por ejemplo:


A corto plazo (comienzos del siglo XXI)


Las especies biológicas casi nunca sobreviven a encuentros con competidores superiores. Hace diez millones de años América del Sur y América del Norte estaban separadas por el hundido istmo de Panamá. América del Sur, como Australia actualmente, estaba poblada por mamíferos marsupiales incluyendo especies equivalentes a ratas, ciervos y tigres. Cuando el istmo se elevó, conectando a América del Sur y del Norte, sólo les llevó unos pocos miles de años a las especies placentarias del Norte, con metabolismos y sistemas reproductores y nerviosos ligeramente más efectivos, desplazar y eliminar a casi todos los marsupiales del sur.


En un mercado completamente libre, robots superiores afectarían seguramente tanto a los humanos, como los animales placentarios de Norteamérica afectaron a los marsupiales de Sudamérica (y tanto como los humanos afectaron a incontables especies). Las industrias robóticas competirían tan vigorosamente entre ellas por materia prima, energía y espacio, incidentalmente elevando su precio más allá del alcance humano. Incapaz de conseguir cubrir sus necesidades, los humanos biológicos serían barridos de la existencia.


Probablemente aún existe un margen de acción, porque no vivimos en un mercado completamente libre. Los gobiernos aún mantienen conductas coercitivas fuera del mercado, principalmente recaudando impuestos. Juiciosamente aplicadas, estas conductas coercitivas podrían sostener poblaciones humanas con alto nivel de vida con los frutos del trabajo de los robots, quizá por bastante tiempo.

Una distopía de libro de texto – y Moravec está apenas tocando el tema de refilón. Continúa diciendo que nuestro principal trabajo en el siglo 21 será “asegurar la cooperación continuada de las industrias robóticas” sancionando leyes intentando que sean “justas” y continúa describiendo cuan seriamente peligroso puede llegar a ser un humano “trasformado en un robot superinteligente y sin límites”. El punto de vista de Moravec es que los robots eventualmente nos superaran- lo que implica que los humanos se enfrentan claramente a la extinción.


Decidí que ya era tiempo para hablar con mi amigo Danny Hillis. Danny se hizo famoso por ser el co-fundador de “Thinkin Machines Corporation”, compañía que construyo un muy poderosos super-computador en paralelo. A pesar de mi trabajo como Jefe Científico de Sun Microysystems, soy más un especialista en la arquitectura de las computadoras que un científico, y respeto el conocimiento de Danny en teoría de la información y ciencias físicas más que el de cualquier otra persona. Danny es además un futurista altamente reconocido por pensar a largo plazo – hace cuatro años creó la “Long Now Foundation”, que está construyendo un reloj diseñado para durar diez mil años, en un intento por llamar la atención sobre el lamentablemente corto tiempo de concentración de nuestra sociedad.


Así que volé a Los Angeles con el propósito expreso de cenar con Danny y su esposa, Pati. Fui con mi ahora ya ensayada rutina, pasando por las ideas y los pasajes que yo encontraba tan perturbadores. La respuesta de Danny, dirigida directamente al escenario de humanos fundiéndose con los robots de Kurzweil, llegó rápidamente, y me sorprendió bastante. Dijo, simplemente, que los cambios llegarían gradualmente y nos iríamos habituando a ellos.


Pero creo que no estaba completamente sorprendido. Había visto una cita de Danny en el libro de Kurzweil, en la cual decía: “Le tengo tanto afecto a mi cuerpo como cualquiera, pero si puedo llegar a los doscientos años con un cuerpo de silicio, por mi, bien.”. No parecía preocupado por los procesos y los consecuentes riesgos, pero yo sí lo estaba.


Hablando y pensando sobre Kurzweil, Kaczynski y Moravec, recordé repentinamente una novela que había leído hace veinte años – “La plaga blanca”, de Frank Herbert – en la cual un biólogo molecular enloquece por el asesinato sin sentido de toda su familia. Para buscar venganza fabrica y disemina una plaga nueva y altamente contagiosa que mata a gran escala pero selectivamente. (somos afortunados de que Kaczynski fuera un matemático y no un biólogo molecular). También recordé a Borg, de Star Trek, una colmena de criaturas mitad robóticas, mitad humanas con una fuerte inclinación destructiva. Desastres del tipo de Borg son comunes en la ciencia ficción, así que ¿por qué no había estado más preocupado por las distopías robóticas anteriormente? ¿Por qué no había más personas preocupadas por estos escenarios pesadillescos?.


Fuente.


Comentarios: @chuchonery // chuchonery@gmail.com