Sobre el Singularismo de Bostrom

Screen Shot 2017-06-19 at 21.27.47.png

“Unless the plan is to keep superintelligence bottled up forever, it will be necessary to master motivation selection. But just how could we get some value into an artificial agent, so as to make it pursue that value as its final goal? […] This value-loading problem is tough, but must be confronted.” (Bostrom 2014, p. 185)

The most appropriate attitude may be a bitter determination to be as competent as we can, much as if we were preparing for a difficult exam that will either realize our dreams or obliterate them. (Bostrom 2014, p. 259)

La idea de la superinteligencia como un peligro práctico –como una razón para dedicarnos a controlar más cuidadosamente lo que estamos creando por temor a que nos explote en la cara o peor, nos desaparezca del universo–, es una fantasía. Es lo que en inglés se llama una “self-fulfilling prophecy”.  Pues lo que hace es detener la reflexión sobre lo que significa la tecnología para nosotros en tanto especie, en tanto síntoma a través del cual alcanzar un auto-conocimiento; y nos entrega además, a manos de la inminente “bestia” (la explosión de superinteligencia) al hacer de nuestra relación con la tecnología una de dominación y control en lugar de una ocasión de indispensable reflexión.

Pero y ¿si no vemos a la tecnología  como un arma para controlar o domesticar a la bestia, sino como un medio por el cual reconocer algo en nosotros a lo que quizás es necesario, no controlar sino integrar e incluso amar? Tal vez esta diferente actitud, contraria a la que nos recomienda Bostrom, nos ayudaría a vislumbrar aquella posibilidad de la que habla Cavafis en su famoso poema “Itaca”:

Ni a los lestrigones ni a los cíclopes
ni al salvaje Poseidón encontrarás,
si no los llevas dentro de tu alma,
si no los yergue tu alma en ti.

La bestia no es algo externo contra lo cual imperar (una inteligencia tan rápida, tan poderosa, tan amplia, etcetera que “nos superaría”), sino algo dentro de nuestro propio pecho que alimenta tanto nuestros sueños y anhelos como nuestras pesadillas. En otras palabras, el problema de la superinteligencia no es un problema a resolver, sino una condición que reconocer y con la que aprender a (sobre)vivir.

La posición singularista que asume Bostrom, hace de la tecnología un mero instrumento en vez de reconocerla como una parte integral de nuestra propia naturaleza, elemento irreductible del enigma del ser humano. Más bien relega explícitamente esa tarea a un lugar secundario: Podríamos, sugiere,

“posponer el trabajo sobre las eternas preguntas a las que se dedican los filósofos por un tiempo, para delegárselas más adelante a nuestros más competentes sucesores para enfocarnos en el desafío más grande: incrementar la probabilidad de que tengamos en efecto sucesores más competentes.” (Bostrom 2014, p. 256)

“Queremos entonces enfocarnos en problemas que no son solo importantes sino urgentes en el sentido en que necesitamos resolverlos antes que ocurra la explosión de inteligencia […] Algunos problemas técnicos en el campo de la inteligencia artificial, por ejemplo, podrían tener  un valor-negativo en tanto que su solución no aceleraría el desarrollo de una inteligencia maquínica sin hacer lo mismo para expeditar el desarrollo de métodos de control que puedan hacer de la revolución de la inteligencia maquínica sobrevivible e incluso beneficiosa.” (Bostrom 2014, p. 256)

Pero al subordinar así a la tecnología a un propósito de dominación, podríamos estar entregando nuestro futuro a un pragmatismo que implicaría, efectivamente, la extinción de la especie humana, debido a la victoria de inteligencias maquínicas producidas precisamente por esa falta de reflexión y que nos imaginamos  solo en función de lo que sería una confrontación y un peligro externo en lugar de un riesgo siempre presente.

Bostrom dice que necesitamos “la capacidad de control capaz de mitigar el riesgo de un despegue accidental” de la superinteligencia (Bostrom 2014, p. 259). Pero si dejáramos de considerar que lo más importante es controlar esta (supuesta) catástrofe, no sería más importante que contener y domesticar al monstruo al que vemos venir inevitablemente a nuestro encuentro,  quizás mejor intentar tomar conciencia de dónde es que proviene esa amenaza, qué nos dice acerca de nosotros mismos y de nuestro lugar en el inmenso universo en el que nos encontramos arrojados?

Advertisements

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out / Change )

Twitter picture

You are commenting using your Twitter account. Log Out / Change )

Facebook photo

You are commenting using your Facebook account. Log Out / Change )

Google+ photo

You are commenting using your Google+ account. Log Out / Change )

Connecting to %s