Cuando Google, Facebook y otros algoritmos se conviertan en
oráculos omniscientes, bien podrían evolucionar para convertirse en
representantes y finalmente en soberanos. Para comprender esta trayectoria,
considérese el caso de Waze, una aplicación de navegación basada en el GPS que
muchos conductores emplean en la actualidad. Sin embargo, Waze no es solo un
mapa. Sus millones de usuarios lo actualizan constantemente con información
sobre atascos, accidentes y presencia de coches policiales. De ahí que Waze
sepa desviarnos del tráfico intenso y llevarnos hasta nuestro destino por la
ruta más rápida posible. Cuando llegamos a un cruce y nuestro instinto nos dice
que giremos a la derecha pero Waze nos indica que giremos a la izquierda, los
usuarios más tarde o más temprano aprenden que es mejor hacer caso a Waze y no
a sus sensaciones. A primera vista parece que el algoritmo de Waze nos sirve
solo como oráculo. Le hacemos una pregunta, el oráculo contesta, pero somos
nosotros los que tenemos que tomar la decisión. Sin embargo, si el oráculo se
gana nuestra confianza, el siguiente paso lógico es convertirlo en un
representante. Damos al algoritmo solo un objetivo último, y él actúa para
alcanzar dicho objetivo sin nuestra supervisión. En el caso de Waze, esto puede
suceder cuando lo conectamos a un coche automático y le decimos: «Toma la ruta
más rápida hasta casa» o «Toma la ruta más pintoresca», o «Toma la ruta con la
que contamine menos». Nosotros dirigimos la orquesta, pero dejamos que sea Waze
quien ejecute nuestras órdenes. Finalmente, Waze podría convertirse en
soberano. Al tener tanto poder en sus manos y saber mucho más que nosotros,
podría empezar a manipularnos, modelando nuestros deseos y tomando decisiones
por nosotros. Por ejemplo, supongamos que, debido a que Waze es bueno, todo el
mundo empieza a usarlo. Y supongamos que hay un atasco en la carretera n.º 1,
mientras que la carretera n.º 2 está relativamente despejada. Si Waze deja que
todos lo sepan, todos los conductores se dirigirán a la carretera n.º 2, y
también esta quedará congestionada. Cuando todo el mundo emplea el mismo
oráculo y todo el mundo cree en él, el oráculo se transforma en un soberano. De
modo que Waze debe pensar por nosotros. Quizá solo informe a la mitad de los
conductores de que la carretera n.º 2 está despejada y oculta dicha información
a la otra mitad. De esta forma, la congestión se aliviará en la carretera n.º 1
sin bloquear la n.º 2. Microsoft está desarrollando un sistema mucho más
sofisticado llamado Cortana, nombre que procede de un personaje de IA de su
popular serie de videojuegos Halo. Cortana es un asistente personal de IA que
Microsoft espera incluir como característica integral en futuras versiones de
Windows. Se animará a los usuarios a que permitan que Cortana acceda a todos
sus archivos, correos electrónicos y aplicaciones para conocerlos bien y poder
ofrecer consejo sobre multitud de cuestiones, así como convertirse en un agente
virtual que represente los intereses del usuario. Cortana podría recordarnos
que compremos algo para el cumpleaños de nuestra esposa, elegir el regalo,
reservar una mesa en el restaurante y recordarnos que tenemos que tomar el
medicamento una hora antes de la cena. Podría recordarnos que si no dejamos de
leer ahora, llegaremos tarde a una importante reunión de negocios. Cuando
estemos a punto de entrar en la reunión, Cortana nos advertirá de que nuestra
tensión arterial es demasiado elevada y nuestro nivel de dopamina demasiado
bajo, y, basándose en estadísticas anteriores, nos recordará que en tales
circunstancias solemos cometer graves errores comerciales, de modo que será
mejor que mantengamos las cosas indefinidas y evitemos comprometernos o firmar
ningún acuerdo. Cuando los Cortana evolucionen de oráculos a representantes, podrían
empezar a hablarse directamente entre sí, en nombre de sus dueños. Esto podría
empezar de manera muy inocente, cuando mi Cortana contacte con el tuyo para
acordar un lugar y una fecha de reunión. Al poco tiempo, un empresario podría
decirme que no me moleste en enviarle mi currículum, sino que sencillamente
deje que su Cortana pregunte a mi Cortana. O el Cortana de un amante potencial
podría acercarse a mi Cortana, y los dos podrían comparar notas para decidir si
haríamos buena pareja… sin que los dueños humanos lo sepamos. A medida que los
Cortana adquieran autoridad, podrían empezar a manipularse los unos a los otros
en beneficio de los intereses de sus dueños, de modo que el éxito en el mercado
laboral o en el matrimonial podría depender cada vez más de la calidad de
nuestro Cortana. La gente rica que posea el Cortana más actualizado tendría una
ventaja decisiva sobre la gente pobre con versiones más antiguas. Pero la
cuestión más turbia de todas se refiere a la identidad del dueño del Cortana.
Tal como hemos visto, los humanos no son individuos y no poseen un único yo
unificado. Así, pues, ¿a qué intereses servirá Cortana? Supongamos que mi yo
narrador toma en Año Nuevo la decisión de empezar a hacer dieta y a ir al
gimnasio a diario. Una semana después, cuando llega la hora de ir al gimnasio,
el yo experimentador le dice al Cortana que conecte el televisor y pida una
pizza. ¿Qué tendrá que hacer el Cortana? ¿Tendrá que obedecer al yo
experimentador o a la decisión que una semana antes tomó el yo narrador? El
lector podría preguntar si Cortana es realmente diferente de un reloj
despertador que el yo narrador programa por la noche para despertar al yo
experimentador con tiempo suficiente de llegar puntual al trabajo. Pero Cortana
tendrá mucho más poder sobre mí que un reloj despertador. El yo experimentador
puede silenciar el despertador con solo pulsar un botón. En cambio, Cortana me
conocerá tan bien que sabrá exactamente qué botones internos pulsar para hacer
que yo siga su «consejo». El Cortana de Microsoft no está solo en este juego.
Now, de Google, y Siri, de Apple, apuntan en la misma dirección. También Amazon
emplea algoritmos que nos estudian constantemente y usan su conocimiento para
recomendar productos. Cuando voy a una librería física, deambulo entre las
estanterías y confío en mis sensaciones para escoger el libro adecuado. Cuando
voy a la tienda virtual de Amazon, aparece inmediatamente un algoritmo que me
dice: «Sé qué libros te gustaron en el pasado. A personas con gustos similares
también les gusta este o aquel libro». ¡Maravilloso! Y esto es solo el
principio. Hoy en día, en Estados Unidos, hay más gente que lee libros
digitales que volúmenes impresos. Dispositivos como el Kindle de Amazon pueden
acopiar datos de sus usuarios mientras estos leen el libro. Por ejemplo,
nuestro Kindle puede supervisar qué partes del libro leemos deprisa y cuáles
despacio, en qué página hicimos una pausa, y en qué frase abandonamos el libro
y no volvimos a abrirlo. (Será mejor decirle al autor que reescriba ese
fragmento). Si el Kindle se mejora con reconocimiento facial y sensores
biométricos, podrá saber cómo influyó cada frase que leímos en nuestro ritmo
cardíaco y tensión arterial. Podrá saber qué nos hizo reír, qué nos entristeció
y qué nos enfureció. Pronto los libros nos leerán mientras los leemos. Y
mientras nosotros olvidamos rápidamente la mayor parte de lo que leímos, Amazon
nunca olvidará nada. Dichos datos le permitirán elegir libros para el lector
con pasmosa precisión. También le permitirá saber con exactitud quiénes somos,
y cómo conectarnos y desconectarnos. Al final, podríamos llegar a un punto en
el que fuera imposible desconectarnos de esta red omnisciente, ni siquiera por
un momento. La desconexión significará la muerte. Si las expectativas médicas
se hacen realidad, la gente del futuro incorporará a su cuerpo una serie de
dispositivos biométricos, órganos biónicos y nanorrobots que supervisarán su
salud y la defenderán de infecciones, enfermedades y lesiones. Pero estos
dispositivos tendrán que estar permanentemente conectados a la red, tanto para
actualizarlos con las últimas noticias médicas como para protegerlos de las
nuevas plagas del ciberespacio. De la misma manera que mi ordenador casero
sufre ataques constantes de virus, gusanos y troyanos, lo mismo le ocurrirá a
mi marcapasos, a mi audífono y a mi sistema inmunitario nanotecnológico. Si no
actualizo regularmente el programa antivirus de mi cuerpo, un día me despertaré
y descubriré que los millones de nanorrobots que recorren mis venas están ahora
controlados por un pirata informático norcoreano. Así, las nuevas tecnologías
del siglo XXI podrían invertir la revolución humanista, despojando a los
humanos de su autoridad y confiriendo en cambio poderes a algoritmos no
humanos. Si al lector le horroriza esta deriva, no culpe a los frikis de los
ordenadores. En realidad, la responsabilidad es de los biólogos. Es crucial
darse cuenta de que toda esta tendencia está más impulsada por descubrimientos
biológicos que por la ciencia informática. Son las ciencias de la vida las que
han llegado a la conclusión de que los organismos son algoritmos. Si este no es
el caso, si los organismos funcionan de una manera intrínsecamente diferente a
la de los algoritmos, entonces los ordenadores podrán obrar maravillas en otros
ámbitos, pero no serán capaces de comprendernos ni de dirigir nuestra vida, y
ciertamente serán incapaces de fusionarse con nosotros. Pero cuando los
biólogos llegaron a la conclusión de que los organismos son algoritmos,
desmantelaron el muro que separaba lo orgánico de lo inorgánico; transformaron
la revolución informática, que pasó de ser un asunto simplemente mecánico a un
cataclismo biológico, y transfirieron la autoridad de los individuos humanos a
los algoritmos conectados en red. Algunas personas están ciertamente
horrorizadas por esta situación, pero el hecho es que hay millones que la
aceptan de buen grado. Hoy en día, en realidad, somos muchos los que cedemos
nuestra privacidad y nuestra individualidad, publicamos todo lo que hacemos,
vivimos conectados a la red y nos ponemos histéricos si la conexión se
interrumpe aunque sea solo unos minutos. La transferencia de la autoridad de
los humanos a los algoritmos se está dando a nuestro alrededor, no como
resultado de alguna decisión gubernamental crucial, sino debido a una avalancha
de decisiones mundanas. El resultado no será un estado policiaco orwelliano.
Siempre nos preparamos para el último enemigo, aun cuando nos enfrentamos a una
amenaza totalmente nueva. Los defensores de la individualidad humana hacen
guardia frente a la tiranía del colectivo, sin darse cuenta de que la
individualidad humana está ahora amenazada desde la dirección opuesta. El
individuo no será aplastado por el Gran Hermano: se desintegrará desde dentro. Hoy,
la mayoría de las empresas y los gobiernos rinden homenaje a mi individualidad,
y prometen proporcionar medicina, educación y diversión personalizadas,
adaptadas a mis necesidades y deseos únicos. Pero para poder llegar a hacerlo,
empresas y gobiernos necesitan antes descomponerme en subsistemas bioquímicos,
supervisar dichos subsistemas con sensores ubicuos y descifrar su
funcionamiento por medio de potentes algoritmos. En el proceso se revelará que
el individuo no es más que una fantasía religiosa. La realidad será una malla
de algoritmos bioquímicos y electrónicos sin fronteras claras, y sin núcleos
individuales.
No hay comentarios:
Publicar un comentario