Tom Chatfield, de BBC Future, habló con el autor Nicholas
Carr sobre los peligros de una excesiva automatización, que trata en su libro
The Glass Cage: Where Automation is Taking Us (La jaula de cristal: donde nos
lleva la automatización).
Foto: Tomada de Kickstarter.
C.H.I.P. se puede conectar a pantallas y computadoras
convencionales de forma simple.
Teléfonos inteligentes, robots y computadoras nos ofrecen
hacer nuestras vidas incluso más eficientes, pero ¿qué estamos perdiendo al
aceptar esta seductora promesa?
Tom Chatfield, de BBC Future, habló con el autor Nicholas
Carr sobre los peligros de una excesiva automatización, que trata en su libro
The Glass Cage: Where Automation is Taking Us (La jaula de cristal: donde nos
lleva la automatización).
Para aquellos que se sienten incómodos sobre los efectos
de la tecnología sobre nuestras mentes y nuestras vidas, Carr es una de las
voces más mesuradas.
Un mito sobre la tecnología
Tom Chatfield: Creo que lo que intentas hacer en el libro
es destruir un mito: desmantelar la simplicidad de la asunción de que la
tecnología sirve para hacernos las cosas más fáciles, y que esto es algo bueno,
y punto.
Nicholas Carr: Tanto en el nivel personal como en el
institucional, hemos asumido que la eficiencia y la conveniencia son siempre
buenas, y que maximizar esas cosas es siempre un objetivo que merece la pena.
Me parece que es una forma de pensar inocente cuando se
reflexiona sobre la tecnología en todas sus formas: en particular, cuando
pensamos sobre la automatización de las computadoras, pero también cuando
pensamos sobre nuestros propios deseos y nuestra experiencia de la vida y del
mundo.
TC: Sin embargo, muchos tecnólogos están atados a una
perspectiva utilitarista, que defiende que nuestros peores errores se producen
al negar la eficiencia y la lógica, y que no sabemos qué es bueno para
nosotros.
Así que, según esta perspectiva, la gran tarea de la
tecnología es identificar nuestras irracionalidades y los huecos en nuestro
pensamiento, y crear sistemas que los compensen. ¿Se equivocan?
NC: Puedes programar computadoras para que hagan ciertas
cosas, y las harán perfectamente bien una y otra vez. No puedes esperar que los
seres humanos tengan ese tipo de precisión.
Así que esa es una parte del asunto. Pero la otra es ir
todavía más lejos y decir que los seres humanos son tan esencialmente
imperfectos que necesitamos reducir su papel lo máximo posible y hacer que las
computadoras hagan lo máximo que les es posible.
No se trata solo de intentar remediar las imperfecciones
humanas, también se trata de pensar que si podemos eliminar a los humanos del
cuadro y dejar que las computadoras lo hagan todo, estaremos mucho mejor.
TC: No suena como una buena idea. ¿Pero hay algún tipo de
automatización “buena”?
NC: Creo que la pregunta trata un tema fundamental: la
pregunta no es si debemos automatizar tareas sofisticadas, sino cómo utilizamos
la automatización, cómo debemos usar las computadoras para complementar el
conocimiento humano, para compensar las debilidades y fallos en el pensamiento
y el comportamiento humano, y además asegurarnos de que maximizamos nuestro
conocimiento llegando a niveles superiores.
No queremos ser tan dependientes del software que esto
nos convierta en observadores de pantallas y simples revisores de listas de
verificación.
Las computadoras pueden jugar un papel muy importante,
porque tenemos fallos: tenemos sesgos y podemos olvidar información importante.
Pero el peligro es pasar de eso a dejar que las computadoras lo hagan todo, un
camino que me parece equivocado.
¿Acabarán las computadoras con la necesidad de las
personas?
TC: Al contrario que en los videojuegos, el mundo real no
es un lugar en el que el trabajo duro siempre gana, no es un mundo justo o
equilibrado.
Quizás lo alarmante es que hay cada vez más y más
contextos en los que lo que es bueno para la gente –psicológicamente,
personalmente e incluso en términos de supervivencia- no coincide con lo que
las corporaciones y las naciones necesitan para tener éxito.
¿Le preocupa que las computadoras acaben reemplazando a
las personas?
NC: Una de las cosas más alarmantes que me encontré
cuando investigaba para el libro fue un artículo de un estratega militar sobre
cómo, a medida que las computadoras participan cada vez más en la guerra, puede
que no quede un rol para los humanos.
Toda va tan rápido que los humanos, simplemente, no
pueden manejar la toma de decisiones.
Creo que es algo que estamos viendo no solo en la guerra,
sino en muchos otros aspectos de la vida, como el mundo financiero, por
ejemplo.
La velocidad a la que las computadoras pueden comprar y
vender instrumentos financieros ha hecho obsoletos a los seres humanos.
Lo que sucede entonces es que no solo pierdes las
fortalezas que distinguen a la inteligencia humana, la habilidad de las
personas para cuestionarse lo que están haciendo de una forma imposible para
las computadoras, sino que también estás haciendo avanzar estos sistemas de
manera irreflexiva, asumiendo que la velocidad de la toma de decisiones es lo
más importante.
Y luego te encuentras que no puedes retroceder, incluso
si descubres que tiene fallos horribles.
Una vez que reconstruyes completamente una esfera de
actividad alrededor de las computadoras, se vuelve muchas veces imposible dar
marcha atrás y reinsertar a una persona en el proceso.
Creo que en esas circunstancias es muy fácil perder de
vista que somos animales: somos criaturas desarrolladas a través de los siglos
y de la evolución por vivir en el mundo.
Nuestro papel como seres humanos y nuestra satisfacción y
realización están vinculadas con nuestra experiencia del mundo, que tiene su
propio ritmo y su propia velocidad.
Así que cuando nos ponemos, con nuestras limitaciones
pero también con nuestras capacidades físicas, al lado de computadoras que
pueden ser tan rápidas y tan precisas, es muy fácil decir, bueno, dejemos que
la computadora defina nuestra experiencia.
Perdemos de vista el hecho de que, si delegamos en las
computadoras, podemos acabar creando un mundo y una experiencia para nosotros
que, realmente, no nos enriquezca demasiado.
La jaula de cristal: donde nos lleva la automatización,
de Nocholas Carr.
¿Cómo deberíamos automatizar el mundo?
TC: Creo que necesitamos una actitud participativa y
crítica hacia la tecnología, pero me preocupa cuando la gente comienza a
obsesionarse con la dificultad y con la “autenticidad” anti-tecnológica.
NC: Sí, y no se puede simplificar la complejidad. Estaba
haciendo una entrevista sobre el libro y me preguntaron por la gente que
trabaja en fábricas horribles de despiece de carne.
Y contesté que yo no digo que no haya un papel para la
tecnología que nos ahorra trabajo, lo que digo es que podemos hacer esto de
forma sabia, o lo podemos hacer a lo bruto.
Lo podemos hacer de una manera que entienda el valor de
la experiencia humana y la realización, o de una forma que solo entienda el
valor como la capacidad de las computadoras.
El futuro
TC: Entonces, ¿hacia dónde nos dirigimos?
NC: Thomas Hughes, un historiador de la tecnología que
murió el año pasado, hablaba del concepto de “momentum tecnológico”: la
tecnología, una vez se inserta en nuestras estructuras y procesos sociales,
toma su propio impulso y nos arrastra con ella.
Así que puede ser que la trayectoria haya sido ya
definida, que vayamos a seguir andando el camino que hemos empezado, sin
cuestionar la dirección que estamos tomando.
No lo sé. Lo mejor que puedo hacer es intentar pensar con
la mayor claridad posible sobre estas cosas, porque parecen complicas y
confusas.
