Teléfonos inteligentes, robots y computadoras nos ofrecen hacer nuestras vidas incluso más eficientes, pero ¿qué estamos perdiendo al aceptar esta seductora promesa?
Tom Chatfield, de BBC Future, habló con el autor Nicholas Carr sobre los peligros de una excesiva automatización, que trata en su libroThe Glass Cage: Where Automation is Taking Us (La jaula de cristal: donde nos lleva la automatización).
Para aquellos que se sienten incómodos sobre los efectos de la tecnología sobre nuestras mentes y nuestras vidas, Carr es una de las voces más mesuradas.
Un mito sobre la tecnología
Tom Chatfield: Creo que lo que intentas hacer en el libro es destruir un mito: desmantelar la simplicidad de la asunción de que la tecnología sirve para hacernos las cosas más fáciles, y que esto es algo bueno, y punto.
Nicholas Carr: Tanto en el nivel personal como en el institucional, hemos asumido que la eficiencia y la conveniencia son siempre buenas, y que maximizar esas cosas es siempre un objetivo que merece la pena.
Me parece que es una forma de pensar inocente cuando se reflexiona sobre la tecnología en todas sus formas: en particular, cuando pensamos sobre la automatización de las computadoras, pero también cuando pensamos sobre nuestros propios deseos y nuestra experiencia de la vida y del mundo.
TC: Sin embargo, muchos tecnólogos están atados a una perspectiva utilitarista, que defiende que nuestros peores errores se producen al negar la eficiencia y la lógica, y que no sabemos qué es bueno para nosotros.
Así que, según esta perspectiva, la gran tarea de la tecnología es identificar nuestras irracionalidades y los huecos en nuestro pensamiento, y crear sistemas que los compensen. ¿Se equivocan?
NC: Puedes programar computadoras para que hagan ciertas cosas, y las harán perfectamente bien una y otra vez. No puedes esperar que los seres humanos tengan ese tipo de precisión.
Así que esa es una parte del asunto. Pero la otra es ir todavía más lejos y decir que los seres humanos son tan esencialmente imperfectos que necesitamos reducir su papel lo máximo posible y hacer que las computadoras hagan lo máximo que les es posible.
No se trata solo de intentar remediar las imperfecciones humanas, también se trata de pensar que si podemos eliminar a los humanos del cuadro y dejar que las computadoras lo hagan todo, estaremos mucho mejor.
TC: No suena como una buena idea. ¿Pero hay algún tipo de automatización “buena”?
NC: Creo que la pregunta trata un tema fundamental: la pregunta no es si debemos automatizar tareas sofisticadas, sino cómo utilizamos la automatización, cómo debemos usar las computadoras para complementar el conocimiento humano, para compensar las debilidades y fallos en el pensamiento y el comportamiento humano, y además asegurarnos de que maximizamos nuestro conocimiento llegando a niveles superiores.
No queremos ser tan dependientes del software que esto nos convierta en observadores de pantallas y simples revisores de listas de verificación.
Las computadoras pueden jugar un papel muy importante, porque tenemos fallos: tenemos sesgos y podemos olvidar información importante. Pero el peligro es pasar de eso a dejar que las computadoras lo hagan todo, un camino que me parece equivocado.
¿Acabarán las computadoras con la necesidad de las personas?
TC: Al contrario que en los videojuegos, el mundo real no es un lugar en el que el trabajo duro siempre gana, no es un mundo justo o equilibrado.
Quizás lo alarmante es que hay cada vez más y más contextos en los que lo que es bueno para la gente –psicológicamente, personalmente e incluso en términos de supervivencia- no coincide con lo que las corporaciones y las naciones necesitan para tener éxito.
¿Le preocupa que las computadoras acaben reemplazando a las personas?
NC: Una de las cosas más alarmantes que me encontré cuando investigaba para el libro fue un artículo de un estratega militar sobre cómo, a medida que las computadoras participan cada vez más en la guerra, puede que no quede un rol para los humanos.
Toda va tan rápido que los humanos, simplemente, no pueden manejar la toma de decisiones.
Creo que es algo que estamos viendo no solo en la guerra, sino en muchos otros aspectos de la vida, como el mundo financiero, por ejemplo.
La velocidad a la que las computadoras pueden comprar y vender instrumentos financieros ha hecho obsoletos a los seres humanos.
Lo que sucede entonces es que no solo pierdes las fortalezas que distinguen a la inteligencia humana, la habilidad de las personas para cuestionarse lo que están haciendo de una forma imposible para las computadoras, sino que también estás haciendo avanzar estos sistemas de manera irreflexiva, asumiendo que la velocidad de la toma de decisiones es lo más importante.
Y luego te encuentras que no puedes retroceder, incluso si descubres que tiene fallos horribles.
Una vez que reconstruyes completamente una esfera de actividad alrededor de las computadoras, se vuelve muchas veces imposible dar marcha atrás y reinsertar a una persona en el proceso.
Creo que en esas circunstancias es muy fácil perder de vista que somos animales: somos criaturas desarrolladas a través de los siglos y de la evolución por vivir en el mundo.
Nuestro papel como seres humanos y nuestra satisfacción y realización están vinculadas con nuestra experiencia del mundo, que tiene su propio ritmo y su propia velocidad.
Así que cuando nos ponemos, con nuestras limitaciones pero también con nuestras capacidades físicas, al lado de computadoras que pueden ser tan rápidas y tan precisas, es muy fácil decir, bueno, dejemos que la computadora defina nuestra experiencia.
Perdemos de vista el hecho de que, si delegamos en las computadoras, podemos acabar creando un mundo y una experiencia para nosotros que, realmente, no nos enriquezca demasiado.
¿Cómo deberíamos automatizar el mundo?
TC: Creo que necesitamos una actitud participativa y crítica hacia la tecnología, pero me preocupa cuando la gente comienza a obsesionarse con la dificultad y con la “autenticidad” anti-tecnológica.
NC: Sí, y no se puede simplificar la complejidad. Estaba haciendo una entrevista sobre el libro y me preguntaron por la gente que trabaja en fábricas horribles de despiece de carne.
Y contesté que yo no digo que no haya un papel para la tecnología que nos ahorra trabajo, lo que digo es que podemos hacer esto de forma sabia, o lo podemos hacer a lo bruto.
Lo podemos hacer de una manera que entienda el valor de la experiencia humana y la realización, o de una forma que solo entienda el valor como la capacidad de las computadoras.
El futuro
TC: Entonces, ¿hacia dónde nos dirigimos?
NC: Thomas Hughes, un historiador de la tecnología que murió el año pasado, hablaba del concepto de “momentum tecnológico”: la tecnología, una vez se inserta en nuestras estructuras y procesos sociales, toma su propio impulso y nos arrastra con ella.
Así que puede ser que la trayectoria haya sido ya definida, que vayamos a seguir andando el camino que hemos empezado, sin cuestionar la dirección que estamos tomando.
No lo sé. Lo mejor que puedo hacer es intentar pensar con la mayor claridad posible sobre estas cosas, porque parecen complicas y confusas.
Sé parte de la conversación