Hace un año y medio, Netflix lanzó The Social Dilemma , un docu-drama que ahondaba en las consecuencias dañinas de las redes sociales. Piense en la polarización política, la difusión de información errónea y los aumentos de ansiedad y depresión en múltiples grupos demográficos. Tristan Harris , ex especialista en ética del diseño de Google y cofundador del Center for Humane Technology , es una figura central en la película. En una sesión en South By Southwest esta semana, Harris habló sobre los pasos que deberíamos tomar para llevar esta tecnología y nuestra relación con ella a un lugar saludable, o como él lo expresó, la sabiduría que necesitamos para dirigir la tecnología y nuestro futuro.
Harris abrió con una cita del biólogo Edward O. Wilson , quien dijo: “El verdadero problema de la humanidad es el siguiente: tenemos emociones paleolíticas, instituciones medievales y tecnología divina. Y es terriblemente peligroso, y ahora se acerca a un punto de crisis en general”.
En otras palabras, la tecnología avanza demasiado rápido para que nuestros cerebros se mantengan al día y sepan cómo interactuar de manera saludable con ella, o para que nuestras instituciones la entiendan y la regulen sabiamente.
Wilson pronunció estas palabras en un debate en el Museo de Historia Natural de Harvard en 2009; es decir, antes de la adopción generalizada de plataformas como Instagram y Tiktok, o de tecnología como deepfakes, generadores de texto, CRISPR y otras innovaciones que tienen el potencial de transformar a la humanidad (para bien o para mal).
Ahora tenemos algoritmos que pueden generar imágenes realistas basadas en texto, de cualquier cosa, desde puestas de sol en las montañas hasta edificios bombardeados en Ucrania. Tenemos GPT-3 , que podría escribir un artículo convincente argumentando que las vacunas de ARNm no son seguras, citando hechos reales que simplemente se presentan fuera de contexto. “Esto es como una bomba de neutrones para la confianza en Internet”, dijo Harris. “Y la complejidad del mundo aumenta cada día”. Nuestra capacidad de respuesta, sin embargo, no está a la altura.
Problemas que en el pasado se habrían considerado separados (o que no existían en el pasado) ahora están estrechamente vinculados; considere el impacto que la desinformación y los medios sintéticos podrían tener en la escalada nuclear (y el impacto que ya han tenido en las elecciones y la democracia), o la conexión entre la inteligencia artificial y el riesgo financiero global .
Nuestro pensamiento anterior sobre cómo administrar la tecnología no es lo suficientemente bueno frente a esta nueva complejidad; ¿Cómo manejamos temas como la privacidad o la libertad de expresión cuando hay múltiples actores involucrados, hay poca responsabilidad y la definición de cada uno de lo que es "correcto" es diferente? “La tecnología ha estado socavando la capacidad de sabiduría de la humanidad”, dijo Harris. “No solo individualmente, sino también nuestra capacidad colectiva para operar con la sabiduría que necesitamos”.
Sabiduría, dijo, significa conocer los límites de cómo realmente trabajamos, tener la autoconciencia y la humildad para investigar, y poder pensar en términos de sistemas y causas fundamentales. Harris hizo referencia al libro Thinking in Systems de la científica ambiental Donella Meadows, en el que detalla 12 puntos de influencia para intervenir en un sistema, es decir, cambiar la forma en que funciona un sistema de su estado actual a otra cosa. En opinión de Harris, el punto más relevante de Meadows para la conversación tecnológica es el poder de trascender paradigmas.
Cada uno de los paradigmas de pensamiento en la industria de la tecnología que nos llevaron a donde estamos debe ser revisado por un enfoque centrado en el ser humano. En lugar de ignorar los daños de la tecnología afirmando que siempre hay costos y beneficios, debemos centrarnos en minimizar las externalidades dañinas. En lugar de dar a los usuarios lo que quieren, debemos respetar las debilidades y vulnerabilidades humanas (por ejemplo, la forma en que las plataformas de redes sociales explotan la respuesta de dopamina del cerebro). En lugar de maximizar la personalización para brindar a los usuarios una experiencia satisfactoria (también conocida como crear nuestras propias cámaras de eco pequeñas y únicas), debemos esforzarnos por crear una comprensión compartida.
La pregunta es, ¿cómo hacemos para que más personas pasen de ser usuarios típicos de las redes sociales y otras tecnologías a ser lo que Harris llama tecnólogos humanos?
Comienza con la sensibilización y la educación de nosotros mismos. Harris y su equipo del Center for Humane Technology crearon un curso en línea llamado Fundamentos de la tecnología humana, que lleva a los participantes a través de seis principios centrados en valores que, si los priorizamos al diseñar nueva tecnología (o cambiar el diseño de la tecnología existente), pueden mejorar nuestra experiencia tanto individualmente como como comunidad interconectada.
“Nos gustaría tener 100.000 tecnólogos humanos que estén capacitados en este nuevo paradigma”, dijo Harris. “Es difícil pensar en estas cosas cuando sientes que eres el único que hace estas preguntas”.
Estamos en un punto de inflexión en el que es crucial que quienes trabajan en tecnología ayuden a crear una comprensión compartida; el mundo no está a punto de volverse menos complejo o volátil. Por el contrario, Harris predice que nos dirigimos a un período de crecientes catástrofes globales alimentadas por el cambio climático, la desigualdad y los regímenes políticos inestables, entre otros factores.
Es mucho para asumir, incluso mucho para contemplar. Pero, dijo Harris, tiene esperanza porque ha visto que el sistema ha cambiado mucho más rápido que nunca en los últimos años. Personas de la industria tecnológica han hablado sobre los riesgos y daños de los productos que ayudaron a crear, desde el exingeniero de YouTube Guillaume Chaslot hasta el cofundador de Facebook Chris Hughes y el excientífico de datos de Facebook Frances Haugen , y muchos más. “Los tecnólogos en realidad se están despertando y diciendo: 'No quiero participar en la parte tóxica de la industria, quiero ayudar a construir una mejor parte'”, dijo Harris.
Volviendo a la cita de Wilson, Harris propuso lo siguiente: necesitamos abrazar nuestras emociones paleolíticas, actualizar nuestras instituciones medievales y tener la sabiduría para manejar nuestra tecnología divina. Necesitamos poder dar sentido al mundo y hacer que personas de diferentes lados se reúnan y acuerden las acciones que debemos tomar, y luego tomarlas. No debería haber lugar para modelos de negocios que dependan de dividir a las personas. “Necesitamos que todos trabajen para ayudarnos a cerrar esa brecha”, dijo Harris.
Fuentes
singularityhub.com
Comments