21 de febrero de 2022

F

¿Fuzzys vs. Techies?

por Carmen Jordá Sanz

La tecnología hecha por y para humanos necesita precisamente la humanidad, el valor de las ciencias sociales y las artes propias de las personas para poner al ser humano en el verdadero centro de su propia (r)evolución.

 

A menudo dividimos el mundo profesional según el conocimiento experto de dos categorías considerándolas erróneamente excluyentes: ciencias y letras; esta dicotomía nos llevaría irremediablemente a pensar que en la era digital en la que nos encontramos no se necesita gente de letras, nada más lejos de la realidad.

Entre otros muchos, Bill Aulet, director general de The Martin Trust for MIT Enterpreneurship, Mariano Belinki, CEO de Santander Global Asset Management o Scott Hartley, inversor de riesgo en Silicon Valley insisten en que las humanidades, las ciencias sociales y las artes liberales son ahora más relevantes que nunca precisamente por el desarrollo tecnológico exponencial.

Lo cierto es que dividir el entorno profesional en ciencias y letras es una clasificación ya en origen errónea, y la mejor muestra de ello es la necesidad de expertos considerados fuzzys1 que, desde los profesionales de las TIC y particularmente la ciberseguridad, se está explicitando.

Si las tecnologías son efectivamente creadas por personas, llevarán implícitas las imperfecciones y sesgos propias de su condición

En realidad, si las tecnologías son creadas por y para las personas, resultaría lógico pensar que las SSH2 deben ser parte clave tanto en su creación como en su uso. Tal y como recuerda la Comisión Europea3, las SSH abarcan una amplia gama de disciplinas como la sociología, la economía, la psicología, la ciencia política, la historia y las ciencias culturales, el derecho y la ética, campos esenciales del conocimiento desde los que se apoyan tanto la elaboración de políticas basadas en evidencias como el diseño de las soluciones ante los problemas sociales y tecnológicos en la actualidad.

Es más, cabe decir que, si las tecnologías son efectivamente creadas por personas, llevarán implícitas las imperfecciones y sesgos propios de su condición. Una clara muestra de ello es el problema existente con los datos que nutren los algoritmos, por ejemplo, en los sistemas biométricos: los modelos dedicados a la detección, identificación y verificación en los sistemas de reconocimiento facial realizan clasificaciones erróneas en función del color de la piel, la edad y el sexo de los individuos (Cámara y Jordá, 2020). En este sentido, especial interés reviste el informe AI100 (2021) sobre 100 años de inteligencia artificial y cuyas conclusiones, una vez más, inciden en la ineludible obligación de incluir áreas de investigación vinculadas con las humanidades y muy especialmente con las ciencias sociales para ampliar las posibilidades futuras de esta tecnología, tanto para minimizar los impactos negativos en la sociedad como para potenciar los positivos.

La integración efectiva de la SSH es, por tanto, un determinante clave del impacto social en el desarrollo tecnológico, pues resulta fácilmente imaginable la infinidad de problemas sociales, jurídicos y éticos derivados de la discriminación implícita en la aplicación de determinadas tecnologías disruptivas ante diversos retos sociales: desde la falta de higiene democrática de unas elecciones o la potenciación de los discursos de odio, hasta la discriminación racial y étnica en la prevención del delito o la discriminación de género en el entorno laboral. Resulta que no se trata de un ejercicio de prospectiva, todos estos efectos ya se han constatado4.

Los músicos son profesionales con especial potencial de éxito como analistas de ciberseguridad

Sin restar importancia a los relevantes avances tecnológicos, eminentemente positivos5, sin duda se producirán resultados más alentadores si integramos todas las disciplinas involucradas en cada nuevo paso. En este sentido, es relevante construir un proceso de co-diseño que reconozca y aborde las habilidades que cada nueva propuesta requiera, ya sea un proyecto de investigación, una herramienta digital o una solución tecnológica a una necesidad social. Buena señal de esta necesidad es la breve y dramática historia de Spot, el perro robot de la policía de NYPD que comenzó a patrullar en febrero de 2021 y que fue rápidamente sacrificado a las pocas semanas al considerarse terrorífico y espeluznante por la ciudadanía6. En este caso podemos ver que la seguridad depende de una serie de factores humanos y de cuestiones sociales y culturales, como la confiabilidad, y de forma específica estas disciplinas propias de las letras son necesarias para analizar las interacciones persona-máquina.

Del mismo modo, el uso de inteligencia artificial para la manipulación de imágenes abre un mundo nuevo en el entorno del marketing y la cinematografía7, y específicamente en para su vertiente más oscura necesita de expertos en comunicación, periodismo, criminología o psicología para detectar malos usos. De hecho, en el entorno concreto de la ciberseguridad, soft skills como la creatividad, el pensamiento crítico o el trabajo en equipo son elementos centrales para garantizar una mayor protección. Así, David Tudehope, director general de Macquarie Telecom Group, señala a los músicos como profesionales con especial potencial de éxito como analistas de ciberseguridad o cazadores de amenazas dadas sus destacadas capacidades en la detección de rarezas en patrones de conducta8.

En materia de ciberincidentes, IBM no se ha cansado de repetir en sus informes anuales desde 2009 que más del 90% de ellos se debe a errores humanos (IBM X-Force Threat Intelligence Index, 2009-2020). Estos datos ponen de manifiesto que la seguridad informática no se limita a la tecnología y los sistemas, también se trata de las personas que utilizan esos sistemas y de cómo sus comportamientos vulnerables pueden derivar en graves consecuencias; lo cual nos lleva irremediablemente a considerar la seguridad como parte necesaria de la cultura de empresa, donde los factores psicológicos, sociales y legales juegan un papel trascendental. Pues bien, si el mejor cortafuegos humano en ciberseguridad es la formación y la concienciación, entonces expertos en educación y en comunicación tendrían un valor extraordinario a la hora de diseñar e implementar ese tipo de dinámicas. Así, en los equipos de trabajo, cuanta mayor diversidad haya, más herramientas de protección tendrá la organización a su disposición.

No hay revolución sin cultura, y la revolución digital será humana o no será.

En conclusión, la tecnología, que siempre es un medio, tiene como origen y fin el ser humano; por ello, las disciplinas humanas y sociales son una parte más del engranaje de conocimientos sobre el desarrollo tecnológico que forma parte de evolución humana en la IV Revolución Industrial9. Por tanto, para situar verdaderamente al ser humano en el centro deberemos apoyarnos de las perspectivas que las SSH nos aportan. No hay revolución sin cultura, y la revolución digital será humana o no será.

Notas

 1Fuzzy es el término que denomina un estudiante de humanidades o ciencias sociales según la jerga universitaria de Stanford, frente a los techies, que se refiere a los estudiantes de ingeniería o ciencias duras; obtenido de Hartley, S. (2020).

 2SSH es el acrónimo de Social Sciences and Humanities, en inglés ciencias sociales y humanidades, ya recogido en el Manual Horizonte 2020 y de uso extendido en la Comisión Europea.

 3Por poner un ejemplo: Comisión Europea (2020). Integration of social sciences and humanities in Horizon 2020. Participants, budgets and disciplines https://op.europa.eu/en/publication-detail/-/publication/4f198f8e-4599-11eb-b59f-01aa75ed71a1

 4Algunos ejemplos de casos reales: la falta higiene democrática de unas elecciones limpias ocurrió en EE. UU. (Epsein y Robertson, 2018), la potenciación de los discursos de odio que tuvo lugar en 2017 en Facebook, la discriminación racial y étnica en la prevención del delito con el caso COMPAS en EE. UU., la discriminación de género en el entorno laboral que aconteció en 2016 con LinkedIn y en 2018 con Amazon.

 5Que la influencia de la tecnología es positiva también lo piensan 9 de cada 10 europeos. European Comission (2021). European citizens’ knowledge and attitudes towards science and technology. Disponible en https://europa.eu/eurobarometer/surveys/detail/2237

 6New York Times (2021). N.Y.P.D. Robot Dog’s Run Is Cut Short After Fierce Backlash. Disponible en https://www.nytimes.com/2021/04/28/nyregion/nypd-robot-dog-backlash.html

 7Así ya lo indicaba Idoia Salazar en la edición 117 de esta misma publicación. Disponible en: https://telos.fundaciontelefonica.com/telos-117-asuntos-comunicacion-idodia-salazar-deep-fake-cuando-ver-ya-no-es-suficiente-para-creer/

 8Financial Review (2021). Humanities grads moving into cyber security roles. Disponible en https://www.afr.com/work-and-careers/careers/humanities-grads-moving-into-cyber-security-roles-20210514-p57s23

 9Para profundizar en este concepto se recomienda visitar https://intelligence.weforum.org/topics/a1Gb0000001RIhBEAW?tab=publications

Bibliografía

Cámara, M. y Jordá, C. (2020): Sistemas biométricos: Seguridad VS. Privacidad. En Huesca y Grimaldo (Coord.). En Aspectos sociales en la Seguridad Ciudadana. Dykinson. ISBN 978-84-1377-181-6.
European Comission (2020): Integration of social sciences and humanities in Horizon 2020. Participants, budgets and disciplines. Disponible en https://op.europa.eu/en/publication-detail/-/publication/4f198f8e-4599-11eb-b59f-01aa75ed71a1
European Comission (2021): European citizens’ knowledge and attitudes towards science and technology. Disponible en: https://europa.eu/eurobarometer/surveys/detail/2237
Financial Review (2021). Humanities grads moving into cyber security roles. Disponible en: https://www.afr.com/work-and-careers/careers/humanities-grads-moving-into-cyber-security-roles-20210514-p57s23
Hartley, S. (2020): Menos tech y más Platón. Madrid, Editorial Lid. ISBN 9788417277765
Littman, M. et cols. (2021): Gathering Strength, Gathering Storms: The One Hundred Year Study on Artificial Intelligence (AI100) 2021 Study Panel Report. Stanford (EE. UU.), Stanford University. http://ai100.stanford.edu/2021-report
New York Times (2021): N.Y.P.D. Robot Dog’s Run Is Cut Short After Fierce Backlash. https://www.nytimes.com/2021/04/28/nyregion/nypd-robot-dog-backlash.html

Autor

Psicóloga, jurista y doctora por la Universidad Autónoma de Madrid, responsable de la Oficina de Inteligencia y Prospectiva en Prosegur y profesora en la UCJC. Se encuentra entre los 40 mejores prospectivistas de España según Forbes.

Ver todos los artículos

Comentarios

Artículos relacionados

Tecnología al servicio de las Humanidades

María José Afanador Llach