Luego de que Google despidiera a una de sus investigadoras sobre Inteligencia Artificial, nos ha mostrado (de nueva cuenta) el problema latente de los sesgos con los que aprenden sus algoritmos. ¿Qué quiere decir eso? Sencillamente que la Inteligencia Artificial que esta compañía está desarrollando “aprende” reproduciendo sesgos y prejuicios “muy humanos” y ello parece no importarle tanto.
Timmit Gebreu es la investigadora que fue despedida. Se trata de la colíder del equipo de Inteligencia Artificial Ética de la compañía y se le atribuye haber denunciado las prácticas poco equitativas al interior de la compañía. Su despido se dió hace sólo unos días, pero Grebeu había tomado notoriedad desde hace tiempo, tras la publicación de los resultados de una investigación suya y de algunos otros colegas en la que demostraban que el software de reconocimiento facial que maneja Google identificaba erróneamente a las mujeres de piel oscura hasta en un 35%, mientras funcionaba casi con absoluta precisión en hombres blancos.
Lee también: Google amplía su control sobre lo que vemos
Como se sabe, Inteligencia Artificial es el término con el que se nombra a las acciones propias de los procesadores que aprovechan el nuevo recurso de la era digital: inmensas cantidades de información. Lo que hacen dichos procesadores es relacionar datos, identificar patrones y realizar predicciones. Ya en otras ocasiones hemos tratado el tema en este mismo espacio y comentábamos que una gran parte de lo que hace la Inteligencia Artificial en la actualidad es justamente predecir de manera automatizada qué producto recomendar, qué anuncios mostrar a cada persona, qué imagen está en una foto o cuál debería ser el siguiente movimiento de un robot. Ello debido a que está siento mayormente aprovechada con fines comerciales.
Relacionar los datos, identificar patrones y hacer predicciones es algo que ejecutan los procesadores a partir de ciertos algoritmos. Estos últimos no son sino instrucciones que permiten obtener algo; las instrucciones se le dan a una máquina (computadora, tablet, teléfono celular, etc.) y ella nos arroja el resultado. Entonces, un programa o una aplicación son básicamente algoritmos. Y lo que trabajos como el de Gebreu han puesto sobre la mesa es que el tipo de relaciones entre datos que está aprendiendo a realizar la Inteligencia Artificial está cargado de prejuicios y hasta racismo.
Por ejemplo, un estudio realizado por investigadores de la Universidad de Princeton (EE.UU.) y de Bath (Reino Unido), reveló que la Inteligencia Artificial, al igual que los seres humanos, tiende a relacionar elementos con un claro prejuicio. Según su investigación, los sistemas de Inteligencia Artificial mostraron tendencia a asociar más a menudo los nombres de origen europeo con estímulos agradables como «regalo» o «feliz». Los sistemas también mostraron sesgo de género, ya que palabras como «mujer» o «chica» las asociaron con las artes más que «hombre» o «chico». Este artículo fue publicado en la revista Science a mediados de 2017 y abrió todo un debate al respecto de cómo están perpetuándose algunos sesgos históricos y culturales hacia la Inteligencia Artificial.
Tras el despido de la Dra Gebreu hubo una ola de indignación entre expertos en el tema, quienes exigían a Google aclarar las causas del despido. Y es que Gebreu, quien es egresada del Laboratorio de Inteligencia Artificial de la Universidad de Stanford, ya es considerada una experta en prácticas éticas en la Inteligencia Artificial y ha venido denunciando los pre-juicios con los que se desarrolla la inteligencia artificial de Google. El problema es que lo estaba haciendo desde dentro de la compañía, lo cual parece que incomodó mucho.
Cuando le pedimos al motor de Google que nos muestre lo que tienen que ver con X tema, lo más probable es que el tipo de datos que relaciona para arrojarme resultados esté cargado de muchos pre-juicios que la Inteligencia Artificial está aprendiendo y reproduciendo.
Sabemos que gran parte del negocio de Google se sostiene en el acopio y procesamiento de ingentes cantidades de datos (que nosotros sus usuarios le proporcionamos con nuestro navegar en Internet), pero el problema es cómo ordena a sus procesadores relacionar los datos y si esas instrucciones cifradas en sus algoritmos son objetivas, plurales, incluyentes y éticas. Hace poco menos de dos meses retomábamos en este mismo espacio la declaración abierta que Google hizo en el sentido de que entendía como suya la “misión de organizar la información del mundo y hacerla accesible y útil para todos”.
El debate ahora tiene que ver con cómo se está organizando esa información que nos es devuelta a los usuarios de la compañía (que se cuentan en milles de millones de personas) a partir de nuestras búsquedas. Cuando le pedimos al motor de Google que nos muestre lo que tienen que ver con X tema, lo más probable es que el tipo de datos que relaciona para arrojarme resultados esté cargado de muchos pre-juicios que la Inteligencia Artificial está aprendiendo y reproduciendo.
Síguenos