Se abre una discusión ética sobre los desarrollos que utilizan atributos como el color de piel, la raza o el género para poder activar una función.
¿Qué se siente ser discriminado por la tecnología?
Imagine que usted quiere lavarse las manos, pero resulta que el sensor dispensador automático de jabón no le funciona porque no identifica su tono de piel. Que usted le habla a un asistente virtual, pero este no reconoce su dialecto o acento. Que usted siendo mujer, no le aparece un anuncio de trabajo en Facebook o en Google porque está orientado solo para hombres.
Los tres son casos reales y unos pocos de la variedad que están entrando a la discusión del uso ético de la tecnología, porque si bien todo el tiempo salen a flote las bondades de la inteligencia artificial, del internet de las cosas y de la publicidad personalizada, poco se habla a nivel masivo de las discusiones éticas que rodean estas tecnologías emergentes.
Para Ferose V.R. vicepresidente mundial de Servicios de Globalización de SAP, uno de los mayores fabricantes de software del mundo, cuando se pretende hacer difusión tecnológica no solo se debe tener una visión enfocada en las regulaciones de cada país, sino también en sus culturas.
“Se deben hacer esfuerzos en la traducción de los sistemas. Yo soy de la India, donde tenemos 22 idiomas. Ahí hay un reto gigante para reducir brechas, pero en el resto del mundo también. Hay que buscar acciones para humanizar la tecnología”, le dijo Ferose a Dinero en una reciente visita a Colombia.
Esto, desde su parecer, aplica también en las compañías donde antes tenía toda la responsabilidad el gerente de tecnología, pero que ahora, para poder tener transformaciones digitales exitosas, tienen una mentalidad digital en la que las empresas no generalizan una solución para todos, sino una en la que se invierta en un registro para mejorar la gente.
“Los empleados de la organización se abren a aprender estas nuevas tecnologías, a saber, el ‘machine learning’ (o aprendizaje automático), etc. Pero es muy importante establecer que estos son algunos de los factores que necesita un líder que tenga una mentalidad digital que se amplíe a toda la organización”, agrega.
Por otro lado, Omar Flórez, doctor en ciencias de la computación de nacionalidad peruana e instructor de Platzi basado en San Francisco (Estados Unidos), asegura que a los algoritmos que causan discriminación se les denomina poder discriminatorio.
Explica que con latinos que habitan en países anglosajones puede pasar que la Inteligencia Artificiales confunda su habla con ruidos o incoherencias durante la memorización de los patrones más comunes, lo que deriva en algoritmos menos exactos.
“Si este proceso utiliza atributos sensibles como el color de piel, la raza, el género, la edad, o el nivel socioeconómico, este problema es discutible y hasta incluso ético”, explica.
En Estados Unidos la red social Facebook fue acusada recientemente de permitir discriminación contra las mujeres en los anuncios de trabajo. Los señalamientos han llegado antes por motivos de raza y motivos de edad.
Resulta que en asociación con las organizaciones Communications Workers of America y la Unión Estadounidense por las Libertades Civiles, un grupo de solicitantes de empleo presentaron cargos ante la Comisión Federal de Igualdad de Oportunidades de Empleo contra la compañía y nueve empleadores que usan la plataforma.
Al parecer, los empleadores habrían usado las funciones de segmentación de Facebook para excluir a mujeres entre los usuarios a los que le aparecían los anuncios.
Aunque Joe Osbrone, una vocera de Facebook, salió a decir que “no hay lugar para la discriminación en Facebook; está estrictamente prohibido en nuestras políticas”, los expertos consultados por este medio coinciden con que quedan pendientes reflexiones éticas en la tecnología.