La categoría de gorila está bloqueada en Google Photos para prevenir el racismo

¿Son dos años y medio suficientes para corregir una falla en un algoritmo de inteligencia artificial ? En el caso de un problema específico de Google Photos, no: en 2015, un desarrollador descubrió que el motor de calificación automática del servicio etiquetaba las imágenes de personas negras como «gorilas» . Para resolver el problema, Google simplemente decidió bloquear esta y otras palabras potencialmente racistas.

La categoría de gorila está bloqueada en Google Photos para prevenir el racismo 1

Al trabajar con el software, Jacky Alciné se dio cuenta tan pronto como descubrió el problema de que había una falla en el algoritmo, no una acción intencional de Google para el racismo. Sin embargo, el desarrollador se preguntó qué tipos de imágenes usaría el sistema de servicio como puntos de referencia. Para él, una clasificación más precisa y completa de las personas negras haría que el algoritmo esté mejor entrenado para no cometer ese tipo de error.

Google se disculpó rápidamente y prometió investigar el problema, incluso le pidió permiso a Alciné para acceder a su cuenta para obtener más detalles. Pero aparentemente no se ha desarrollado una solución desde entonces.

El descubrimiento fue realizado por Wired , que probó más de 40,000 imágenes en Google Photos. El servicio clasificó correctamente varios tipos de animales, incluso algunos supuestamente más laboriosos, como los pandas y los caniches. En contraste, las búsquedas de chimpancés, gorilas y monos no arrojaron resultados.

¿Cuál es la explicación si las búsquedas de primates como orangutanes y babuinos funcionaron perfectamente? La conexión de cable logotipo supone que Google simplemente prohibió indefinidamente palabras que pueden causar problemas de índole racial.

La categoría de gorila está bloqueada en Google Photos para prevenir el racismo 2

Sorprendentemente, Google reconoció el bloqueo. Las categorías habían sido excluidas tan pronto como Alciné informó el problema, y ​​lo siguen siendo hasta el día de hoy. Un portavoz de la compañía explicó a Wired que «la tecnología de reconocimiento de imágenes todavía es nueva y, desafortunadamente, está lejos de ser perfecta».

La pregunta sigue siendo: ¿Google no pudo resolver el problema o simplemente lo dejó para más tarde? Puede ser una mezcla de ambos. Los expertos en inteligencia artificial reconocen que la tecnología está lejos de la capacidad del ser humano para analizar de manera abstracta y contextualizada. En este sentido, la forma más fácil (el bloque de categoría) parece ser la más segura.

Contenido Relacionado

Google abre registro para programa de pasantías en Brasil

Google abre registro para programa de pasantías en Brasil

El Google comenzó el lunes (3) el plazo de inscripción para la novena edición de su programa de prácticas en ...
Leer Más
10 mejores consejos, trucos, tutoriales sobre Microsoft Word

10 mejores consejos, trucos, tutoriales sobre Microsoft Word

Microsoft Word es la aplicación más utilizada del grupo de Microsoft Office. A medida que el año 2012 llegaba a ...
Leer Más
Microsoft muestra detalles del menú de inicio de Windows 8

Microsoft muestra detalles del menú de inicio de Windows 8

Microsoft ha realizado varias optimizaciones para que el inicio de Windows 8 sea más rápido y esto resultó ser un ...
Leer Más
Clipa.Vu es un Administrador de Portapapeles gratuito disponible en Microsoft Store.

Clipa.Vu es un Administrador de Portapapeles gratuito disponible en Microsoft Store.

Ya hemos visto algunos programas de gestión de portapapeles gratuitos anteriormente. Hoy vamos a echar un vistazo a Clipà.Vu, una ...
Leer Más
Cómo cambiar la dirección de correo electrónico principal de la cuenta de Microsoft para Windows 10

Cómo cambiar la dirección de correo electrónico principal de la cuenta de Microsoft para Windows 10

Su cuenta principal de Microsoft en Windows 10 ofrece una forma sencilla de iniciar sesión en los servicios de Microsoft ...
Leer Más
Apple te permite usar aplicaciones piratas para iOS en el programa Enterprise

Apple te permite usar aplicaciones piratas para iOS en el programa Enterprise

La controversia en Apple Developer Enterprise Program no ha terminado: además de distribuir aplicaciones con contenido adulto y juegos de ...
Leer Más

Deja un comentario