Krypton Solid

La última tecnología en raciones de 5 minutos

El sesgo algorítmico es el principal problema que las empresas deben abordar

La mayoría de las empresas que implementan herramientas de inteligencia artificial en la actualidad son conscientes de los posibles riesgos de sesgo. Un algoritmo que discrimina a ciertas clases de personas es claramente inaceptable, y la mayoría de los practicantes de IA están al menos algo sintonizados con este riesgo.

Pero un problema más profundo acecha dentro de los sistemas de inteligencia artificial que podría socavar las buenas intenciones de las empresas. Es un problema del que, por definición, pocos son conscientes: sesgo algorítmico inconsciente.

«El sesgo es insidioso porque si tiene datos sesgados, no importa cuánto tenga, todavía está sesgado. Y ese tipo de errores no se eliminarán en la cantidad de datos», dijo Cheryl Martin, jefa científico de datos en Alegion, una plataforma de entrenamiento de inteligencia artificial.

Varios ejemplos obvios y de alto perfil de IA sesgada han puesto el tema del sesgo algorítmico en las agendas de muchos profesionales de la IA. Muchos están familiarizados con el chatbot de Microsoft, Tay, que rápidamente se convirtió en un troll racista y misógino, o el servicio de clasificación de imágenes de Google que clasificó las imágenes de afroamericanos como imágenes de gorilas.

Las empresas ahora saben cómo eliminar las herramientas de inteligencia artificial que brindan este tipo de resultados obviamente sesgados. Pero relativamente pocos piensan en el sesgo de una manera más sistemática.

En una encuesta reciente realizada por O’Reilly Media, solo el 40% de los encuestados dijeron que verifican la imparcialidad y el sesgo al construir modelos. Solo el 17% dijo que considera medidas de sesgo y equidad al evaluar el éxito de sus modelos.

El sesgo a menudo comienza con datos incorrectos

Sin atacar sistemáticamente el sesgo algorítmico, puede introducirse en los modelos de manera sutil.

Por ejemplo, Martin utilizó el ejemplo de una herramienta de reconocimiento de imágenes que tiene como objetivo identificar el género de las personas en las imágenes. La mayoría de las bibliotecas de archivo tienen porcentajes más altos de imágenes de mujeres en las cocinas que de hombres, por lo que el algoritmo se entrenará para esperar que las mujeres aparezcan en las imágenes de las cocinas. Este no es un problema con el algoritmo. No hubo intenciones maliciosas por parte del desarrollador. El algoritmo simplemente codificó un sesgo preexistente.

Para corregir el sesgo, debe tener en cuenta que surge de los datos y debe corregir el sesgo que existe en los datos.

Cheryl MartínAlegion

Martin dijo que abordar este tipo de sesgo algorítmico inconsciente requiere que los usuarios seleccionen conjuntos de datos antes de usar los datos en los algoritmos de entrenamiento para garantizar una representación equitativa. Los ingenieros también deben revisar los resultados de los algoritmos y verificar si hay sesgos aparentes antes de lanzar herramientas de IA al mundo.

«Para corregir el sesgo, debe ser consciente de que surge de los datos y debe corregir el sesgo que existe en los datos», dijo Martin.

Construye un equipo diverso

Para Sanjay Srivastava, director digital de la consultora Genpact, la creación de equipos diversos también ayuda a abordar el problema del sesgo inconsciente. Involucrar a personas que provienen de diferentes orígenes puede ayudar a un equipo a identificar posibles casos de uso de borde o brechas en los datos de entrenamiento que podrían hacer que un servicio de IA funcione mejor para ciertas poblaciones que otras.

Dijo que la clave para eliminar el sesgo algorítmico inconsciente es obtener una visión amplia de cómo funciona su herramienta y qué pretende lograr. Solo entonces puede ver las áreas en las que se queda corto.

«Tienes que tener gente que pueda aportar sentido común y estar en sintonía con los problemas políticos y el contexto histórico», dijo Srivastava. «Hay que tener una diversidad de antecedentes para captar ese matiz».

Una herramienta de reconocimiento de imágenes puede aprender el sesgo de los datos de entrenamiento.
Los algoritmos de IA aprenden de lo que ven, incluso cuando está sesgado.

Srivastava dijo que examinar cada herramienta de inteligencia artificial en busca de posibles sesgos inconscientes requiere una compensación. Por un lado, los ingenieros están bajo presión para entregar rápidamente productos funcionales a las unidades de negocio, ya que el tiempo de comercialización suele ser un factor. Pero, por otro lado, involucrar a equipos amplios y hacer esfuerzos para eliminar los prejuicios puede llevar mucho tiempo. A medida que el tema del sesgo inconsciente crece en importancia, espera que más empresas descubran cómo lograr este equilibrio.

«Sería difícil encontrar empresas que no trabajen con prejuicios conscientes», dijo. «El problema es el sesgo inconsciente. Creo que el futuro de la IA es muy brillante. Habrá obstáculos en el camino, pero hay que aprender, y creo que es importante estar alerta».

Deja un comentario

También te puede interesar...

Usos de ejemplo de SQL OUTER JOIN

Debido a que OUTER JOIN le permite ver no solo las filas coincidentes sino también las que no coinciden, es excelente para averiguar cuáles, si las hay, filas en una tabla no tienen una fila

Gestión de terminales en un mundo COVID-19

Los empleados que se ven obligados a trabajar desde casa debido a la pandemia de coronavirus están utilizando una variedad de dispositivos conectados a Internet, incluidos teléfonos inteligentes, tabletas, altavoces inteligentes y computadoras tanto de

Por qué las ciudades deben ser inteligentes con IoT

Las predicciones sobre el surgimiento de ciudades «más inteligentes» están ganando impulso en la conversación popular. Visualice una red de sensores de la ciudad que capture datos para optimizar mejor los procesos y reaccionar a

Científico de la NASA reinventa la rueda (silla)

El nuevo diseño de rueda de Salim Nasser, ingeniero, inventor y tetrapléjico de la NASA, puede reducir lesiones por estrés repetitivo que enfrentan muchos usuarios de sillas de ruedas. Informes de ciencia popular. Con sillas

Cómo dividir un archivo AVI

¿Necesita dividir un archivo AVI en dos o más partes para poder subirlo a YouTube o copiarlo en disquetes y memorias USB, pero no quiere perder el tiempo volviendo a codificar su video? No hay

Definición de subempleo

¿Qué es el subempleo? El subempleo es una medida del empleo y el uso de la mano de obra en la economía, que examina qué tan bien se usa la mano de obra en términos

Definición de comercio de lavado

¿Qué es el comercio de lavado? El comercio de lavado es un proceso mediante el cual un comerciante compra y vende un valor con el propósito expreso de proporcionar información engañosa al mercado. En algunos