Krypton Solid

La última tecnología en raciones de 5 minutos

¿Qué es la responsabilidad algorítmica? – Definición de Krypton Solid

La responsabilidad algorítmica es el concepto de que las empresas deben ser responsables de los resultados de sus algoritmos programados. El concepto va de la mano con la transparencia algorítmica, que requiere que las empresas sean abiertas sobre el propósito, la estructura y las acciones subyacentes de los algoritmos utilizados para buscar, procesar y entregar información.

Como producto de los seres humanos, los algoritmos pueden tener problemas derivados del sesgo humano o la simple supervisión. Se promueve la rendición de cuentas algorítmica como una forma de ayudar a que se reconozcan y corrijan estos problemas.

El sesgo humano y la supervisión en los algoritmos pueden causar problemas no deseados e incluso peligrosos en los sistemas de IA. Algunos errores en el desarrollo de la IA se han vuelto de dominio público. El software de reconocimiento facial de Google, por ejemplo, etiquetó a algunas personas negras como gorilas, lo que creó problemas de relaciones públicas. Como resultado de un algoritmo defectuoso, el automóvil autónomo de Uber pasó una señal de alto.

Más allá de la vergüenza o el insulto a las personas, los problemas con los algoritmos pueden ser peligrosos. Se advierte a los conductores, por ejemplo, que no se desvíen para evitar animales pequeños. Usando el mismo algoritmo defectuoso, un automóvil autónomo podría no reconocer a un niño pequeño como humano y, como resultado, golpearlo.

Las prácticas para prevenir problemas en los algoritmos que provocan sesgos y errores incluyen pruebas más extensas en el lado del desarrollo, particularmente para sesgos. En el caso de los vehículos autónomos, eso podría significar realizar pruebas para detectar problemas con el reconocimiento de las minorías.

Para que el código sea auditado, debe tener al menos una transparencia calificada, lo que significa que está disponible para la inspección de terceros. Tal inspección puede ser realizada por un organismo regulador si los algoritmos no son de código abierto y están abiertos a la inspección pública.

El principal obstáculo para lograr la responsabilidad algorítmica no es cómo lograrlo, sino cómo hacer que las empresas acepten la responsabilidad legal y ética por ello.

Deja un comentario

También te puede interesar...

Autodesk apuntado en el hack de SolarWinds

Autodesk fue el objetivo del pirateo de la cadena de suministro de SolarWinds que se reveló en diciembre pasado, pero solo reveló dicho objetivo en una presentación reciente de 10-Q. El desarrollador de AutoCAD lanzó

MS retrocede forzando actualizaciones

Las dos últimas actualizaciones de funciones de Win10 (1803 y 1809) han tenido problemas. También ha habido muchas quejas de los usuarios comerciales sobre las actualizaciones. Finalmente, Microsoft está cambiando su postura sobre impulsar actualizaciones.

¿Qué es el vicio ricardiano?

El vicio ricardiano se refiere a la construcción de modelos abstractos y fórmulas matemáticas con suposiciones poco realistas. En términos más simples, el vicio ricardiano es la tendencia de los economistas a crear y probar

Nokia N86 incluye una potente cámara digital

Hay una nueva adición a lista de los mejores teléfonos con cámara en el mercado: el Nokia N86. Lanzado esta semana, el teléfono inteligente de 5.2 onzas cuenta con una cámara de 8 megapíxeles, una

Definición de llamada de desastre

¿Qué es una llamada de desastre? Una llamada de desastre es una disposición de llamada de bonos municipales que permite la redención anticipada del instrumento si ocurre un evento catastrófico y daña gravemente el proyecto

Reducción de bonos

¿Qué es un descuento en bonos? El descuento de bonos es la cantidad por la cual el precio de mercado de un bono es menor que el monto principal adeudado al vencimiento. Esta cantidad, llamada

Sistema de Garantía Temporal de Liquidez (TLGP)

¿Qué es el Sistema de Garantía Temporal de Liquidez (TLGP)? El Programa de Garantía de Liquidez Temporal (TLGP) fue un rescate directo del sector bancario establecido en 2008 por la Corporación Federal de Seguros de

Revelado: secretos del éxito de la subcontratación

Aviva y Diageo son audiencias cautivas Las multinacionales británicas revelaron esta semana su relación a veces difícil con la subcontratación y describieron cómo la deslocalización les ayuda a sobrevivir a la recesión. Aviva Global Services

Venta corta en India

¿Qué es la venta corta? Los inversores experimentados probablemente saben un par de cosas sobre las ventas en corto. Pero si usted es un inversionista principiante, es posible que se esté rascando la cabeza y

Las amenazas de DNS emergen como un escollo de IoT

Los profesionales de TI no deben pasar por alto las amenazas de DNS creadas por los riesgos de seguridad de IoT cuando introducen dispositivos de IoT en su organización. IoT obtiene valor principalmente a través