Krypton Solid

La última tecnología en raciones de 5 minutos

Las regulaciones de GDPR dan prioridad a la IA transparente

Las nuevas regulaciones GDPR de la Unión Europea podrían cambiar la forma en que las empresas crean algoritmos para tomar decisiones, particularmente cuando se trata de construir aplicaciones transparentes de IA.

«GDPR afectará a todas las industrias y tiene ramificaciones particularmente relevantes para los desarrolladores de inteligencia artificial y las empresas habilitadas para la inteligencia artificial», dijo Dillon Erb, director ejecutivo de Paperspace Co., un proveedor de nube de inteligencia artificial.

La explicabilidad de la IA es un tema candente, especialmente para el aprendizaje profundo y el aprendizaje automático opaco, dijo Will Knight, editor senior de IA en Revisión de tecnología del MIT. La mayor parte de la legislación GDPR se centra en garantizar que las empresas obtengan el consentimiento de los usuarios antes de procesar sus datos, pero también hay aspectos de la ley que otorgan a las personas el derecho a saber cómo una empresa tomó una decisión utilizando sus datos. Esto se aplica incluso cuando una empresa tiene acceso legítimo a esos datos personales.

«No es posible, ni es legal, decirle a un cliente que su transacción financiera fue rechazada simplemente porque el modelo lo dijo», dijo Chad Meley, vicepresidente de marketing de Teradata.

Impacto de la IA transparente

Estos requisitos podrían afectar los tipos de algoritmos de inteligencia artificial utilizados por las empresas, los datos de capacitación utilizados para construirlos y el proceso de documentación del proceso de desarrollo. Las empresas también deberán asegurarse de que los seres humanos participen en las decisiones automatizadas.

El considerando 71, un documento complementario del RGPD, establece que las empresas deben poder explicar cómo se utilizan los algoritmos para tomar decisiones. Específicamente menciona poder explicar, «la existencia de toma de decisiones automatizada y, al menos en esos casos, información significativa sobre la lógica involucrada, así como la importancia y las consecuencias previstas de dicho tratamiento para el interesado». Las empresas tendrán que descubrir cómo traducir el complicado razonamiento dentro de las canalizaciones de IA a un lenguaje simple.

«El desafío es que los requisitos de GDPR no definen qué es una explicación satisfactoria o cómo las empresas deben determinar estas explicaciones «, dijo Vikram Mahidhar, líder de crecimiento de inteligencia artificial en la firma de servicios profesionales Genpact.» Aún así, incluso sin esta regulación pendiente de la UE, el uso responsable de la IA es una preocupación que toda empresa debe tener en cuenta «.

¿Cuándo es necesaria la transparencia en la IA?

Esta necesidad de explicar las decisiones impulsadas por la inteligencia artificial se aplicará principalmente a las decisiones que tienen un impacto significativo en la vida de una persona. Las aplicaciones como la puntuación de clientes potenciales, los motores de recomendación de productos y la detección de fraudes podrían quedar fuera de la rúbrica.

Es probable que la aplicación se vea impulsada por quejas y solicitudes en respuesta a las consultas de los consumidores, tales como:

  • ¿Por qué las tarifas de mi seguro son más altas que las de mi vecino?
  • ¿Por qué me negaron un préstamo o una tarjeta de crédito?
  • ¿Por qué se rechazó mi solicitud de empleo?
  • ¿Por qué se rechazó un tratamiento médico?

La interpretabilidad del modelo es un desafío clave porque las técnicas de aprendizaje profundo dificultan la explicación de cómo un modelo llegó a una conclusión: la información que usa para tomar decisiones está escondida literalmente en capas ocultas. Si bien la salida de un modelo puede parecer en ocasiones autoexplicativa, como cuando los algoritmos identifican imágenes correctamente, en otros casos, puede ser completamente opaca.

«La capacidad de explicar estos modelos es a menudo un imperativo, especialmente en los casos en que existen leyes que impiden decisiones basadas en datos que pueden considerarse discriminatorias, por ejemplo, aprobar o denegar un préstamo, o cuando existe una exposición significativa a litigios. – por ejemplo, diagnóstico médico «, dijo Meley.

Los investigadores trabajan para mejorar la interpretabilidad del modelo.

Aunque lejos de resolverse, hay varios enfoques que las empresas están utilizando para abordar el problema de la IA transparente. Uno involucra un método llamado LIME (Explicaciones agnósticas del modelo interpretable local), un cuerpo de investigación de código abierto producido por la Universidad de Washington. LIME arroja luz sobre las variables específicas que activaron el algoritmo en el punto de su decisión y produce esa información en un informe legible.

tipos de datos personales bajo las regulaciones GDPR
Las aplicaciones de IA deben considerar estos tipos de datos personales.

Otro ejemplo es la iniciativa de Inteligencia Artificial Explicable de DARPA, que aumenta la IA transparente al introducir modelos, técnicas e interfaces explicables con las que los usuarios pueden interactuar.

En el caso de fraude, conocer esta información puede brindar seguridad desde un punto de vista regulatorio, así como ayudar a la empresa a comprender cómo y por qué ocurre el fraude, según Meley.

Comprenda el comportamiento de sus datos

Los ingenieros de datos deben evaluar el comportamiento de los datos que se mueven a través de las canalizaciones de IA. Algunos enfoques de IA, como la comprensión del lenguaje natural y, en particular, la lingüística computacional, se pueden implementar de una manera que garantice que haya una trazabilidad que rastree y proporcione transparencia a las recomendaciones que hacen las máquinas.

Sin embargo, el seguimiento y seguimiento de estas decisiones a menudo no es suficiente. Las empresas necesitan una estructura de gobierno más completa con tecnologías más avanzadas, como redes neuronales que no permiten la trazabilidad.

«La clave es comprender completamente el comportamiento de sus datos», dijo Mahidhar de Genpact.

No se trata solo de implementar algoritmos de IA; se trata de construirlos con ingeniería de datos efectiva en primer lugar.

Las mejores prácticas para crear aplicaciones transparentes de IA incluyen documentar las suposiciones sobre la integridad de los datos, abordar los sesgos de datos y revisar las nuevas reglas identificadas por la máquina antes de la implementación.

Si usa el aprendizaje automático para identificar anomalías, puede establecer controles y equilibrios para probar manualmente y determinar si los resultados tienen sentido, dijo Mahidhar. Al diseñar y probar la IA, también es importante involucrar a personas con una comprensión detallada de los procesos y los problemas de la industria. La experiencia en el dominio humano es esencial.

Compensaciones algorítmicas

Las empresas también deben considerar cuándo usar qué tecnología de inteligencia artificial para qué procesos. Por ejemplo, las redes neuronales no son adecuadas para funciones en las que la trazabilidad es fundamental. Sin embargo, a veces el rendimiento y la velocidad pueden tener prioridad sobre el seguimiento detallado de las decisiones de IA, dijo Mahidhar.

Por ejemplo, si un banco sospecha de lavado de dinero, puede usar redes neuronales como inteligencia aumentada avanzada para analizar rápidamente millones de puntos de datos y conectar los puntos mucho más rápido de lo humanamente posible, reduciendo el campo para el análisis humano.

«Es posible que las empresas tengan que sacrificar el rendimiento sobre la explicabilidad», dijo Venkat Ramasamy, director de operaciones de CodeLathe, un servicio de gestión de datos.

Por ejemplo, los científicos de datos pueden identificar un modelo que tiene un 95% de precisión pero no explicable, y otro con un 90% de precisión pero buena explicabilidad. Los gerentes y los oficiales de protección de datos deberán establecer políticas para abordar estas compensaciones y garantizar que estas políticas se sigan en todo el proceso de desarrollo de la IA.

Documentar todo

Otro componente de GDPR relevante para la inteligencia artificial y el aprendizaje automático es que ninguna persona debe estar sujeta a una decisión basada únicamente en el procesamiento automatizado.

«A primera vista, esto parecería excluir el uso de inteligencia artificial y aprendizaje automático para el procesamiento de datos personales», dijo Derek Slager, director de tecnología y cofundador de Amperity, una plataforma de datos de clientes que utiliza el aprendizaje automático para segmentar los clientes. «Sin embargo, una mirada más profunda revela que este no es el caso».

Los científicos de datos podrían argumentar que el uso de IA requiere entrenamiento, ajuste y cuidado, y alimentación para ser realmente efectivo, y que el modelo debe ser diseñado, implementado y operado por personas. Documentar el proceso mediante el cual esto ocurre para que sea fácilmente explicable a un regulador será fundamental en los esfuerzos de cumplimiento.

«Estamos trabajando para agregar transparencia y reproducibilidad al aprendizaje automático y la canalización de la inteligencia artificial, y esperamos que esto sea más relevante que nunca a medida que las empresas trabajan para cumplir», dijo Erb de Paperspace. Esto implica saber exactamente qué datos producen ciertas predicciones y comprender cómo funcionan estas predicciones en la práctica con datos del mundo real frente a conjuntos de datos de entrenamiento.

Deja un comentario

También te puede interesar...

Banco Europeo de Inversiones (BEI)

¿Qué es el Banco Europeo de Inversiones? El Banco Europeo de Inversiones (BEI) es una institución sin fines de lucro de la Unión Europea con sede en Luxemburgo, que otorga préstamos, garantías y brinda asistencia

Cómo ganar dinero con las redes sociales

con la apariencia red social no solo ha cambiado la forma en que nos comunicamos, sino también la forma en que publicitamos productos, servicios y bienes de consumo. Las empresas, después de sentir el «poder»

Definición de cuello blanco.

¿Qué es un cuello blanco? Un trabajador de cuello blanco pertenece a una clase de empleados conocidos por ganar salarios promedio más altos haciendo un trabajo altamente calificado, pero no haciendo trabajo manual en el

Propiedad institucional: pros y contras

Debido a que instituciones como los fondos mutuos, los fondos de pensiones, los fondos de cobertura y las firmas de capital privado tienen grandes sumas de dinero a su disposición, su participación en la mayoría

Fondo de índice mejorado (FEI)

¿Qué es un fondo indexado mejorado (EIF)? Un fondo indexado mejorado es un fondo que busca mejorar los rendimientos de un índice mediante el uso de una gestión activa para cambiar las ponderaciones de tenencia

definición de subasta holandesa

¿Qué es una subasta holandesa? Una subasta holandesa es una estructura de mercado en la que el precio de un artículo ofrecido se determina después de que se hayan recibido todas las ofertas para alcanzar

Trump parece saber que es Bitcoin y no le gusta

El presidente Donald Trump se tomó un tiempo en la noche para publicar en Twitter sobre las criptomonedas hoy, anunciando al mundo que «no es un fanático» de Bitcoin y otras criptomonedas porque «su valor

Compras de UXC para estimular los servicios de SAP

El proveedor de servicios australiano UXC se ha movido para aumentar su experiencia en el suministro de soluciones SAP al adquirir la consultoría especializada de Oxygen de la empresa de productos forestales diversificados de Nueva

Definición de contratación

¿Qué son las compras? La adquisición es el acto de obtener bienes o servicios, generalmente con fines comerciales. Las compras se asocian más a menudo con los negocios, ya que las empresas tienen que solicitar

Microsoft Firefox Surprise | Krypton Solid

El anuncio de Microsoft de un Complemento OOXML para Firefox es uno de esos momentos intrigantes en los que una pequeña parte del futuro se eleva a través del suelo invernal. El complemento no fue

Definición de la cuenta multidisciplinar

¿Qué es una cuenta multidisciplinar? Una cuenta multidisciplinaria se refiere a una cuenta de inversión administrada a la que pueden acceder varios administradores de inversiones con diferentes especializaciones. Se componen de una serie de subcuentas,

¿Funcionarán las etiquetas RFID en Marte?

Según Computerworld, la NASA comenzará a probar este verano si La tecnología RFID puede sobrevivir en el espacio exterior. Una variedad de etiquetas RFID estarán en el transbordador espacial Endeavour en julio durante un viaje