Krypton Solid

La última tecnología en raciones de 5 minutos

La combinación de blockchain e IA hace que los modelos sean más transparentes

La rápida aparición y uso de la IA en situaciones críticas para la misión y el negocio está llevando a los equipos de gestión a considerar cuestiones de confianza. Esto es especialmente cierto cuando los sistemas de aprendizaje automático se utilizan para tomar decisiones que tienen ramificaciones particularmente graves.

Por ejemplo, el problema surge con los vehículos autónomos que necesitan tomar decisiones en una fracción de segundo, con sistemas basados ​​en inteligencia artificial que toman decisiones de reclamos de préstamos o seguros, y con herramientas que se utilizan para sentenciar a los convictos o determinar los montos de las fianzas.

En cada una de estas situaciones y otras, los humanos confían en las máquinas para tomar decisiones que pueden tener resultados significativos y potencialmente dañinos. Pero si bien sus procesos de toma de decisiones son opacos hoy en día, existe la esperanza de que la combinación de blockchain e IA pueda hacer que los sistemas de aprendizaje sean más interpretables.

La demanda de sistemas de IA explicables

No es de extrañar que quienes implementan, administran y gobiernan los sistemas de inteligencia artificial piden que esos sistemas proporcionen algún tipo de método de verificación inherente para comprender cómo se toman las decisiones. Sin embargo, la aparición de enfoques de aprendizaje profundo está causando problemas a este respecto.

Parte del poder de las redes neuronales de aprendizaje profundo es su capacidad para crear vías probabilísticas de asociaciones entre una entrada determinada (una imagen, por ejemplo) y la salida deseada, como reconocer la imagen como un gato. Sin embargo, la conexión exacta entre estas entradas y salidas es difícil de examinar y comprender para los humanos. De hecho, en un artículo reciente en el Revisión de tecnología del MIT, los principales científicos de IA lamentan cómo no saben realmente por qué estos algoritmos funcionan tan bien o cómo se pueden mejorar.

Como tal, los líderes de la inteligencia artificial exigen que los sistemas que dependen de la toma de decisiones basada en el aprendizaje automático tengan la explicabilidad incorporada como un requisito y característica central de estos sistemas.

La Agencia de Proyectos de Investigación Avanzada de Defensa de los Estados Unidos (DARPA) lanzó una iniciativa de inteligencia artificial explicable con al menos 11 agencias de investigación, contratistas e instituciones diferentes que tiene como objetivo «producir modelos más explicables, mientras se mantiene un alto nivel de … precisión de predicción … y permitir que los usuarios humanos comprendan, confíen adecuadamente y administren de manera efectiva la generación emergente de socios artificialmente inteligentes «.

Sin embargo, aunque este proyecto ha estado en curso desde 2016, los entregables iniciales y la primera prueba de concepto no se planean al menos durante otros 18 meses, y algo que se pueda implementar ampliamente no se planea hasta 24 meses después. Los fabricantes de vehículos autónomos, las compañías de seguros y otros que buscan hacer uso de sistemas de inteligencia artificial confiables y explicables no están dispuestos a esperar tanto.

IA y blockchain: ¿súper exagerado o súper útil?

Al igual que la IA, otra tecnología que actualmente está en el ciclo de las exageraciones es blockchain. Popularizado por las criptomonedas, blockchain ofrece un registro de transacciones descentralizado, distribuido e inmutable que se puede utilizar en una amplia gama de casos de uso.

En una cadena de bloques, los registros de transacciones se distribuyen a registros de transacciones individuales descentralizados donde cada transacción está vinculada a la anterior, y se requieren pasos de verificación intensivos en computación combinados con el consenso general del sistema para verificar la legitimidad de una transacción. Esto ofrece una combinación única de control descentralizado, confianza y verificabilidad que promete interrumpir los sistemas donde se requiere confiabilidad en las transacciones entre partes.

Por ejemplo, la empresa de aprendizaje automático SingularityNet está considerando el uso de blockchain como una forma de registrar las decisiones que toman los sistemas de aprendizaje automático y compartir el aprendizaje mejorado de los modelos de redes neuronales entrenados con todos los participantes en el blockchain.

Hay algunos beneficios clave de este enfoque. Primero, el aprendizaje incremental se explica en el sentido de que las decisiones se propagan en la red. Las decisiones son inmutables porque, en el caso de un incidente, ningún tercero puede alterar los registros. Además, debido a que el libro mayor de blockchain está descentralizado, ninguna parte tiene autoridad o control sobre él, lo que elimina el espectro de los proveedores que poseen la infraestructura y bloquea a los rivales.

Blockchain e IA: seguro, explicable, transparente

Otra razón por la que las empresas están considerando la combinación de blockchain e IA es para aumentar la seguridad de los sistemas colocando aspectos clave de la toma de decisiones en blockchain en lugar de sistemas de aprendizaje automático individuales. Lo que esto significa es que cuando un sistema que utiliza el aprendizaje automático toma una decisión, todos los factores que intervinieron en esa decisión, junto con la decisión en sí, se publican en una cadena de bloques, que se comparte con todas las partes. De esta manera, si algo sale mal, la cadena de bloques se puede inspeccionar junto con las decisiones utilizadas para identificar la causa raíz de cualquier falla o problema.

Además, el uso de contratos inteligentes para ejecutar tareas automáticamente cuando se cumplen ciertas condiciones previas en la cadena de bloques es prometedor en muchos escenarios específicos de IA. Las empresas de la industria de la salud y los seguros están buscando contratos inteligentes para aprobar reclamaciones o compartir información de una manera verificable y confiable. En lugar del código de toma de decisiones en una caja negra en un servidor en el centro de datos de una empresa, la lógica de decisión específica se almacena como un contrato inteligente en una cadena de bloques que puede ser inspeccionada y verificada por todas las partes.

La desventaja de usar blockchain es su ineficiencia inherente. Los protocolos de blockchain no están optimizados para la velocidad o la eficiencia informática. En realidad, esta es una característica del sistema, no un error. Como tal, los sistemas blockchain no se pueden colocar en el flujo de ejecución de la toma de decisiones sin ralentizar el proceso.

El resultado es que un sistema de cadena de bloques utilizado en IA se convierte en una especie de registro que registra lo que sucedió y se puede revisar después del hecho, pero que no se puede usar para explicar algo antes o mientras está sucediendo. Los operadores humanos no podrán inspeccionar una decisión antes de que suceda, a menos que la decisión se pueda tomar con tiempo suficiente para que la cadena de bloques registre la actividad y para que el humano apruebe o modifique la decisión.

IA explicable y habilitada para blockchain aplicada a la atención médica

A pesar de la naturaleza temprana y algo exagerada de la combinación de blockchain e IA, empresas como IBM la están aplicando a la atención médica y otras áreas que exigen un alto grado de explicabilidad y verificabilidad.

El director científico de IBM Watson Health, Shahram Ebadollahi, anunció en el Fast Company Innovation Festival del año pasado que la compañía se asociaría con los Centros para el Control y la Prevención de Enfermedades y la Administración de Alimentos y Medicamentos (FDA) para agregar capacidades de blockchain a las iniciativas de IA de IBM Watson centradas en cuidado de la salud.

«La nueva asociación complementará una colaboración existente entre IBM Watson y la FDA, brindando a IBM información adicional sobre cómo blockchain, junto con la inteligencia artificial, podría revisar la forma en que las partes interesadas extraen significado del abrumador volumen de big data en la industria», Ebadollahi dijo.

Con las grandes empresas, proveedores y agencias gubernamentales que ingresan al mercado con herramientas destinadas a mejorar la explicabilidad, tal vez la industria supere a DARPA en un enfoque realista para la inteligencia artificial explicable que aproveche blockchain y otros enfoques. Las empresas e industrias que no pueden permitirse el lujo de utilizar la tecnología de caja negra en sus procesos críticos de toma de decisiones tienen pocas opciones si quieren el poder y la utilidad que promete la IA.

Deja un comentario

También te puede interesar...

Telstra ha sido procesado por infracción de patente

Empresa titular de la patente de comercio móvil Sistema de pago entabló una acción contra Telstra en el Tribunal Federal de Australia por una presunta infracción de patente. Las dos patentes supuestamente infringidas se relacionan

¿Qué es VMware vCloud Hybrid Service (vCHS)?

VMware vCloud Hybrid Service (vCHS) es una oferta de infraestructura como servicio (IaaS) basada en el hipervisor VMware vSphere. vCHS presenta tres servicios IaaS: nube dedicada, nube privada virtual y recuperación ante desastres como servicio

Contención de pasillo caliente del centro de datos de APC

Mientras tanto, APC vende un producto de contención de pasillo caliente preempacado. Recientemente, los funcionarios de Liebert y APC discutieron cuál es mejor: contención de pasillo caliente o contención de pasillo frío. Foto cortesía de

Walgreens Boots Alliance Opciones Distribuidores Ver arriba

Precio de las acciones de Walgreens Boots Alliance, Inc. (WBA) interrumpió recientemente su racha ganadora después de que la compañía reportara ganancias para el primer trimestre fiscal. Walgreens superó las expectativas de los analistas tanto

Definición de retraso dinámico

¿Qué es una brecha dinámica? El retraso dinámico es una forma de medir la brecha entre los activos y pasivos actuales de un banco. La brecha siempre se amplía y se contrae debido a los

La ventana actúa como un panel solar.

Nueva tecnología de Pitágoras solar resultó en el desarrollo de lo que la compañía llama “la primera unidad de vidrio fotovoltaico de alta potencia, transparente y energéticamente eficiente. El nuevo producto podría aparecer en muros

Juegos de Aviones | Krypton Solid

¿Siempre has soñado con volar un avión y surcar los cielos de todo el mundo? Entonces apuesto a que no menospreciarías la posibilidad de jugar a unos simuladores de vuelo que reproducen fielmente, en el

Concurso online NanoArt desde 2008

Ese el año pasado, Ha comenzado el concurso internacional en línea NanoArt. En caso de que no lo recuerdes, NanoArt es «una nueva disciplina de arte relacionada con las micro / nanoesculturas creadas por artistas

VPN SSL para acceso remoto

Las redes privadas virtuales creadas en la capa de conexión segura (SSL) de la Web se consideran la mejor manera de brindar a los empleados y socios comerciales acceso a las aplicaciones corporativas. Aventail, uno