Krypton Solid

La última tecnología en raciones de 5 minutos

Seguridad del bot a través de la apertura de la IA

En estos días, es fácil aprovechar los sistemas de inteligencia artificial como chatbots, asistentes virtuales y agentes conversacionales …

Es casi un reflejo convocar a Alexa o Siri para responder una pregunta o chatear por teléfono con una voz automatizada que intenta ayudar a arreglar el Wi-Fi.

Sin embargo, ¿cómo sabemos que estos sistemas están realmente dispuestos a ayudarnos? ¿Cómo evaluamos la confiabilidad de un bot? Aquellos preocupados por la seguridad de los bots con frecuencia plantean este tipo de preguntas. La respuesta, según algunas organizaciones, puede estar en una mayor apertura de la IA.

Con los sistemas de IA cada vez más avanzados, la identidad exacta o la confiabilidad de un sistema, o incluso un chatbot, se ha vuelto cada vez más difícil de discernir. Las preguntas que en la superficie parecen relativamente sencillas, como los motivos de un sistema, los tipos de datos que recopila y sus usos, o incluso quién es el creador, pueden ser mucho más confusas y confusas de lo que un consumidor promedio podría pensar.

La información nutricional de un bot

Esas son algunas de las razones por las que IBM está trabajando para crear hojas de datos para los servicios de IA para proporcionar a los consumidores información básica sobre varios sistemas de IA.

«Esto es extremadamente importante. Esto es extremadamente frecuente», dijo Costas Bekas, gerente del grupo Foundations of Cognitive Computing en IBM Research – Zurich, refiriéndose a la integridad del bot.

Costas Bekas, IBMCostas Bekas

El objetivo de las hojas de datos de IA, explicó Bekas, es proporcionar a los consumidores algo similar a una etiqueta de nutrición en los alimentos: una etiqueta que cubre la información básica sobre un producto y presenta información de seguridad importante para los usuarios.

La información en una hoja de datos puede incluir información sobre el entrenador del sistema, el conjunto de datos utilizados en la capacitación, la metodología de prueba, las políticas de sesgo que se verificaron y los tipos de gobernanza empleados para rastrear los datos que utiliza la IA. Las hojas de datos mantienen a los consumidores más informados y tal vez puedan crear una inteligencia artificial y seguridad de bots más efectivos, especialmente en un mundo en el que los bots pueden representar una amenaza de seguridad significativa.

Transparencia global

IBM no es la primera organización que sugiere aumentar la explicabilidad de la IA. Parte de la misión del nuevo reglamento GDPR de la Unión Europea, que entró en vigor a principios de este año, era aumentar la transparencia y permitir a los consumidores tomar decisiones mejor informadas. A lo largo de los años, varios científicos y analistas de inteligencia artificial han pedido una mayor responsabilidad de la inteligencia artificial y una mejor seguridad de la inteligencia artificial y los bots.

Esto es algo que no dejaremos que se salga de control.

Costas BekasIBM

Los expertos también han señalado los beneficios potenciales de combinar los sistemas de IA con la tecnología blockchain para aumentar la visibilidad de los procesos de IA. Es un sindicato en el que al menos una organización está trabajando ahora.

BotChain, una startup con sede en Boston derivada del fabricante de bots Talla Inc., espera reforzar la seguridad de los bots mediante la creación de un sistema para identificar y registrar bots.

Hay muchos bots que le dicen que están trabajando en su nombre, dijo Rob May, CEO de BotChain y Talla. «Bueno, ¿cómo sabes que están trabajando en tu nombre?»

Bots y bloques

Esencialmente, BotChain tiene como objetivo crear un ecosistema descentralizado para chatbots y desarrolladores de bots en blockchain que los consumidores puedan aprovechar y utilizar como una especie de mercado. La clave es que los bots en el ecosistema se registrarán, certificarán y recibirán una verificación continua, todo en nombre de la seguridad de los bots y la transparencia de la IA.

Para que los clientes interactúen con un bot, el bot debe estar autenticado, dijo May, de una manera que sea conceptualmente similar a los certificados de inicio de sesión único.

Rob May, BotChainRob May

La necesidad de vincular la inteligencia artificial a la cadena de bloques se demostró durante una demostración del asistente de voz de Google Duplex en un evento de Google a principios de este año durante el cual la inteligencia artificial de la organización reservó una cita por teléfono en tiempo real.

May dijo que después de la demostración, recibió una serie de mensajes de texto y correos electrónicos de personas preocupadas por la actividad fraudulenta de los bots debido a la posibilidad de que los bots se hicieran pasar por humanos.

Según May, las estafas de bots alguna vez fueron cosa del futuro. Hoy, sin embargo, «creo que ya estamos en el punto en que son una realidad».

Para Bekas en IBM, las cuestiones de seguridad de los bots y transparencia de la IA parecen trascender la competencia empresarial.

«Siempre nos esforzamos por el uso ético y justo de la inteligencia artificial», dijo. «Esto es algo que no dejaremos que se salga de control».

Deja un comentario

También te puede interesar...

Definición de pasivo por impuestos diferidos

¿Qué es un pasivo por impuestos diferidos? Un pasivo por impuestos diferidos es una lista en el balance de una empresa que registra los impuestos que vencen pero no vencen hasta una fecha posterior. La

He aquí cómo hacerlo bien la primera vez

Existe un problema fundamental con la estimación ágil. Averiguar qué entregará un equipo de software, y cuándo, consume un tiempo valioso del proyecto y no necesariamente da como resultado estimaciones precisas. Eso hace que el

¿Qué es AWS Mobile Hub?

AWS Mobile Hub es una colección de herramientas de Amazon Web Services diseñadas para ayudar a los desarrolladores a crear, probar, configurar y lanzar aplicaciones basadas en la nube para dispositivos móviles. AWS Mobile Hub

Orange ingresa datos de tarifa plana Krypton Solid

Orange ha introducido paquetes de datos móviles de tarifa fija por primera vez. Como informó anteriormente Krypton Solid UK en un blog, los clientes con contrato del operador podrán suscribirse a un paquete que les

«Errores» web en documentos de Office

Las imágenes pequeñas incrustadas en Word 2000, Excel 2000 o PowerPoint 2000 pueden rastrear quién lee qué y dónde a través de Internet. Richard Smith, el extraordinario gurú de la seguridad en Internet, lo volvió

Cómo personalizar iPhone | Krypton Solid

Estás cansado de tu fondo de pantalla predeterminado iPhone? ¿Quiere cambiar los botones en el Centro de control de iOS, pero no sabe cómo hacerlo? ¿Quiere personalizar su tono de llamada «iPhone con» pero no

Disponer de un software ERP ayuda a toda la empresa

El uso generalizado de software empresarial ha hecho que el software ERP sea el recurso ideal para cualquier tipo de negocio. Su adaptabilidad y sus características son solo dos características más destacables, pero antes de

Definición de riesgo sistémico

¿Qué es el riesgo sistémico? El riesgo sistémico es la posibilidad de que un evento en toda la empresa desencadene una inestabilidad severa o el colapso de toda una industria o economía. El riesgo sistémico

Veeam entra en una alianza en la nube con NextDC

Una nueva alianza estratégica entre Veeam y NextDC conducirá al centro de datos australiano como proveedor de servicios y promoverá los servicios de la base de datos de socios proveedores de nube (VCP) de Veeam