"La Inteligencia Artificial explicable incrementa en un 200% el valor de la IA"

Fecha de publicación
Visualizaciones del artículo Leído  1110  veces
Tags del artículo

Carles Soler, CEO y co-fundador de la start-up Expai, explica como la IA explicable permite sacar el máximo partido a la inteligencia Artificial, una tecnología que cada vez será más común en los procesos analíticos de planta: permite modelos complejos y precisos, pero explicables y transparentes.

"La Inteligencia Artificial explicable incrementa en un 200% el valor de la IA"

¿Qué es la IA explicable?

La IA eXplicable (IAX) es la rama de la Inteligencia Artificial que explica el funcionamiento de los modelos de decisión. Son técnicas que nos permiten comprender el “razonamiento” que siguen los modelos, es decir, transparentizan las black-box. Gracias a ello podemos conseguir que la toma de decisiones sea transparente, justa y auditable.

Son ejemplos clásicos el sistema de ayuda a la toma de decisiones del sistema judicial americano que enviaba a los negros a la cárcel y a los blancos les aceptaba una fianza, o el de soporte a la contratación de personal de una gran corporación que contrataba hombres muy por encima de mujeres. Estos comportamientos sesgados se hubieran detectado mucho antes si se hubiera aplicado IAX en la creación de los modelos.

¿Nos puede detallar el concepto black-box model vs. white-box model?

Al referimos a la “transparencia” de los modelos de soporte a la toma de decisiones identificamos dos tipos: las cajas negras (black-box model) y las cajas blancas (white-box model).

Una caja blanca se refiere a un modelo de IA cuyo razonamiento se puede entender, ya sea porque lo hemos codificado conociendo el algoritmo de toma de decisión o porque se ha construido utilizando una arquitectura simple, como por ejemplo la regresión lineal.

Una caja negra se refiere a un modelo de IA del cual no entendemos su proceso de toma de decisión. Se construye utilizando algoritmos complejos o mediante procesos de aprendizaje neuronal (deep learning), los cuales tienen una gran capacidad para encontrar patrones ocultos en datos históricos y aprender de ellos. Esto les permite hacer predicciones de manera precisa para datos futuros.

Idealmente, nos gustaría poder utilizar siempre modelos de caja blanca, pero son técnicas muy sencillas y no permiten predecir adecuadamente la mayoría de los problemas que encontramos en la vida real. Para ellos debemos recurrir a modelos más complejos que, aunque funcionan razonablemente bien, son opacos, lo cual puede ocultar errores y, en general, produce desconfianza. Gracias a la IAX podemos acceder a lo mejor de los dos mundos. Modelos complejos y precisos, pero explicables y transparentes.

¿Qué beneficios aporta a la empresa industrial la IA explicable?

Los modelos de toma de decisión basados en IA están entrando con fuerza en muchos sectores, evidentemente también en las empresas industriales.

Disponer de una solución IAX permite que todas las personas implicadas en el proceso entiendan en todo momento las decisiones propuestas por los modelos IA. A partir de ese conocimiento podemos, en primer lugar, optimizar su funcionamiento, lo cual implica optimizar los resultados y ser más eficiente. Además, podemos identificar sesgos o errores heredados de los datos iniciales. Todo ello redunda en una mayor confianza de los usuarios hacia las predicciones propuestas por los modelos, por lo que las decisiones apoyadas en estos algoritmos son mejores.

Recientemente IBM realizó un estudio para, más allá del concepto, cuantificar los resultados de la IAX. Según ese estudio, el resultado económico de utilizar la IAX incrementa en un 200% el valor obtenido de simplemente utilizar modelos IA. Personalmente me parece una cifra dudosamente alta, pero si lo dice IBM, no pienso llevarles la contraria.

¿Cómo implementa EXPAI la IA eXplicable en la empresa industrial?

En EXPAI hemos desarrollado una solución IAX muy flexible y de fácil uso e interpretación, que tanto puede instalarse en la infraestructura del cliente como ser accedida vía SaaS. Nuestra solución web ofrece una interfaz gráfica muy cómoda de utilizar, pero también puede integrarse en las aplicaciones personalizadas del cliente vía API.

Más allá de este uso estándar, la solicitud de un fabricante de maquinaria de instalar nuestra solución no en la infraestructura corporativa sino dentro de cada una de sus máquinas para poder entender en profundidad el porqué de las alarmas que se podían disparar durante su uso nos permitió descubrir la flexibilidad de nuestra solución.

A nivel de arquitecturas tecnológica ¿qué compatibilidad técnica ofrece la tecnología de EXPAI?

Actualmente EXPAI es compatible con la mayoría de modelos de IA (Scikit-Learn, TensorFlow, XGBoost…) y con la mayoría de bases de datos (SQL, MySQL, Oracle…). Si en algún proyecto nos encontramos algún requerimiento muy específico, nuestro equipo técnico adapta la solución a las necesidades del cliente.

¿En qué tipos de procesos la plataforma aporta su máximo potencial?

La respuesta a esta pregunta no es tecnológica, sino de negocio. Dado que la IAX es aplicable a cualquier modelo IA, el máximo potencial se obtiene cuando la IA se aplica a procesos de alto impacto para la organización, ya sea en el ámbito de producción, comercial o de gestión. La explicabilidad optimiza el resultado de los modelos IA, cuánto más core para la organización sea el ámbito dónde los aplica, mejor.

¿Cómo funciona la plataforma: por suscripción, licencia…?

Como en tantas otras soluciones software, EXPAI es accesible mediante una licencia de uso renovable anualmente.

¿Qué perspectivas de crecimiento tiene EXPAI?

La IAX es una tecnología con un gran potencial que acaba de aparecer en el mercado, así que las perspectivas de crecimiento son muy altas. Más allá de la simple intuición, esta afirmación está siendo refrendada por la respuesta del mercado y del venture capital, ya que en breve empezaremos conversaciones para una primera ronda de inversión y el interés generado está siendo muy elevado.

Más información

  • Nombre
    Carles Soler
  • Cargo
    CEO & Co-Founder
  • Empresa
    Expai