La IA ya ha cambiado la forma en que los consumidores interactúan con la tecnología y la forma en que las empresas piensan en grandes desafíos como la transformación digital.
Una investigación de la consultora GlobalData, a la que accedió iProUP, muestra que aproximadamente el 50% de los compradores que ya han dado prioridad a la adopción de las tecnologías de inteligencia artificial, y se espera que ese número para saltar a más del 67% en los próximos dos años.
Sin embargo, hay una creciente conciencia de que una buena IA es difícil de conseguir y tales decisiones. La IA puede aparecer como correcta, cuando en realidad alberga prejuicios invisibles, basado en datos incorrectos o incompletos.
Muchos aspectos de la inteligencia artificial como el aprendizaje profundo y los algoritmos que lo sustentan son, en esencia, una caja negra, que no puede revelar cómo y por qué una determinada decisión ha sido tomada.
En septiembre IBM tomó un paso importante por la introducción de herramientas, capaces de construir la confianza y la transparencia en la IA.
El Gigante Azul ha adoptado un enfoque operacional para el problema con sus nuevas capacidades de confianza y transparencia para la IA en IBM Cloud.
Estas nuevas herramientas evalúan la eficacia de un determinado modelo, basado en cómo la empresa espera que se comporte, lo que explica su eficacia y precisión en el lenguaje natural y de negocios.
Carolina Golia, arquitecta de Soluciones Cognitivas e Inteligencia Artificial de IBM, explicó a iProUP las características de esta tecnología que da a las organizaciones nueva transparencia en inteligencia artificial, permitiéndoles aprovechar más plenamente su potencial.
Este servicio de software, que detecta automáticamente el sesgo y explica cómo toma decisiones la IA (al mismo tiempo que se toman las decisiones), se ejecuta en la IBM Cloud y colabora con las organizaciones en la gestión de sistemas de IA de una amplia variedad de proveedores de la industria.
IBM Services también trabajará con las empresas para ayudarlas a aprovechar el nuevo servicio de software.
IBM Research lanzará a la comunidad de código abierto un kit de herramientas de mitigación y detección de prejuicios de inteligencia artificial, que presenta herramientas y educación para alentar la colaboración global en torno al tratamiento del sesgo en IA.
La importancia de estos desarrollos se observa cuando, por ejemplo, se aplica IA al proceso de autorización de un préstamo bancario. Los algoritmos pueden un sesgo que excluye a personas que viven en algún barrio, pese a que sus ingresos declarados le permitan aplicar a ese crédito.
Golia explicó que estos desarrollos se basan en una nueva investigación del Institute for Business Value de IBM, que revela que mientras que el 82% por ciento de las empresas considera realizar implementaciones de inteligencia artificial, el 60% teme problemas relacionados con la responsabilidad y el 63% carece del talento interno para administrar la tecnología con seguridad.
Según el estudio realizado con 5.000 ejecutivos de alto rango, se está produciendo un cambio significativo en cómo los líderes empresariales observan el potencial de IA para impulsar el valor de negocios y el crecimiento de los ingresos.
El 93% de las empresas de alto rendimiento están considerando o están avanzando en la adopción de la IA con un enfoque en la generación de ingresos.
Los directores generales ejecutivos (CEO) perciben que el mayor valor en la adopción de la IA está en tecnologías de la información (TI), seguridad de la información, innovación, servicio al cliente y gestión de riesgos.
La adopción de IA es más alta y es probable que se acelere más rápido en industrias más digitalizadas como los servicios financieros.
Según explicó Golia, las nuevas capacidades de confianza y transparencia en la IBM Cloud funcionan con modelos creados a partir de una amplia variedad de entornos de aprendizaje automático y entornos de construcción de inteligencia artificial como Watson, Tensorflow, SparkML, AWS SageMaker y AzureML.
Esto significa que las organizaciones pueden aprovechar estos nuevos controles para la mayoría de los marcos de IA más utilizados por las empresas.
El servicio de software también se puede programar para monitorear los factores de decisión únicos de cualquier flujo de trabajo de negocios, lo que permite personalizarlo para el uso específico de la organización.
El servicio de software totalmente automatizado explica la toma de decisiones, detecta el sesgo en los modelos de inteligencia artificial en tiempo de ejecución (a medida que se toman decisiones), y capta los resultados potencialmente injustos a medida que ocurren.
Golia destacó que la herramienta también recomienda automáticamente datos para agregar al modelo a fin de ayudar a mitigar cualquier sesgo que haya detectado.
Las explicaciones se dan en términos fáciles de entender y se muestran qué factores se ponderaron en la decisión en una dirección frente a otra, la confiabilidad en la recomendación y los factores detrás de dicha confiabilidad.
Además, los registros de la precisión, el rendimiento y la equidad del modelo, y el linaje de los sistemas de IA, se rastrean y recuerdan fácilmente por razones de servicio al cliente, normativas o de cumplimiento, como el cumplimiento de la regulación de protección de datos europea (GDPR).
Se accede a todas estas capacidades a través de tableros visuales, lo que brinda a los usuarios de negocios una capacidad incomparable para comprender, explicar y gestionar decisiones dirigidas por IA y reducir la dependencia de habilidades especializadas de inteligencia artificial.
Golia señaló que IBM también pone a disposición sus servicios de consultoría para ayudar a las empresas a diseñar procesos de negocios e interfaces humano-IA para minimizar aún más el impacto del sesgo en la toma de decisiones.
IBM Research pone a disposición de la comunidad de código abierto el conjunto de herramientas AI Fairness 360: una biblioteca de algoritmos, códigos y tutoriales que brindarán a los académicos, investigadores y científicos de datos herramientas y conocimientos para integrar la detección de sesgos a medida que construyen e implementan modelos de “machine learning”.
Mientras que otros recursos de código abierto se han centrado únicamente en comprobar el sesgo en los datos de capacitación, el kit de herramientas IBM AI Fairness 360 creado por IBM Research ayudará a verificar y mitigar el sesgo en los modelos de inteligencia artificial.
“El uso responsable de la IA para bien o para mal se construye bajo la ética y las buenas prácticas en el día a día”, concluyó Golia. Estos lanzamientos del Gigante Azul apuntan en ese sentido.