INFORME DE INVESTIGACIÓN

Resumen

Resumen

  • Hoy muchas aplicaciones en IA son efectivamente "cajas negras" que carecen de habilidad para "explicar" el razonamiento detrás de sus decisiones.
  • Mientras la IA se expande a áreas con alto impacto en las personas será crítico someter la tecnología a mayor escrutinio humano.
  • La IA explicable no reemplazará a los trabajadores humanos; en lugar de esto, complementará a las personas, para que tomen mejores decisiones.
  • Los casos de uso de la IA explicable incluyen la detección de gastos de viaje anormales y evaluación del estilo de conducción.


Las apuestas de la IA son cada vez mayores

Algunos servicios y tareas basados en la IA son relativamente triviales – tales como recomendaciones de canciones en una plataforma de Streaming de música. Sin embargo, la IA está desempeñando un papel cada vez más relevante en otras áreas con un impacto humano mucho mayor. Imagina que eres un médico que utiliza sensores habilitados por IA para examinar a un paciente, y el sistema presenta un diagnóstico que exige un tratamiento invasivo urgente.

En situaciones como ésta, una decisión impulsada por la IA por sí sola no es suficiente. También necesitamos saber las razones y los motivos que hay detrás de ello. En otras palabras, la IA tiene que "explicarse" a sí misma, abriendo su razonamiento al escrutinio humano.

La IA explicable no reemplazará a las personas, sino que las complementará y apoyará para que puedan tomar decisiones mejores, más rápidas, más precisas y más coherentes.

Explicar

Su razonamiento; el razonamiento, cuando sea necesario

Caracterizar

Sus fortalezas y debilidades

Comparar

Con otros sistemas de IA

Transmitir

Y entender cómo se comportarán en el futuro

Hacer

Empresa escalable a través de decisiones inteligentes; decisiones más inteligentes al potenciar a las personas con las máquinas

Mientras las personas y las máquinas trabajen juntos aún más, las explicaciones efectivas están al centro de esta colaboración.

IA Explicable, listos para el despegue

La transición a la IA Explicable ya está en marcha, y en tres años esperamos que domine el panorama de la IA para los negocios. Empoderará a los seres humanos para que tomen medidas correctivas, si es necesario, basándose en las explicaciones que les den las máquinas. Pero, ¿cómo lo hará?

Hay tres maneras de manifestar y transmitir el razonamiento que hay detrás de las decisiones de la IA tomadas por las máquinas:

1

Usando datos de machine learning; usando comparaciones con otros ejemplos para justificar sus decisiones

2

Usando el modelo en sí – las explicaciones imitan el modelo de aprendizaje al abstraerlo a través de reglas o al combinarlo con la semántica.

3

Enfoque híbrido que combina datos y modelos - ofrece metadatos y explicaciones a nivel de características.

"El futuro de la IA reside en permitir que las personas colaboren con las máquinas para resolver problemas complejos. Como cualquiera colaboración eficiente, esto requiere buena comunicación, confianza y comprensión".

– FREDDY LECUE, Líder de investigación en IA Explicable - Accenture Labs

Dos casos de uso de IA Explicable

Número 1 – Detectando gastos de viaje anormales
La mayoría de los sistemas existentes para informar los gastos de viaje aplican vistas predefinidas, como el período de tiempo, el servicio o el grupo de empleados. Si bien estos sistemas tienen por objeto detectar sistemáticamente los gastos anormales, por lo general no explican por qué se considera que los reclamos seleccionados son anormales.

Para hacer frente a esta falta de visibilidad en el contexto de los reclamos de gastos de viaje anormales, Accenture Labs diseñó y construyó un sistema de gastos de viaje que incorpora la Inteligencia Artificial Explicable. Mediante la combinación de gráficos de conocimiento y tecnologías de aprendizaje automático, el sistema proporciona información para explicar cualquier reclamo anormal en tiempo real.

Número 2 – Gestión de riesgo de proyecto
La mayoría de las grandes empresas gestionan cientos, si no miles, de proyectos cada año entre múltiples proveedores, clientes y socios. Las expectativas de una empresa a menudo no se ajustan a las estimaciones originales debido a la complejidad y los riesgos inherentes a los contratos críticos.

Esto significa que los responsables de la toma de decisiones necesitan sistemas que no sólo prediquen el nivel de riesgo de cada contrato o proyecto, sino que también den una explicación práctica de estas predicciones. Para hacer frente a los desafíos, Accenture Labs aplicó la IA Explicable y desarrolló un proceso de cinco etapas para explicar el nivel de riesgo de proyectos y contratos.



Midiendo efectividad

Se pueden aplicar ocho medidas para evaluar su valor y eficacia. Estas medidas captan los elementos que la gente necesita en una explicación, pero no necesariamente todo lo que puede lograrse. Aunque la IA Explicable utilizará y expondrá técnicas que abordan estas cuestiones, nosotros, como seres humanos, deberíamos esperar una compensación entre valor y eficacia.

Comprensibilidad

¿Cuánto esfuerzo necesita una persona para interpretarlo?

Sucinto

¿Qué tan conciso es?

Capacidad de acción

¿Qué tan accionable es la explicación? ¿Qué podemos hacer con ella?

Reutilización

¿Podría ser interpretado/reutilizado por otro sistema de IA?

Precisión

¿Qué tan precisa es la explicación?

Integridad

¿La "explicación" explica la decisión completamente o sólo parcialmente?

Una revolución tecnológica con las personas en el centro

La explicación es fundamental para el razonamiento humano, guiando nuestras acciones, influenciando nuestras interacciones con los demás e impulsando los esfuerzos para expandir nuestro conocimiento. La IA promete ayudarnos a identificar sitios industriales peligrosos, advertirnos de fallas inminentes en las máquinas, recomendar tratamientos médicos y tomar otras innumerables decisiones.

La promesa de estos sistemas no se hará realidad a menos que entendamos, confiemos y actuemos de acuerdo a las recomendaciones que hacen. Para que esto sea posible, es esencial que las explicaciones sean de alta calidad. Lea el informe completo para obtener más información sobre cómo la Inteligencia Artificial Explicable ayudará a definir el futuro del trabajo.

Subscription Center
Nuestra Newsletter Nuestra Newsletter