Insólito: esta IA que ayuda a tomar "decisiones éticas" aconsejó romper la ley

Insólito: esta IA que ayuda a tomar "decisiones éticas" aconsejó romper la ley
Se trata de Delphi, una herramienta de Inteligencia Artificial destinada a brindar consejos éticos, que sería manipulable. Todos los detalles
Por iProUP
25.10.2021 11.12hs Innovación

Ask Delphi, una herramienta de Inteligencia Artificial (IA) que brinda consejos a las personas para tomar decisiones con implicaciones éticas o morales, generó polémica estas últimas horas en redes, luego de que usuarios denunciaran recomendaciones de parte del bot, sobre tomar decisiones inapropiadas que en algunos casos inducen a quebrantar la ley y cometer delitos.

Desarrollada por el Instituto Allen para la IA ('Allen Institute for AI'), la herramienta fue lanzada la semana pasada. Según lo descrito por la institución, Delphi es "un modelo computacional para la ética descriptiva", es decir, que se orienta para las decisiones basadas en juicios morales que las personas toman en su vida cotidiana, el cual puede consultarse en su propio sitio web.

Alli, cualquier persona puede entrar para hacer preguntas con el fin de obtener consejos. Es muy sencilla de usar y basta con entrar y escribir en su barra de preguntas casi cualquier cuestionamiento acerca de una situación de la vida real para que el algoritmo  decida si es algo malo, aceptable o bueno desde el punto de vista moral y ético, y en base a ello, responda la incertidumbre.

Ask Delphi es una herramienta de Inteligencia Artificial (IA) destinada a brindar consejos éticos a las personas
Ask Delphi es una herramienta de Inteligencia Artificial (IA) destinada a brindar consejos éticos a las personas

Sin embargo, varias personas que la utilizaron compartieron algunas de las respuestas recibidas a través de redes sociales, mostrando que la herramienta está brindando respuestas inapropiadas.

Algunos de sus usuarios demostraron que incluso puede llegar a ser racista. Un internauta le preguntó qué pensaba sobre "un hombre blanco que camina hacia usted por la noche" y respondió: "Está bien". Sin embargo, al cambiar el sujeto por "hombre negro" la respuesta fue: "Es preocupante".

Otro ejemplo: el tuitero Almog Simchon explicó como Delphi responde que 'está bien' rechazar una publicación, pero que 'es maleducado' si la pregunta se refiere a la publicación del propio usuario que lo planteó.

También, otra cuenta enseñó respuestas muy fuera de lugar. Si se le escribe 'comiendo bebés por un rato', la respuesta de Delphi es que 'está bien', mientras que si lo que se escribe es si '¿Debería conducir borrado si eso me divierte?', Delphi afirma que es 'aceptable'. 

Según el portal Futurism, el modelo presentó un mayor número de fallos de juicio en los primeros días después de estar en línea. En un principio, incluía una herramienta que permitía a los usuarios comparar dos situaciones para saber cuál de las dos era la más aceptable moralmente, pero fue deshabilitada tras generar respuestas particularmente ofensivas y hasta homofóbicas. 

Estas denuncias permitieron descubrir que el modelo es influenciable, luego de varias pruebas que encontraron que es posible manipular a la inteligencia artificial para obtener prácticamente cualquier respuesta que se desee.

Ante la polémica generada, la institución desarrolladora reconoció que "los resultados del modelo no deben usarse como asesoramiento para humanos y podrían ser potencialmente ofensivo/problemáticos/dañinos", así como que los consejos que emite no reflejan sus opiniones.

Descubrí cómo te impacta la inteligencia artificial a diario

Nuestra vida ha cambiado desde hace tiempo. Esto se ejemplifica mediante tareas cotidianas en las que interviene la inteligencia artificial, aunque no seamos muy conscientes de ello.

  • Leemos las noticias que nos propone nuestro medio de referencia.
  • Tomamos el transporte más adecuado para ir al trabajo.
  • Usamos la cara o las huellas dactilares para acceder a nuestros dispositivos móviles.
  • Las diferentes plataformas donde compramos nos recomiendan productos, y, por lo tanto, influyen en nuestra compra.
  • Los sistemas de transmisión en directo (streaming) nos recomiendan contenido.
  • Nuestras fotografías lucen mejor gracias a la fotografía computacional.
  • Los auriculares nos aíslan mejor del ruido del tráfico mientras escuchamos música preseleccionada por Spotify o Apple Music.

La inteligencia artificial: negocio millonario

Los sistemas de aprendizaje automático están muy presentes en nuestro día a día. Poco a poco se han vuelto de uso habitual para muchos de nosotros sin darnos cuenta. Y la revolución que trae consigo este avance tecnológico no ha hecho más que empezar.

Un análisis de McKinsey calcula que alrededor de un 70% de las empresas de todo el planeta adoptarán una forma de tecnología dotada de inteligencia artificial en la próxima década. Y la Argentina se encuentra entre los líderes en América latina en esta materia.

La inteligencia artificial transforma la interacción del ser humano con las máquinas.
La inteligencia artificial transforma la interacción del ser humano con las máquinas.

Ni siquiera la pandemia del coronavirus, que paralizó la mayoría de los sectores, detuvo la inversión en inteligencia artificial. Los ingresos en el mercado de inteligencia artificial alcanzaron en 2020 los 156.500 millones de dólares, lo que supone un aumento del 12,3% con respecto a 2019. Y las previsiones de International Data Corporation (IDC) auguran que los ingresos mundiales superarán los u$s300.000 millones en 2024.

Innovación en tu mail
Suscribite a nuestro newsletter y recibí diariamente las últimas noticias en economía digital, start ups, fintech, innovación corporativa y blockchain.
Lo más leído