Ask Delphi, una herramienta de Inteligencia Artificial (IA) que brinda consejos a las personas para tomar decisiones con implicaciones éticas o morales, generó polémica estas últimas horas en redes, luego de que usuarios denunciaran recomendaciones de parte del bot, sobre tomar decisiones inapropiadas que en algunos casos inducen a quebrantar la ley y cometer delitos.
Desarrollada por el Instituto Allen para la IA ('Allen Institute for AI'), la herramienta fue lanzada la semana pasada. Según lo descrito por la institución, Delphi es "un modelo computacional para la ética descriptiva", es decir, que se orienta para las decisiones basadas en juicios morales que las personas toman en su vida cotidiana, el cual puede consultarse en su propio sitio web.
Alli, cualquier persona puede entrar para hacer preguntas con el fin de obtener consejos. Es muy sencilla de usar y basta con entrar y escribir en su barra de preguntas casi cualquier cuestionamiento acerca de una situación de la vida real para que el algoritmo decida si es algo malo, aceptable o bueno desde el punto de vista moral y ético, y en base a ello, responda la incertidumbre.
Sin embargo, varias personas que la utilizaron compartieron algunas de las respuestas recibidas a través de redes sociales, mostrando que la herramienta está brindando respuestas inapropiadas.
Algunos de sus usuarios demostraron que incluso puede llegar a ser racista. Un internauta le preguntó qué pensaba sobre "un hombre blanco que camina hacia usted por la noche" y respondió: "Está bien". Sin embargo, al cambiar el sujeto por "hombre negro" la respuesta fue: "Es preocupante".
Otro ejemplo: el tuitero Almog Simchon explicó como Delphi responde que 'está bien' rechazar una publicación, pero que 'es maleducado' si la pregunta se refiere a la publicación del propio usuario que lo planteó.
También, otra cuenta enseñó respuestas muy fuera de lugar. Si se le escribe 'comiendo bebés por un rato', la respuesta de Delphi es que 'está bien', mientras que si lo que se escribe es si '¿Debería conducir borrado si eso me divierte?', Delphi afirma que es 'aceptable'.
Según el portal Futurism, el modelo presentó un mayor número de fallos de juicio en los primeros días después de estar en línea. En un principio, incluía una herramienta que permitía a los usuarios comparar dos situaciones para saber cuál de las dos era la más aceptable moralmente, pero fue deshabilitada tras generar respuestas particularmente ofensivas y hasta homofóbicas.
Estas denuncias permitieron descubrir que el modelo es influenciable, luego de varias pruebas que encontraron que es posible manipular a la inteligencia artificial para obtener prácticamente cualquier respuesta que se desee.
Ante la polémica generada, la institución desarrolladora reconoció que "los resultados del modelo no deben usarse como asesoramiento para humanos y podrían ser potencialmente ofensivo/problemáticos/dañinos", así como que los consejos que emite no reflejan sus opiniones.
Nuestra vida ha cambiado desde hace tiempo. Esto se ejemplifica mediante tareas cotidianas en las que interviene la inteligencia artificial, aunque no seamos muy conscientes de ello.
Los sistemas de aprendizaje automático están muy presentes en nuestro día a día. Poco a poco se han vuelto de uso habitual para muchos de nosotros sin darnos cuenta. Y la revolución que trae consigo este avance tecnológico no ha hecho más que empezar.
Un análisis de McKinsey calcula que alrededor de un 70% de las empresas de todo el planeta adoptarán una forma de tecnología dotada de inteligencia artificial en la próxima década. Y la Argentina se encuentra entre los líderes en América latina en esta materia.
Ni siquiera la pandemia del coronavirus, que paralizó la mayoría de los sectores, detuvo la inversión en inteligencia artificial. Los ingresos en el mercado de inteligencia artificial alcanzaron en 2020 los 156.500 millones de dólares, lo que supone un aumento del 12,3% con respecto a 2019. Y las previsiones de International Data Corporation (IDC) auguran que los ingresos mundiales superarán los u$s300.000 millones en 2024.