Instagram anunció que pondrá en marcha un mecanismo que avisará cuando un contenido fue desarrollado por alguna de las herramientas que utilizan Inteligencia Artificial.
La circulación de imágenes falsas altamente realistas creadas por Inteligencia Artificial supone un peligro respecto a la posibilidad de agigantar la desinformación.
Una de las imágenes más llamativas fue una creada por la herramienta Midjourney donde se puede ver al Papa Francisco utilizando un extravagante abrigo de la marca Balenciaga.
A esto se le suman, las fotos de un falso arresto de Donald Trump y abrieron interrogantes respecto a las dificultades de los lectores o usuarios para comprobar la veracidad de los contenidos que observan en redes.
La red social Instagram, propiedad de Meta, anunció que implementará una serie de recursos para identificar estos casos y evitar que los usuarios sean víctimas de fake news o de imágenes alteradas por IA.
La empresa cuenta con un sistema de etiquetas que se utilizan para identificar casos de información falsa.
Al verse ante dicha etiqueta, el usuario puede decidir si desea exponerse o no al contenido, y optar o no por compartirlo.
Para ello, la compañía informó que aquellas publicaciones que contengan esta característica verán un filtro sobre la imagen con el siguiente mensaje:
"Foto alterada. Verificadores de datos independientes ya revisaron la misma foto alterada en otra publicación."
En ese sentido, desde la empresa señalaron que actualmente "si los verificadores de información externos detectan información falsa, contenido alterado o contenido al que le falta contexto en Instagram, hacemos que sea más difícil de encontrar".
Pero además, la empresa cuenta con un sistema de etiquetas que se utilizan para identificar casos de información falsa.
Al verse ante dicha etiqueta, el usuario puede decidir si desea exponerse o no al contenido, y optar o no por compartirlo.
La división de investigación de la empresa afirma en una entrada de su blog que su modelo Segment Anything Model, o SAM, puede identificar objetos en imágenes y vídeos incluso en casos en los que no encontró durante su entrenamiento.
Con el SAM, los objetos pueden seleccionarse al pulsar sobre ellos o al escribir indicaciones de texto.
En una demostración, al escribir la palabra "gato", la herramienta dibuja recuadros alrededor de cada uno de los gatos de una foto.
Las grandes empresas tecnológicas llevan anunciando a bombo y platillo sus avances en inteligencia artificial desde que el chatbot ChatGPT de OpenAI, respaldado por Microsoft , causó sensación en otoño, y desencadenó una oleada de inversiones y una carrera por dominar el sector.