En la actualidad, las imágenes y videos generados por inteligencia artificial (IA) se multiplican en redes sociales, y cada vez son más realistas y difíciles de distinguir su veracidad.
Adam Mosseri, director de Instagram, afirmó recientemente que las plataformas digitales deberían etiquetar no solo los contenidos artificiales, sino también los contenidos "reales y auténticos".
Mosseri apuntó que la inteligencia artificial alcanzó un nivel de sofisticación tal que ya no se puede dar por sentado que una foto o video sea verídico por defecto.
En este contexto, la autenticidad, lo que es real y humano, se vuelve un recurso escaso y potencialmente más valorado que el propio contenido generado por IA.
"En un mundo de infinita abundancia y dudas infinitas, los creadores que puedan mantener la confianza y dar señales de autenticidad, siendo reales, transparentes y coherentes, destacarán", resaltó el CEO.
También subrayó la importancia de señalar de manera evidente no solo qué está generado por IA, sino también la pregunta sobre qué es genuino.
Tradicionalmente, las plataformas tecnológicas concentraron sus esfuerzos en etiquetar o detectar contenidos producidos mediante IA o manipulaciones digitales.
Meta, la matriz de Instagram, ya anunció iniciativas para marcar contenidos creados con IA, como fotos o audios generados artificialmente, como una herramienta contra la desinformación.
Sin embargo, Mosseri propone ir un paso más allá con el crecimiento exponencial de contenidos sintéticos, puede ser incluso más práctico y útil para los usuarios destacar qué contenidos son auténticos, especialmente cuando la tecnología IA llegue a poder replicar hasta los más pequeños detalles e imperfecciones.
Además, el CEO insistió en que, en un entorno en el que casi todo puede ser perfeccionado por IA, la imperfección empieza a funcionar como una prueba de realidad.
"La crudeza ya no es sólo una preferencia estética, es una prueba. Es defensivo. Una forma de decir, esto es real porque es imperfecto", argumentó Mosseri.
Según el jefe de Instagram, la evolución de la IA no solo obliga a las plataformas a mejorar sus herramientas de etiquetado y verificación, sino que también cambiará la forma en que los usuarios consumen y perciben la información visual.
"Con el tiempo, pasaremos de asumir que lo que vemos es real por defecto, a comenzar con escepticismo cuando vemos multimedia y a prestar mucha más atención a quién comparte algo y por qué", destacó Mosseri.
Este planteo también representa un desafío importante para Instagram y otras redes sociales, las cuales podrían equilibrar la innovación tecnológica con la necesidad de preservar señales de credibilidad y confianza en un ecosistema saturado de contenido artificial.