Meta, la empresa dirigida por Mark Zuckerberg, trabaja en la implementación de una nueva función en WhatsApp, su popular app de mensajería instantánea, para combatir los deepfakes.
Muy pronto, WhatsApp ofrecerá una línea de ayuda para verificar datos y abordar el problema de los deepfakes generados por IA.
En asociación con Misinformation Combat Alliance (MCA), los usuarios en India podrán denunciar contenido manipulado mediante un chatbot multilingüe. La MCA y verificadores de datos independientes analizarán el contenido identificado en una unidad central de análisis de deepfake.
Meta anunció que el programa tiene como objetivo implementar un enfoque de cuatro pilares:
Además, se busca crear un instrumento fundamental que permita a los ciudadanos acceder a información fiable para combatir la difusión de información errónea.
Según los informes, se espera que la nueva herramienta se lance en marzo de 2024, estando disponible en inglés y tres idiomas regionales (hindi, tamil y telugu).
Con el rápido avance de la inteligencia artificial (IA), de la mano de herramientas como ChatGPT, por ejemplo, surgen también preocupaciones sobre su posible mal uso.
Una consecuencia no deseada de esta proliferación son los deepfakes generados por IA, que manipulan contenido digital para:
Esto alimenta discursos de odio, engaños políticos y desinformación. Personalidades destacadas como el Papa Francisco, Tom Hanks, Taylor Swift, Donald Trump y el presidente actual de los Estados Unidos, Joe Biden, fueron blanco de estos deepfakes.
Shivnath Thukral, directora de Políticas Públicas de India en Meta, enfatizó la importancia de la colaboración con MCA, una coalición que une esfuerzos contra la desinformación. "Esto refuerza el compromiso de Meta de tomar medidas concretas para abordar el problema y mejorar la transparencia", remarcó.
Y añadió que la iniciativa se enmarca en el "Acuerdo tecnológico para contrarrestar el uso engañoso de la IA en las elecciones de 2024", diseñado para proteger los procesos electorales en todo el mundo.
Este acuerdo cuenta ya con la participación de al menos veinte empresas tecnológicas líderes, incluyendo:
Por otro lado, la compañía reorganizó su área de inteligencia artificial (IA) para centrarse en la creación "inteligencia general", una propuesta a largo plazo con la que pretende llevar esta herramienta TI a todos los aspectos de la vida diaria.
Para eso, la compañía unificó los dos equipos que tenía dedicados a la inteligencia artificial, Fundamental AI Research (FAIR) y GenAI, este último dedicado a la IA generativa.
Se trata de un objetivo a largo plazo con el que Meta pretende extender los beneficios de la IA a la población, para que sea útil en su día a día, y hacerlo bajo un modelo de código abierto responsable, como explicó su director ejecutivo, Mark Zuckerberg, en una publicación compartida en Threads.
Esta visión requiere una gran infraestructura dedicada, para lo que la compañía contará a fines de 2024 con cerca de 350.000 GPU Nvidia H100s, o una computación general equivalente a 600.000 H100.
Zuckerberg no especificó los planes que tienen con el metaverso, la gran apuesta que incluso llevó a cambiar el nombre de la empresa en 2021 (de Facebook a Meta) y a dividir su negocio en dos áreas principales: uno centrado en las aplicaciones sociales y otro en las plataformas del futuro basadas en tecnología como la realidad virtual.
No obstante, sí mencionó que la nueva hoja de ruta conectará las dos "partes principales" de su nueva visión, en referencia a la inteligencia artificial y el metaverso.