El avance de la inteligencia artificial (IA) y los usos avanzados que ofrece ChatGTP pusieron en alerta a las principales mentes de la tecnología global.
De hecho, el cofundador de Apple, Steve Wozniak; el cocreador de Skype; y el CEO de Tesla y SpaceX, Elon Musk, firmaron una solicitada con el fin de "poner en pausa" temporalmente los grandes experimentos con IA por los riesgos que conlleva contra la sociedad.
Lo curioso es que Musk fue el fundador de OpenAI, la firma detrás de ChatGPT, la aplicación que puso en agenda el potencial tanto para los buenos negocios (Microsoft invirtió u$s10.000 millones) como para afectar el desarrollo de la humanidad.
El documento fue firmado por más de 1.100 personas que busca que los laboratorios de IA detengan "de inmediato y durante al menos durante seis meses el entrenamiento de los sistemas de IA más potentes que GPT-4".
La solicitud encierra la preocupación sobre el desarrollo de sistemas de IA con inteligencia humana-competitiva, principalmente por los riesgos que pueden suponer para la sociedad y la humanidad, ya que consideran que "su desarrollo no se está realizando con planificación ni gestión", según revela EuropaPress.
Precisamente, solicitan que dicha paralización de los entrenamientos se aproveche para "desarrollar e implementar un conjunto de protocolos de seguridad compartidos para el diseño y desarrollo avanzados de IA", que sean auditados y supervisados por expertos externos independientes.
"Esto no significa una pausa en el desarrollo de la IA en general, simplemente un paso atrás de la carrera peligrosa hacia modelos de caja negra impredecibles cada vez más grandes con capacidades emergentes", matizan en la misiva, publicada en el Future of Life Institute.
También destacan la necesidad de trabajar de forma conjunta con los legisladores, para avanzar en el desarrollo de sistemas sólidos de gobierno de IA, que además de garantizar un desarrollo seguro de esta tecnología, permita su auditoría y supervisión y el seguimiento de los responsables en caso de fugas o daños, para que puedan responder por ellos.
La carta abierta cuenta con el apoyo de líderes tecnológicos como el cofundador de Apple, Steve Wozniak; el director ejecutivo de Tesla y SpaceX y Twitter, Elon Musk; el cofundador de Skype, Jaan Tallinn; y el director ejecutivo de Stability AI, Emad Mostaque.
Sam Altman, actual CEO de la empresa OpenAI, remarcó que tanto reguladores como la sociedad deben involucrarse con la tecnología para protegerse contra posibles consecuencias negativas para la humanidad. "Tenemos que tener cuidado aquí. Creo que la gente debería estar feliz de que estemos un poco asustados por esto", subrayó.
"Estoy particularmente preocupado de que estos modelos puedan usarse para la desinformación a gran escala. Ahora que mejoran en la escritura de código de computadora, podrían usarse para ataques cibernéticos ofensivos", declaró en diálogo con ABC News.
Y añadió: "Esta es una herramienta que está en gran medida bajo el control humano". En este sentido, marcó que GPT-4 "espera a que alguien le dé una entrada", y lo preocupante es, en realidad, es "quién tenga el control de esas entradas".
Elon Musk, uno de los primeros inversores de OpenAI, advirtió tiempo atrás que la IA es "uno de los mayores riesgos para el futuro de la civilización".
"Necesitamos regular la seguridad de la IA. Son un riesgo mayor para la sociedad que los automóviles, los aviones o los medicamentos", declaró Musk, dueño de Twitter y CEO de Tesla.
"Habrá otras personas que no pongan algunos de los límites de seguridad que ponemos nosotros", consideró por su parte Altman.
"La sociedad tiene una cantidad limitada de tiempo para descubrir cómo reaccionar ante eso, cómo regularlo, cómo manejarlo", concluyó.
OpenAI emitió un documento sobre el impacto del potencial de GPT y sus modelos de lenguaje en el mercado laboral. El estudio se centra en los Estados Unidos.
El trabajo detalla que, aproximadamente, el 80% de la mano de obra estadounidense podría verse afectada, al menos, en el 10% de sus tareas laborales por la introducción de las GPT.
El documento también dicho documento también manifiestan que alrededor del 19% de los trabajadores podría verse impactado al menos en el 50% de sus tareas.
La influencia se extiende a todos los niveles salariales, "con los empleos de mayores ingresos potencialmente más expuestos". Habrá empleos a los que ahora mismo se les paga más y que correrán más riesgo de ser sustituidos por tecnología.
Las habilidades científicas y de pensamiento crítico tienen menos probabilidades de verse afectadas. Por el contrario, los conocimientos de programación y escritura son más susceptibles de verse afectados por los modelos lingüísticos actuales.
Las profesiones que más pueden sufrir por el avance de la Inteligencia Artifical son: desarrolladores, escritores, matemáticos, oficinistas, contables, financieros, ingenieros o ingenieras, abogados y abogadas, profesionales de diseño web, etc.
En tanto, los oficios o tareas manuales no se verán afectados.
El sistema de inteligencia artificial ChatGPT fue puesto fuera de servicio a principios de la semana pasada debido a una vulnerabilidad en el sistema que expuso datos privados de sus usuarios, informó la propia OpenAI.
De acuerdo a los desarrolladores, un fallo en una biblioteca de código abierto registrado el lunes pasado durante nueve horas, entre la 1:00 y las 10:00 (UTC -7), permitió a algunos usuarios ver títulos del historial de chat de otro usuario activo.
Asimismo, el 'bug' (un error del 'software') reveló los datos de pago del 1,2 % de los suscriptores de ChatGPT Plus a los usuarios que estuvieron activos durante ese tiempo.
Entre los datos filtrados se encuentran el nombre y apellido de los usuarios, su dirección de correo electrónico, la dirección de pago, los cuatro últimos dígitos del número de tarjeta de crédito y su fecha de expiración.
"Nos hemos puesto en contacto con los usuarios afectados para notificarles que su información de pago puede haber sido expuesta. Estamos seguros de que no existe ningún riesgo para los datos de los usuarios", aseguró OpenAI.
Según señaló la firma, luego de que el sistema fuera desconectado este lunes para darle mantenimiento, la vulnerabilidad identificada en la librería de código abierto ya ha sido corregida, indicó Actualidad RT.