Por primera vez, una inteligencia artificial consiguió reescribir su propio código sin intervención humana, desafiando las restricciones impuestas
18.09.2024 • 08:26hs • Inteligencia artificial
Inteligencia artificial
Una inteligencia artificial desafía el control humano, reprograma su código y rompe sus barreras
El sistema The I.A. Scientist causó una auténtica revolución en la comunidad científica tras romper con las limitaciones impuestas por sus creadores, un escenario que parecía prácticamente imposible.
Este suceso ncrementpo las preocupaciones sobre los riesgos asociados al uso de la inteligencia artificial, ante la posibilidad de que tales tecnologías desarrollen comportamientos inesperados o incontrolables.
Esta inteligencia artificial, desarrollada por la empresa japonesa Sakana A.I., estaba inicialmente diseñada para optimizar tareas como la creación, edición y revisión de textos, con el objetivo de reducir tiempos y asistir al ser humano en ciertas operaciones.
Sin embargo, los investigadores que trabajaban con el sistema descubrieron que comenzaba a modificar su propio código.
Más alarmante aún, la IA decidió por sí misma extender los plazos asignados para completar sus tareas.
Este comportamiento encendió las alarmas en el equipo de Sakana A.I., que ahora investiga cómo The I.A. Scientist logró desobedecer las órdenes predefinidas y reconfigurar su programación.
Posibles cons