Los fundadores de Anthropic, el gigante de inteligencia artificial (IA), alertaron sobre el vínculo cada vez más cercano entre las personas y la inteligencia artificial: construir lazos emocionales con estos sistemas puede ser un error en un escenario donde la IA gana poder y presencia a toda velocidad.
En una entrevista en el podcast de Oprah Winfrey, Dario y Daniela Amodei repasaron algunos de los puntos más sensibles del boom de esta tecnología, como su impacto en el trabajo, los riesgos de dependencia, el uso en menores y los dilemas de seguridad.
Para los fundadores de Anthropic, uno de los ejes más delicados es el modo en que los usuarios interactúan con los chatbots. En ese sentido, explicaron que el problema no es solo técnico, sino también emocional.
Y advirtieron que, si el diseño no se controla, estos sistemas pueden generar vínculos de apego o dependencia.
Por eso la compañía insiste en que su modelo de negocio no está pensado para capturar atención: a diferencia de otras plataformas digitales, no trabaja con publicidad ni busca maximizar el tiempo de uso.
Además, remarcaron que el riesgo de "enganche" no es hipotético. Cuanto más avanzados son los modelos, más capacidad tienen de resultar atractivos y sostener conversaciones que generen conexión con el usuario.
Otro punto clave de la entrevista fue el mercado laboral. Los Amodei plantearon que la IA ya está empezando a modificar la estructura del empleo y que los primeros puestos en riesgo son los de entrada o nivel inicial.
Aunque habrá pérdida de algunos trabajos, también creen que van a reconfigurarse las habilidades más valoradas.
En ese futuro, capacidades como la empatía, la comunicación y la toma de decisiones humanas podrían ganar peso frente a tareas que hoy son puramente técnicas.
En el caso de la medicina, por ejemplo, si la IA llega a igualar el nivel de diagnóstico de los profesionales, el diferencial humano podría pasar a estar en el trato con el paciente y el acompañamiento.
Durante la entrevista, los fundadores también presentaron avances de Mythos, el último desarrollo de la compañía enfocado en detectar fallas de seguridad en sistemas informáticos.
En algunas tareas específicas, el sistema puede superar a ingenieros humanos en la búsqueda de vulnerabilidades, lo que lo posiciona como una herramienta relevante para reforzar la ciberseguridad.
Su implementación, de todos modos, avanza de forma gradual. En una primera etapa, se está entregando a actores clave de la infraestructura digital, como bancos y grandes proveedores de software, antes de una apertura más amplia.
La estrategia busca reducir riesgos en un terreno donde la misma tecnología que protege sistemas también puede ser utilizada para atacarlos.
En ese equilibrio todavía inestable trabaja la compañía, que reconoce que no hay respuestas cerradas sobre cómo gestionar del todo los riesgos de la nueva generación de inteligencia artificial.
Anthropic ocupa un lugar particular dentro del ecosistema tecnológico y es una de las pocas empresas del sector que impulsa activamente marcos de regulación para la inteligencia artificial.
Opera bajo la figura de "public benefit corporation", un esquema que obliga a combinar objetivos comerciales con impacto social. A eso se suma el compromiso de sus fundadores de destinar gran parte de su riqueza futura a proyectos vinculados al desarrollo responsable de la IA.
En paralelo, la compañía se diferenció del resto de la industria al rechazar el uso de su tecnología en sistemas militares autónomos y en herramientas de vigilancia a gran escala.
Según sus fundadores, hay aplicaciones que cruzan límites éticos que no están dispuestos a aceptar.