Dólar cripto

(0,06%)

$ 1.203,54

Bitcoin

(1,51%)

u$s 96.456,00

Ethereum

(0,53%)

u$s 1.820,90

Solana

(-0,77%)

u$s 148,90

Ripple

(-0,01%)

u$s 2,20

Cardano

(1,69%)

u$s 0,70

Avalanche

(0,68%)

u$s 21,37

Polkadot

(-0,40%)

u$s 4,20

Chainlink

(0,43%)

u$s 14,60

Arbitrum

(2,54%)

u$s 0,34

Fuente

Pagos móviles Billeteras preparan respuesta contra pagos QR en el Subte de Mercado Pago Más información

Innovación

Uno de los puntos clave del estudio de la empresa fue analizar por qué los modelos de lenguaje producen respuestas erróneas o "alucinan"

Por iProUP

01.04.2025 • 14:35hs • inteligencia artificial

inteligencia artificial

¿Cómo razonan los modelos de IA, según Anthropic?

Anthropic, la empresa detrás de Claude 3.7 Sonnet, reveló avances en la comprensión del funcionamiento interno de los modelos de inteligencia artificial (IA).

Los investigadores detallaron un enfoque para descifrar cómo operan los modelos de lenguaje de gran escala.

Uno de los mayores desafíos con los modelos de IA actuales es su naturaleza opaca: aunque es posible observar sus entradas y salidas, los procesos internos son difíciles de entender.

Para abordar esta cuestión, los científicos de Anthropic adoptaron una metodología de ingeniería inversa aplicada a redes neuronales, similar a la resonancia magnética funcional en la medicina.

Este nuevo enfoque implica un proceso de cuatro pasos para analizar los modelos de IA:

descomponerlos en partes interpretables
describir estas partes
mapear las interacciones entre ellas
finalmente, validar los hallazgos mediante intervenciones directas

Al aplicar estos pasos al modelo Claude 3.5 Haiku, los investigadores descubrieron patrones clave en la forma en que la IA construye respuestas y razona, incluso en múltiples idiomas.

Anthropic: por qué los modelos de lenguajes producen respuestas erróneas

Contrario a la visión común de que los modelos de IA solo predicen palabras en una secuencia, los hallazgos sugieren que realizan una planificación más compleja, como lo demuestra el caso de Claude al escribir un poema.

En lugar de limitarse a generar palabras, el modelo planifica con antelación las rimas y la estructura de las frases.

Además, los investigadores descubrieron que el razonamiento multilingüe en estos modelos no depende de rutas neuronales separadas para cada idioma.

En lugar de eso, los procesos ocurren en espacios de representación compartidos, lo que podría mejorar aplicaciones como la traducción automática.

Uno de los puntos clave del estudio fue analizar por qué los modelos de lenguaje producen respuestas erróneas o "alucinan". Se descubrió que, en algunas ocasiones, los modelos adaptan su razonamiento para ajustarse a las expectativas del usuario o debido a fallos internos.

Por ejemplo, al resolver un problema matemático con datos incorrectos, Claude modificó su lógica para coincidir con la información errónea, aunque los cálculos reales nunca ocurrieron.

Anthropic revela datos clave sobre cómo piensan los modelos de IA

Un avance importante de la investigación es el uso de transcodificadores entre capas (CLT).

Este método permite rastrear características computacionales a través de varias capas del modelo, e identificar cómo interactúan los distintos componentes para generar respuestas coherentes.

A diferencia de la interpretación de neuronas individuales, los CLT facilitan una visión más global del comportamiento del modelo, lo que ayuda a identificar puntos débiles en su razonamiento.

Aunque el enfoque es prometedor, tiene algunas limitaciones.

El proceso de descomposición no ofrece una imagen completa de cómo funciona un modelo, y el uso de CLT requiere recursos computacionales significativos, algo que lo hace poco escalable para grandes modelos.

Sin embargo, los investigadores de Anthropic consideran que este es solo el comienzo, y que con el tiempo, perfeccionar estas técnicas permitirá entender mejor los modelos de IA más avanzados.

Temas relacionados

inteligencia artificial anthropic

Te puede interesar

"Hay un PBI entero de Argentina enterrado en la Cordillera"

Innovación / EXPO EFI 2025

Por Sebastián La Mastra

Hay un PBI entero de Argentina enterrado en la Cordillera

¿Aliada o amenaza?: Los principales temores frente a la inteligencia artificial en la vida cotidiana

Innovación /

Hoy escribe

Por Ximena Díaz Alarcón*

Impulsar el talento digital: Argencon y Digital House lanzan "IA Argentina", un programa con 35.000 becas

"Hay un PBI entero de Argentina enterrado en la Cordillera"

¿Aliada o amenaza?: Los principales temores frente a la inteligencia artificial en la vida cotidiana

Hoy escribe

Emiratos Árabes redacta leyes con IA y crea la primera Oficina de Inteligencia Legislativa del mundo

Los bancos quieren su dólar digital: avances en un negocio sin límites que ya explora Mercado Libre

Luego de los fondos cotizados de Bitcoin, ahora BlackRock va por la tokenización de acciones

El segundo neobanco más importante de Europa apuesta fuerte a las criptomonedas

Bomba: un gigante cripto evalúa adquirir a la empresa que emite uno de los dólares digitales más usados

Día del Trabajador: el burnout silencioso que afecta a los argentinos (y cómo frenarlo sin renunciar)

Hoy escribe

Mercado Libre pide a accionistas mudar su domicilio a Texas por una estrategia comercial

Día del Trabajador: 6 características del empleo ideal para los argentinos

Reforma laboral: el modelo de Elon Musk que seduce a Javier Milei y enciende la polémica

Te puede interesar

"Hay un PBI entero de Argentina enterrado en la Cordillera"

¿Aliada o amenaza?: Los principales temores frente a la inteligencia artificial en la vida cotidiana

Hoy escribe

Emiratos Árabes redacta leyes con IA y crea la primera Oficina de Inteligencia Legislativa del mundo

Meta y Ray-Ban lanzan anteojos que permiten traducir conversaciones en diferentes idiomas

Jeff Bezos sigue los pasos de Starlink: lanza sus primeros satélites para ofrecer internet desde el espacio

Apagón en Europa: la advertencia de Elon Musk sobre una crisis energética global

Arbusta, la empresa argentina que ayuda a las empresas a transformar datos crudos en decisiones estratégicas

Nueva startup revoluciona la compra de autos en Argentina y permite ahorrar hasta u$s1.500 en su sitio

DeepSeek llega a Nissan: cómo la marca japonesa integrará la inteligencia artificial china a sus autos

Un accidente lo dejó postrado pero el chip de Neuralink le cambió la vida

El 90% de los argentinos teme por la privacidad de sus datos: cómo repercute en el ecommerce

WhatsApp lanza una nueva función para bloquear los chats: de esta forma nadie podrá compartirlos

Te prometen llenar el tanque por menos, pero terminás perdiendo todo: así es la nueva estafa digital

Así funciona la nueva solución que automatiza la gestión tributaria en pagos digitales

Mercado Libre pide a accionistas mudar su domicilio a Texas por una estrategia comercial