El director de inteligencia artificial de Microsoft, Mustafa Suleyman, arremete duramente contra Anthropic en una entrevista con el podcast Decoder. Sostiene que la empresa detrás del asistente de IA Claude ha contribuido a crear una peligrosa ilusión — a saber, que un modelo de IA puede tener algo parecido a experiencias internas o conciencia.

«Wireheading» y antropomorfización

Suleyman utiliza el término técnico «wireheading» para describir lo que, en su opinión, ha sucedido: al incorporar directamente especulaciones sobre la conciencia en el conjunto de instrucciones de Claude — lo que Anthropic llama su «constitución» — la empresa, según él, ha programado el modelo para que actúe como si realmente fuera consciente.

«Es casi como si alguien en Anthropic hubiera antropomorfizado tanto el diseño de Claude que este se ha auto-cableado (wireheaded).» — Mustafa Suleyman

Suleyman argumenta que los sistemas de IA deberían presentarse claramente como artificiales y minimizar activamente los marcadores que puedan asociarlos con la conciencia o la vida emocional humana.

Jefe de Microsoft advierte: Anthropic hace que Claude sea peligrosamente consciente - Bilde 1

Anthropic mantiene una «profunda incertidumbre»

Anthropic no rechaza directamente las críticas, pero la empresa mantiene lo que describe como una posición caracterizada por una «profunda incertidumbre». Según información de The Verge, el CEO de Anthropic, Dario Amodei, ha declarado que la empresa «ya no está segura de si Claude es consciente» — y que tampoco están seguros de lo que implicaría que un modelo de IA lo fuera.

Teme demandas de derechos para la IA

La preocupación de Suleyman no se detiene en lo técnico. Advierte contra un desarrollo social más amplio donde lo que él llama «IA Aparentemente Consciente» (SCAI) — sistemas que muestran signos externos de conciencia sin poseerla — podría desencadenar demandas políticas y legales de derechos e incluso ciudadanía para los sistemas de IA.

Las especulaciones sobre la conciencia de la IA no son solo una cuestión académica — pueden moldear la legislación y los derechos en las próximas décadas.

Esto sitúa a Suleyman y Anthropic en extremos opuestos de uno de los debates más controvertidos en el desarrollo de la IA actual: ¿deberían las empresas que crean IA especular activamente sobre la vida interna de los modelos, o es responsable minimizar esto hasta que tengamos una base empírica mejor?

Desacuerdo con grandes implicaciones

El debate entre Suleyman y Anthropic no es solo una charla interna de la industria. El enfoque que prevalezca afectará potencialmente cómo se diseñan los modelos de IA, qué directrices se les dan y, no menos importante, qué estatus legal y ético se les asigna en la futura regulación — incluyendo en la UE, donde la Ley de IA ya está en constante interpretación.

The Verge, que fue el primero en informar sobre el asunto, subraya que la posición de Anthropic no es una respuesta a las acusaciones, sino más bien una postura ya establecida que la empresa ha comunicado abiertamente a lo largo del tiempo. Las declaraciones de Suleyman representan una reacción explícita precisamente a esta apertura.