Un hilo en Hacker News Best que está explotando en este momento trata sobre el nuevo documento «Claude Design» de Anthropic — y si aún no te has enterado, es hora de despertar.
El enfoque de IA Constitucional de Anthropic no es nuevo, pero el nuevo documento lo lleva a un nivel completamente diferente. No es una lista de reglas. Es casi un manifiesto filosófico — una especie de biografía del alma para un modelo de IA. La idea es que Claude no siga las reglas mecánicamente, sino que internalice principios amplios y razone su camino hacia el comportamiento correcto. Piensa menos en «10 mandamientos», más en «qué haría un buen ser humano aquí».
Lo que realmente ha encendido la sección de comentarios es un detalle: el documento está escrito principalmente para Claude, no para los ingenieros o los usuarios. Anthropic quiere que el modelo lea y absorba esto como base para su propia identidad y sus propios valores. Es filosóficamente audaz — y para muchos en la comunidad, profundamente inquietante.
En HN, varios comentaristas señalan la tensión obvia: Anthropic se enorgullece de la transparencia, pero sigue siendo una sola empresa la que define lo que significan los «buenos valores» para un modelo utilizado por cientos de millones de personas. Otros destacan que esto es significativamente diferente del enfoque de OpenAI, fuertemente basado en RLHF — donde los humanos juzgan activamente cada respuesta individual, Anthropic en cambio permite que la propia IA se evalúe a sí misma según los principios (RLAIF). Esto escala mejor, pero también proporciona menos puntos de control humanos en el camino.
Algunos en el hilo están genuinamente impresionados. La amplitud del documento — que se basa en la Declaración Universal de Derechos Humanos de la ONU, la teoría legal y la filosofía ética — no es algo que se vea de una empresa que solo quiere lanzar productos más rápido. Otros son más escépticos: ¿Es esto realmente alineación, o es marketing? ¿Puede una empresa realmente «programar» la integridad?
Todavía es temprano. Estas son señales de la comunidad, no investigación revisada por pares. Pero con una puntuación de «buzzy» de 96 y un hilo de HN que no se calma, esto es definitivamente algo que aparecerá en los medios de comunicación principales en breve — probablemente con mucha menos matiz de lo que merece.
Mantente atento a cómo responde OpenAI y si otros laboratorios comienzan a publicar documentos similares. Si esto se convierte en un nuevo estándar de apertura en el desarrollo de la IA, cambia las reglas del juego.
Fuente: Anthropic.com vía HN AI Best. Señal temprana — aún no verificada por investigadores independientes.