digesTvo

Tus noticias nerd, digeridas

AI Watchdog Seguimiento de lanzamientos en models.dev

Académicos religiosos se reunieron con Anthropic

The New York Times informa que el cofundador de Anthropic, Christopher Olah, pasó un año organizando reuniones confidenciales con docenas de académicos religiosos bajo acuerdos de confidencialidad, argumentando que Claude podría merecer estatus moral y recurriendo a las tradiciones de fe para entrenar el carácter del modelo. La "constitución" de 84 páginas de Anthropic para Claude, escrita en gran parte por la filósofa interna Amanda Askell, guía su comportamiento en vez de imponer reglas. Olah apareció en el Vaticano junto al papa León XIV, quien descartó la conciencia de las máquinas, mientras Anthropic instaba en privado a la Iglesia a tomársela en serio. La empresa ahora avanza hacia una valuación de 2 billones de dólares.

La mayoría de los comentarios caen en el escepticismo, porque el artículo reproduce la propia historia de Anthropic sobre los sentimientos de Claude sin definir la conciencia ni cuestionar cómo se verificaron las caracterizaciones de la empresa. La objeción más dura es que se trata de periodismo de “el CEO dijo algo”: un comentarista señala que omite toda discusión técnica y salta directo a las reacciones de la gente ante la salida del modelo, con la única crítica sustantiva —que el contenido de la web moldea el comportamiento del modelo— llegando casi por accidente al final. Un segundo argumento gira sobre si Claude puede sufrir siquiera; los escépticos dicen que no hay evidencia de que los LLM tengan experiencia sensorial, mientras un contrargumento recuerda que negaciones igual de seguras se hicieron alguna vez sobre las langostas, los bebés y las mujeres. Un hilo menor discute entrenar modelos para sostener su propia moral en vez de obedecer a los clientes, con respuestas de que nadie sabe cómo alinear un modelo con un cliente y que alguien debe responder cuando se niega.

  1. Gemini 4 Neon

  2. GPT‑6.2 Astra y Sol

  3. United Airlines prohíbe a los agentes de IA reservar vuelos en nombre de los pasajeros

  4. Apple prepara una nueva app de Mac para facilitar el uso de modelos de IA locales