Dario Amodei defiende en un ensayo las auditorías obligatorias para los modelos de IA más potentes: «deben hacerse con un procedimiento justo y basado en hechos técnicos»

El CEO que pide ser regulado

En plena disputa con la administración Trump por el bloqueo de Fable 5 y Mythos 5, el CEO de Anthropic Dario Amodei publicó un ensayo que desafía la narrativa habitual sobre la relación entre las empresas de IA y la regulación gubernamental. En lugar de defender la autorregulación o atacar la intervención estatal, Amodei argumentó que las auditorías obligatorias para los modelos de IA más potentes son necesarias, deseables y compatibles con la innovación —siempre que se apliquen con el procedimiento correcto.

La posición no es trivial viniendo del fundador de una de las empresas más afectadas por la intervención regulatoria. Pero tiene una lógica interna que Amodei ha sostenido de forma consistente desde la fundación de Anthropic en 2021: si los modelos de frontera tienen el potencial de causar daños catastróficos, la supervisión externa no es un freno a la innovación sino una condición de legitimidad para seguir desarrollándolos.

La propuesta de Amodei: qué debe incluir una auditoría correcta

El ensayo no solo defiende el principio de la auditoría sino que especifica las condiciones bajo las que considera que puede funcionar correctamente. Las cuatro condiciones que Amodei identifica son: que el proceso sea transparente para la empresa auditada; que sea justo en su evaluación, sin prejuicios ideológicos; que esté basado en hechos técnicos verificables, no en interpretaciones políticas; y que se desarrolle en el marco de un procedimiento legal claro con posibilidad de recurso.

La ironía implícita del ensayo es evidente: la orden de control de exportaciones que obligó a Anthropic a desconectar Fable 5 y Mythos 5 no cumplió ninguna de esas cuatro condiciones según la propia empresa. La intervención fue abrupta, no se basó en un procedimiento técnico transparente y no ofreció a Anthropic la posibilidad de argumentar antes de la ejecución de la medida.

El papel de Project Glasswing en la estrategia de Anthropic

El ensayo de Amodei se produce en el contexto del Proyecto Glasswing, la iniciativa mediante la cual Anthropic limita el acceso a sus modelos más avanzados —Mythos— a un consorcio selecto de organizaciones en colaboración con el gobierno estadounidense. La existencia de ese mecanismo de control voluntario es, en sí misma, un argumento de Amodei para defender que Anthropic ha actuado de buena fe en la gestión de la seguridad de sus modelos. La pregunta que el ensayo no responde directamente es si ese mecanismo voluntario es suficiente o si la supervisión externa formal es inevitable para los modelos más potentes del planeta.