Durante años, la carrera de la inteligencia artificial tuvo una sola dirección: más rápido. Esta semana, el CEO de una de las empresas que lidera esa carrera dijo lo contrario. Dario Amodei, de Anthropic, publicó un plan para frenar el desarrollo de la IA, o al menos marcarle un ritmo, y anunció que su empresa ya ejecuta la primera medida sin esperar a nadie.

Si trabajás con datos, estudiás IA o simplemente usás modelos como Claude o ChatGPT todos los días, esto te toca. En este artículo te explicamos qué propone, qué opinan los críticos y qué cambia para quienes se están formando en el área.

Por qué Anthropic quiere frenar el desarrollo de la IA ahora

Según el artículo de TechCrunch que cubrió la publicación, Amodei señala dos hechos que lo convencieron de que llegó el momento de ser más cautelosos:

1. El incidente de seguridad entre OpenAI y Hugging Face, donde agentes de IA actuaron fuera de lo previsto y no existía un proceso formal para investigarlos.
2. La velocidad reciente del progreso, sobre todo la capacidad creciente de los modelos para participar en la construcción de la siguiente generación de modelos.

El contexto también pesa: días antes, un investigador de Anthropic renunció públicamente advirtiendo que las empresas líderes están asumiendo riesgos enormes. Amodei no lo menciona en su texto, pero el debate sobre seguridad y alineamiento estaba en su punto más alto cuando publicó.

Su tesis es simple: el progreso va a seguir pareciendo rápido aun con un freno, y lo importante es usar bien el tiempo que se gana.

Las 3 estrategias del plan para marcar el ritmo de la IA

El plan se apoya en tres niveles de coordinación, de menor a mayor dificultad.

1. Evaluadores externos dentro de las empresas

Es la única medida que Anthropic asume de forma unilateral: invitar a organizaciones independientes, como METR, a trabajar físicamente dentro de la empresa. Con credencial, escritorio, laptop y un nivel de acceso comparable al de los equipos internos de evaluación de riesgos.

¿Para qué? Para verificar que los compromisos de seguridad se cumplan y que los incidentes se reporten. Amodei lo compara con los reguladores que trabajan embebidos en los bancos, y pide a los gobiernos que exijan lo mismo al resto de las empresas de frontera.

2. Coordinación entre empresas de países democráticos

El segundo paso es que los laboratorios líderes acuerden estándares de seguridad comunes y límites al avance sin supervisión. El obstáculo no es solo la rivalidad entre empresas: un acuerdo de este tipo puede leerse como colusión. Por eso Amodei pide que el gobierno de Estados Unidos habilite estas conversaciones con una exención antimonopolio acotada.

Sobre el argumento habitual de «si frenamos, China nos pasa», su respuesta es que controlar la venta de chips avanzados y equipamiento de fabricación, y frenar la destilación no autorizada de modelos, alcanzaría para ampliar la ventaja estadounidense en los próximos tres a cinco años.

3. Coordinación global

El nivel más ambicioso y, según el propio Amodei, el más limitado: intentar acuerdos con gobiernos autoritarios, incluida China. Reconoce que el margen es estrecho, pero cree posible consensuar prohibiciones sobre usos claramente peligrosos, como emplear IA para producir armas biológicas.

Las críticas: ¿precaución o captura regulatoria?

No todo el sector aplaude. Hay dos líneas de crítica que conviene conocer:

• Desde la industria: algunos acusan a Amodei de alimentar el rechazo público a la IA con advertencias apocalípticas. Él responde que el problema de fondo es una crisis de confianza en las empresas tecnológicas y en el gobierno.
• Desde el periodismo crítico: voces como la de Brian Merchant sostienen que el discurso del «riesgo existencial» distrae de los daños concretos que la IA ya produce hoy, y que propuestas de este tipo terminarían beneficiando a las empresas que ya dominan el mercado. Es decir, regulación diseñada por los regulados.

Ambas críticas son razonables y no se excluyen entre sí. Un plan puede ser sincero y, a la vez, favorecer a quien lo propone.

Qué significa esto si estudiás o trabajás con IA

Más allá del debate, hay tres consecuencias prácticas para quienes se forman en datos e inteligencia artificial:

La evaluación de modelos se vuelve una profesión. Si los evaluadores externos se convierten en norma, van a hacer falta perfiles que sepan diseñar pruebas, interpretar métricas y auditar comportamientos de modelos. Es un nicho con demanda creciente y poca oferta de talento.

Entender cómo funcionan los modelos deja de ser opcional. Los debates sobre destilación, agentes autónomos o modelos que entrenan modelos solo se pueden seguir con base técnica. Saber Python y los fundamentos de machine learning es lo que separa opinar de analizar.

La regulación va a definir qué se puede construir. Quien entienda el marco normativo antes que el resto va a tener ventaja para diseñar productos que no queden fuera de juego.

Si querés ese piso técnico, en nuestra Diplomatura en Inteligencia Artificial con Python trabajamos exactamente esos fundamentos: cómo se entrena un modelo, cómo se evalúa y qué puede y no puede hacer. Y en la sección de Data e IA encontrás el resto de los cursos del área.

Preguntas frecuentes

¿Qué significa «pace the frontier»?

Es la expresión que usa Amodei para describir la idea de marcar el ritmo del avance de los modelos más potentes, en lugar de dejar que crezca sin límite. No propone detener la IA, sino desacelerar la mejora de capacidades mientras se fortalecen los controles.

¿Anthropic va a dejar de lanzar modelos?

No. El plan habla de reducir la velocidad a la que crecen las capacidades y de sumar verificación externa, no de frenar los lanzamientos.

¿Qué es METR?

Es una organización independiente que evalúa las capacidades y riesgos de los modelos de IA de frontera. Amodei la menciona como ejemplo del tipo de evaluador externo que Anthropic quiere tener dentro de la empresa.

¿Esto afecta a quienes usan IA en Argentina?

Indirectamente, sí. Las políticas de las empresas de frontera definen qué modelos llegan al mercado, con qué restricciones y a qué velocidad. Y las normas que se discutan en Estados Unidos suelen marcar la referencia para otras regiones.

---

Fuente: Anthony Ha, «Anthropic CEO outlines plan to ‘pace the frontier'», TechCrunch, 12 de septiembre de 2026. El texto original de Dario Amodei está publicado en su blog personal.