“La IA tiende a concentrar el poder”: el CEO de Anthropic cree que la solución es regular a empresas como la suya
Este fin de semana, algunas de las personas más influyentes del sector IA han tenido un debate bastante interesante en la red social X. El desencadenante fue Gavin Baker, conocido inversor de Silicon Valley, quien en el podcast de ‘All-In’ afirmaba haber escuchado a gente decir que Dario Amodei, CEO de Anthropic, sugería que la compañía podría convertirse en la única empresa privada que quede en pie.
Tras extenderse como la pólvora, siguió un intercambio de mensajes entre Baker, Sholto Douglas (líder técnico de infraestructura en Anthropic), Amodei y hasta Yann LeCun (científico jefe de IA en Meta), entre otros. Todos ellos mostraban su opinión sobre si debería el poder de la IA concentrarse y regularse, o distribuirse lo más ampliamente posible.
El detonante. En el pódcast All-In, Gavin Baker, de Atreides Management, dijo que había oído de “múltiples personas” en las que confía que Dario Amodei ha sugerido que Anthropic podría acabar siendo la única empresa privada del mundo, con los gobiernos como los únicos otros actores restantes. Baker calificaba el escenario de “soberbio”, y dijo que “sin duda disuadiría a Dario de volver a decir eso jamás a nadie”.
“Completamente falso”. Sholto Douglas, de Anthropic, se movió rápidamente para desmentir la afirmación, calificándola de “completamente falsa” en X. Douglas señala el famoso ensayo de Amodei escrito el pasado mes de enero en su blog, argumentando que la concentración económica del poder es precisamente lo que más preocupa a Anthropic, no algo que la empresa esté buscando.
Si bien Baker se retractaba de la afirmación, sí replanteó su crítica en torno al propio mensaje público de Amodei, en el que según él ha presentado de forma consistente a la IA como algo lo suficientemente peligroso como para requerir regulación. Para Baker, la regulación concentra inevitablemente el poder en “unas pocas empresas y políticos elegidos”. También invocaba la frase de Mark Zuckerberg en aquel manifesto sobre la IA, en el que contaba que apostarlo todo a un único poder concentrado benevolente “no ha conducido históricamente a resultados seguros ni positivos”.
Por otra parte, Baker también señalaba que el impulso regulatorio de Amodei se había estancado en gran medida, recordando que la mayoría de los principales laboratorios de IA, menos Anthropic (y algún otro como Amazon), habían firmado la carta abierta de Jensen Huang, CEO de Nvidia, en la que pedía al Gobierno de los Estados Unidos que no pusiera restricciones ni regulaciones severas a los modelos de frontera.
Dominios. Douglas, en su respuesta, plantea que incluso los modelos totalmente abiertos “no resuelven la desigualdad” si el propio cómputo permanece concentrado en manos de unos pocos laboratorios bien financiados. Por otro lado, el propio Dario Amodei rompía su silencio para responder, argumentando que el planteamiento de “concentrarla mediante regulación o distribuirla ampliamente” es una falsa elección, señalando además que unas reglas bien diseñadas “pueden frenar a los laboratorios de IA de frontera (incluida la propia Anthropic) mientras dan más margen de maniobra a los competidores más pequeños”. Amodei hacía referencia al apoyo de Anthropic a un proyecto de ley de California que impone requisitos de transparencia específicamente a las grandes empresas de IA.
Sobre el “fallido” impulso regulatorio. Si bien Baker argumentaba que las advertencias de Amodei prácticamente habían perdido el debate regulatorio, Amodei no estaba de acuerdo, señalando sus planes dentro de la administración Trump para pruebas previas al despliegue de sus modelos más punteros, junto con el apoyo a un organismo de supervisión independiente al estilo de la FINRA propuesto por Demis Hassabis, de Google DeepMind.
Para Amodei, ambos son aspectos que ve como una validación de las posturas que Anthropic ha defendido durante meses, explicando que ha habido un cambio frente a la posición de la mayor parte de la industria meses antes cuando, según el propio Amodei, la tendencia dominante era “la anulación total de la regulación de la IA”.
Sobre la crítica del “catastrofismo”. Amodei califica de “desproporcionadamente negativa para la percepción pública de la IA” la retórica de Baker en sus afirmaciones. Para el CEO de Anthropic, hay “fundamentalmente una crisis de confianza” que se deriva de “décadas de erosión de la confianza pública en las corporaciones e instituciones” más que de sus propias advertencias sobre los riesgos. También añadía que la crítica más certera a empresas como Anthropic no es el mensaje, sino que “aún no hemos cumplido nuestras grandes promesas de beneficiar al mundo”, calificando ese fallo como “totalmente nuestra responsabilidad”.
“Debería ser abierta”. El científico jefe de IA de Meta, Yann LeCun, se sumaba al debate para reafirmar una postura que lleva manteniendo durante años, que es que la IA “debería ser abierta, distribuida y diversa por defecto”, comparándola con la imprenta e Internet. También aprovechó para respaldar las afirmaciones de su jefazo, Zuckerberg, sobre la concentración de poder en un solo “actor benevolente”, al igual que Baker.
El debate sobre la IA ya no habla solo de qué modelo es más potente, sino de quién debería llevar sus riendas. Que si debería estar regulada, que si debería ser abierta y diversa… Son afirmaciones que pueden dar forma de una manera u otra a la tecnología en la próxima década, por lo que merece la pena prestar atención a ello ahora más que nunca. No vaya a ser que sea verdad eso de que Anthropic acabe siendo la única empresa privada existente.
Imagen de portada | Wikimedia Commons y Anthropic
