Anthropic contra el Pentágono

Anthropic, la empresa creadora del chatbot Claude, se negó ante el Pentágono a permitir que su tecnología se usara para armas letales autónomas sin supervisión humana ni para vigilancia masiva de ciudadanos estadounidenses. El Gobierno exigía que las herramientas de la empresa estuvieran disponibles para todos los usos legales. Anthropic no aceptó.

Perdió un contrato de US$ 200 millones y Trump ordenó a todas las agencias federales dejar de usar sus productos. Anthropic era popular entre desarrolladores y grandes empresas, pero poco conocida por el público general. Tras el quiebre con el Pentágono, recibió una avalancha de nuevos usuarios.

Claude pasó del puesto 131 al número uno en la App Store de Estados Unidos, superando por primera vez a ChatGPT. Según la empresa, más de un millón de personas crearon una cuenta cada día durante la primera semana del conflicto. “La narrativa de Anthropic tiene una fisura: rompió su promesa de no entrenar modelos más potentes si sus salvaguardas no bastaban para prevenir daños a gran escala”.

OpenAI, principal competidora de Anthropic y creadora de ChatGPT, firmó su propio acuerdo con el Pentágono horas después del quiebre. La reacción de los consumidores no se hizo esperar. El número de personas que borraron la aplicación de ChatGPT de sus teléfonos creció un 295% en un solo día, según la firma de datos móviles Sensor Tower.

Caitlin Kalinowski, líder de hardware de OpenAI, renunció porque consideró inaceptable que sus herramientas sirvieran para vigilancia de ciudadanos sin control judicial y armamento autónomo. Más de 37 investigadores e ingenieros de OpenAI y Google presentaron un escrito de apoyo a las dos demandas que Anthropic interpuso contra el Pentágono en tribunales federales. Anthropic era ya vista como la empresa más comprometida con el uso seguro de la IA.

Fue fundada en 2021 por ex empleados de OpenAI que, según han declarado, renunciaron en parte porque consideraban que esa compañía no tomaba en serio los riesgos de lo que estaba construyendo. Pero la disputa con el Pentágono llevó esa reputación más allá de la industria. Millones eligieron Claude, no solo por las cualidades de su producto, sino porque Anthropic defendió un principio.

Esa narrativa, sin embargo, tiene una fisura. Según reportó TIME durante la semana del conflicto con el Pentágono, Anthropic abandonó en silencio el compromiso de su política de desarrollo. Desde 2023 había prometido no entrenar modelos más potentes si sus salvaguardas no bastaban para prevenir daños a gran escala.

Rompió esa promesa. Argumentó que si se detenía mientras sus competidores avanzaban sin límites autoimpuestos, serían ellos los que definirían el estándar de seguridad de toda la industria. Anthropic ganó reputación con su batalla contra el Pentágono.

La pregunta es si la mantendrá cuando se examine lo que hizo mientras nadie estaba mirando.