“¡Cruzar estas líneas es contrario a los valores estadounidenses! », decidió Dario Amodei, cofundador y director de Anthropic, a finales de febrero en la CBS, después de negarse a permitir que el gobierno estadounidense utilizara su inteligencia artificial generativa (AGI) llamada Claude para “vigilancia masiva” en los Estados Unidos y para la producción “armas letales autónomas”.
Claude, primera plataforma admitida en la “nube soberana” estadounidense (con acceso a documentos clasificados), fue muy apreciada por el Pentágono. Se utilizó en particular para planificar el secuestro del presidente venezolano Nicolás Maduro o, más recientemente, para llevar a cabo ataques aéreos estadounidenses en Irán.
La administración Trump prestó poca atención a las críticas de Amodei. Así, el Ministerio de Defensa clasificó a Anthropic el 5 de marzo como “Riesgo en la cadena de suministro”que le prohíbe cualquier contrato con empresas que trabajen para la defensa estadounidense. En el proceso, el Pentágono firmó un contrato con OpenAI (empresa matriz de ChatGPT) para reemplazar a Claude. Desde entonces, Darío Amodei ha renovado discretamente sus negociaciones con el gobierno americano para evitar ser considerado enemigo del Estado.
No hubo suerte, estos debates están contaminados por la filtración de un “memorándum” interno, donde el empresario explica que Anthropic es discriminada por razones políticas: la empresa no financió a Donald Trump, ni “cantaron las alabanzas del estilo dictatorial (de Trump) (a diferencia de Sam (Altman, jefe de OpenAI)). » También porque parece estar a favor de la regulación de la IA.
A sus 42 años, Dario Amodei defiende con valentía la IA ética. “alineado” con el interés general y la democracia. Recientemente publicó un largo ensayo, cuando menos escalofriante, que identifica los peligros potenciales de una poderosa IA, presagiando un período en el que “pondrá a prueba nuestra identidad como especie”. Y llega incluso a mencionar el riesgo de “el exterminio de la humanidad”.
Nacido en 1983 en San Francisco, Dario Amodei estudió física y neurociencia en las más prestigiosas universidades americanas (Caltech, Princeton, Stanford). Después de breves períodos en Baidu y luego en Google, en 2016 se unió a la nueva empresa OpenAI de Sam Altman, entonces una organización sin fines de lucro. Desaprobando el giro mercantil de la empresa, fundó Anthropic en 2021, con algunos colegas, entre ellos su hermana Daniela, entonces vicepresidenta de investigación.
Amodei ahora compite cara a cara con Altman. Los dos hombres se odian tanto que se negaron a tomarse de la mano a mediados de febrero en una fotografía de líderes mundiales del sector, posando junto al primer ministro indio, Narendra Modi, en la cumbre de AI en Nueva Delhi.
La IA de Anthropic, que ya es una plataforma preferida para las empresas, particularmente como herramienta de codificación, ha beneficiado al público en general de la rebelión anti-Trump de Amodei. Muchos usuarios desinstalaron ChatGPT en favor de Claude, quien temporalmente tomó la delantera en descargas de aplicaciones de IA en la App Store de Apple.
Su padre, Riccardo, un artesano del cuero de origen italiano, y su madre estadounidense, Elena, que trabajaba en bibliotecas, murieron cuando sus hijos eran estudiantes. Darío teme que el auge de la IA empeore las desigualdades: según él, los multimillonarios de las Big Tech “Deberían estar dispuestos a renunciar a su riqueza y poder. » De hecho, Darío y Daniela –cada uno con un valor de alrededor de 7 mil millones de dólares (6 mil millones de euros)– se han comprometido a donar el 80% de su fortuna a la filantropía.
Con unos ingresos previstos de 18 mil millones de dólares (15,5 mil millones de euros) este año (un aumento del 20%), ¡Anthropic vale sobre el papel más de 380 mil millones (328 mil millones de euros)! Aunque su contrato con la defensa estadounidense es “sólo” de 200 millones de dólares (172 millones de euros), la empresa no puede permitirse el lujo de ser considerada “enemigo” por Trump. Por su parte, al ejército estadounidense le gustaría conservar esta preciosa herramienta. Sin duda, es hora de llegar a un acuerdo.
