El CEO de Anthropic pidió frenar el desarrollo de la inteligencia artificial y reavivó el temor por sus riesgos

El director ejecutivo de Anthropic, Dario Amodei, publicó un ensayo en el que pide ralentizar el ritmo al que las empresas de inteligencia artificial mejoran las capacidades de sus modelos, en momentos en que el debate sobre los riesgos de la tecnología volvió a instalarse con fuerza en la industria. «Al igual que muchas tecnologías anteriores, la IA conlleva riesgos, y debido a su gran poder, estos riesgos son graves», sostuvo Amodei en el texto.

El ejecutivo propuso lo que definió como «un plan de tres pasos con el objetivo de marcar el ritmo de la frontera» del desarrollo de la IA, aunque aclaró que su planteo no implica frenar por completo la investigación. «Marcar el ritmo no significa detener el entrenamiento de modelos ni el progreso técnico», explicó, en un intento de diferenciar su propuesta de un freno total al desarrollo tecnológico.

Un temor que ya venía en aumento por advertencias previas

El planteo de Amodei llega apenas días después de que un episodio interno de la industria generara alarma pública. El investigador británico Jacob Coxon, de 27 años, que trabajó tres años en las áreas de preentrenamiento de OpenAI y se había sumado recientemente a Anthropic, renunció el martes pasado y publicó un hilo en la red social X que se volvió viral. «Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas», escribió Coxon, quien agregó que «las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década».

La advertencia de Coxon no quedó sin respaldo dentro de la propia industria. Evan Hubinger, actual director de un equipo de seguridad de Anthropic, salió a respaldarlo públicamente en la misma red social: «Jacob tiene razón. De verdad creemos que la IA podría matar a todos los humanos. Yo calculo más de 10% en la próxima década», escribió, y remarcó que la compañía «todavía no tiene un plan para resolver la alineación de una superinteligencia».

El cruce de declaraciones, sumado ahora al ensayo de Amodei, terminó de instalar en la opinión pública un debate que hasta hace poco quedaba circunscripto a foros especializados: qué tan cerca está la industria de perder el control sobre lo que construye, y si las propias empresas que desarrollan estos sistemas son las más indicadas para autorregular su ritmo de avance.