Consenso entre los tecnomagnates: "Debemos ralentizar la IA"

Por primera vez, las cúpulas de algunas de las principales empresas de inteligencia artificial parecen coincidir en un diagnóstico tan evidente como inquietante: hay que bajar el ritmo al que avanza la tecnología.

El planteo partió de Darío Amodei, CEO de Anthropic, quien publicó un ensayo en el que advierte sobre algunos de los riesgos asociados al desarrollo acelerado de los sistemas de IA: desde la posibilidad de perder el control sobre modelos cada vez más capaces, hasta su utilización para ciberataques, bioterrorismo y la generación de fuertes trastornos económicos.

Amodei propone, por eso, que las empresas del sector ralenticen el ritmo de desarrollo y modifiquen la manera en que evalúan el avance de sus modelos.

“Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos aprovechar sabiamente el tiempo que ganamos”.

La propuesta encontró rápidamente eco entre otros de los principales referentes de la industria.

Sam Altman, CEO de OpenAI, respaldó el planteo: “Coincido con Dario en que debemos avanzar a un ritmo adecuado en la frontera tecnológica”. Además, consideró una “excelente idea” comprometerse a contar con evaluadores independientes que tengan un nivel de acceso a los modelos similar al de los propios empleados de las compañías.

Incluso Elon Musk, uno de los empresarios más críticos de OpenAI y uno de los principales impulsores del desarrollo de IA, coincidió con Amodei de manera contundente: “Dario tiene razón”.

EL PLAN PARA BAJAR LA VELOCIDAD

El planteo de Amodei se estructura en tres medidas principales.

1. Evaluadores externos.Las empresas deberían permitir que especialistas independientes tengan acceso suficiente a sus sistemas para evaluar sus capacidades y riesgos.

2. Coordinación entre empresas y gobiernos.El desarrollo de modelos cada vez más poderosos no debería quedar exclusivamente en manos de las compañías tecnológicas. Amodei plantea una mayor coordinación con los Estados para establecer mecanismos de control y evaluación.

3. Un acuerdo entre Occidente y China.El tercer punto es, probablemente, el más complejo: alcanzar algún tipo de coordinación internacional que incluya a China para evitar una carrera tecnológica sin límites.

El problema es que esa cooperación también puede convertirse en un riesgo geopolítico. Amodei lo plantea de esta manera: si Occidente restringe sus capacidades de IA suponiendo que China hará lo mismo y finalmente Beijing se desvincula del acuerdo, la ventaja tecnológica podría transformarse en una ventaja geopolítica decisiva.

La paradoja queda así expuesta: ralentizar puede ser necesario para reducir los riesgos de la inteligencia artificial, pero hacerlo unilateralmente podría significar perder la carrera tecnológica.

Amodei reconoce que implementar estas medidas no será sencillo. Sin embargo, termina su ensayo con una conclusión contundente: “Le debemos a la humanidad intentarlo”.