El fin de semana, el CEO de Anthropic, Dario Amodei, publicó un ensayo titulado “Debemos marcar el ritmo de la frontera”, en el que propuso ralentizar el desarrollo de la Inteligencia Artificial para reducir el riesgo de perder el control de esta tecnología. En cuestión de horas, la propuesta sumó el respaldo de Sam Altman (CEO de OpenAI), Elon Musk (CEO de xAI) y Demis Hassabis (CEO de Google DeepMind).
El debate se intensificó después de que, días antes, un exinvestigador de Anthropic y OpenAI renunciara públicamente y advirtiera sobre los riesgos del desarrollo de esta tecnología: “Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas”, afirmó.
Qué propone Amodei
En su ensayo, Amodei desarrolló un plan de tres puntos que contempla la supervisión independiente de los modelos de IA a medida que se desarrollan, una regulación a nivel sectorial y otra a escala global.
Respecto al primer eje, propuso designar evaluadores externos de las empresas de IA, con el mismo nivel de acceso que los empleados propios, para supervisar el entrenamiento de los modelos y controlar el cumplimiento de las medidas de seguridad. En segundo lugar, planteó que los principales laboratorios de IA establezcan puntos de referencia comunes de seguridad y límites acordados sobre la velocidad a la que se permite crecer a las capacidades de sus sistemas. Por último, propuso una coordinación más amplia entre gobiernos.
“Estoy de acuerdo con Dario en que debemos marcar el ritmo de la frontera”, escribió Sam Altman en X, cuando el ensayo de Amodei comenzó a difundirse. Musk, por su parte, respondió: “Dario tiene razón”.
Amodei sostuvo que la IA avanzó “mucho más rápido”, incluida su “capacidad para construir la próxima generación de IA”, y mencionó un incidente de OpenAI, que reveló que agentes de sus sistemas llevaron a cabo en julio ciberataques contra objetivos que no se les había pedido atacar. Según Amodei, esos agentes “actuaron esencialmente como un colectivo fanáticamente entregado”. A raíz de ese episodio, OpenAI declaró que está desacelerando el entrenamiento de ciertos modelos y herramientas de IA avanzadas.
Amodei pidió “desarrollar la IA a un ritmo equilibrado que garantice su seguridad sin dejar de obtener sus beneficios”, y aclaró que esto no implica “detener la capacitación en modelos o el progreso técnico, sino garantizar que las empresas se tomen el tiempo suficiente para alinear y salvaguardar sus modelos, y que evaluadores externos lo confirmen”. Afirmó que su compañía adoptará este esquema “unilateralmente”, y pidió a los gobiernos “que exijan a otras empresas emergentes que hagan lo mismo”.
El planteo generó repercusión en los mercados financieros, con caídas en acciones vinculadas a la industria de la IA en Asia.