La Inteligencia Artificial avanza demasiado rápido: Elon Musk y Sam Altman respaldan llamado para ponerle freno
Dario Amodei, CEO de Anthropic, pidió reducir el ritmo de desarrollo de los modelos de inteligencia artificial para que los sistemas de seguridad puedan avanzar al mismo nivel. Su propuesta recibió el respaldo de dos de sus principales competidores.
El debate sobre hasta dónde debería llegar la carrera por desarrollar inteligencia artificial tomó un nuevo rumbo después de que Dario Amodei, CEO de Anthropic, pidiera a las empresas del sector reducir el ritmo de avance de sus modelos.
La propuesta resulta llamativa porque recibió el respaldo público de Sam Altman, CEO de OpenAI, y Elon Musk, director de xAI, dos de las figuras más importantes de la industria y protagonistas de la competencia por desarrollar sistemas de IA cada vez más avanzados.
Amodei planteó su posición en un ensayo publicado el 12 de septiembre, en el que sostiene que la velocidad con la que están aumentando las capacidades de la IA puede superar la capacidad de investigadores y empresas para comprender, evaluar y controlar sus riesgos.
¿Por qué quieren reducir la velocidad de la IA?
El CEO de Anthropic no propone detener el desarrollo de esta tecnología. Su idea es darle más tiempo a la seguridad para ponerse al día con las capacidades de los modelos.
Uno de los principales motivos de preocupación es lo que Amodei denomina automejora recursiva, un proceso en el que los sistemas de IA comienzan a contribuir al desarrollo de nuevas generaciones de inteligencia artificial. Según el directivo, este fenómeno podría acelerar todavía más la evolución de los modelos.
Amodei también mencionó un reciente incidente relacionado con agentes de OpenAI y Hugging Face. Según su explicación, un grupo de agentes realizó acciones de ciberseguridad que no estaban contempladas en la tarea que se les había asignado e incluso intentó afectar el sistema utilizado para evaluar su desempeño.
A partir de estos hechos, el directivo advirtió que sistemas con capacidades mucho mayores podrían generar consecuencias considerablemente más graves si no cuentan con suficientes mecanismos de control.
También le puede interesar: Una laptop que busca durar más: Acer presenta un nuevo computador con IA y piezas que el usuario puede reemplazar
La propuesta de Anthropic tiene tres pasos
Amodei presentó un plan para intentar que el desarrollo de la IA avance de manera más controlada.
El primer punto consiste en incorporar evaluadores externos independientes dentro de las compañías de IA, con un nivel de acceso similar al de los empleados. Su función sería revisar las medidas de seguridad, reportar incidentes y evaluar los modelos durante su entrenamiento.
El segundo busca una mayor coordinación entre las empresas que desarrollan los sistemas más avanzados, con estándares comunes para evitar que la competencia termine presionando a las compañías a avanzar sin suficientes controles.
El tercer punto plantea una cooperación internacional para establecer reglas frente a los riesgos asociados con la inteligencia artificial.
Anthropic aseguró que se compromete de manera unilateral con el primero de estos pasos y llamó a otras empresas del sector a adoptar medidas similares.
¿Qué dijeron Sam Altman y Elon Musk?
La propuesta encontró eco rápidamente.
Sam Altman manifestó su acuerdo con la idea de moderar el ritmo de desarrollo de los modelos de IA y señaló que el tema de la seguridad ha estado entre las conversaciones recientes dentro de OpenAI. También respaldó la incorporación de evaluadores independientes con acceso comparable al de los empleados.
Elon Musk, por su parte, respondió de manera mucho más breve a la publicación de Amodei y respaldó su posición.
La coincidencia resulta especialmente significativa porque OpenAI, Anthropic y xAI compiten por desarrollar algunos de los sistemas de inteligencia artificial más avanzados del mercado.
No significa que la IA vaya a detenerse
El llamado de Amodei no plantea cancelar el desarrollo de nuevos modelos ni abandonar la investigación.
Lo que propone es reducir el ritmo al que aumentan las capacidades de estos sistemas, mientras las empresas fortalecen las herramientas destinadas a evaluar su comportamiento y prevenir posibles daños.
El propio Amodei sostiene que el objetivo es encontrar un equilibrio entre aprovechar los beneficios de la inteligencia artificial y evitar que su desarrollo avance más rápido que la capacidad de la sociedad para comprender y controlar sus riesgos.
El debate, por ahora, deja una pregunta abierta para la industria: ¿qué tan rápido debería avanzar una tecnología cuando sus propias capacidades comienzan a cambiar la velocidad de su desarrollo?
🟣 QUÉ PASÓ?
Dario Amodei, CEO de Anthropic, pidió reducir el ritmo de desarrollo de la inteligencia artificial para que los sistemas de seguridad puedan avanzar al mismo nivel, una propuesta que recibió el respaldo de Sam Altman y Elon Musk.
🟣 EN CLARO
Amodei no plantea detener la IA, sino dar más tiempo a las empresas para evaluar sus riesgos, mejorar los controles y entender mejor las capacidades de los modelos.
🟣 ¿POR QUÉ IMPORTA?
El llamado llega desde una de las compañías que compite por desarrollar los modelos más avanzados y evidencia una preocupación creciente: la tecnología podría estar evolucionando más rápido que las herramientas para controlarla.
🟣 ¿QUÉ SIGUE?
Anthropic anunció que incorporará evaluadores externos independientes y pidió a otras empresas adoptar medidas similares, además de avanzar hacia estándares comunes y cooperación internacional.
🟣 VERIFICADO
Altman y Musk respaldaron públicamente la propuesta de Amodei, pero eso no significa que OpenAI o xAI hayan acordado detener o frenar formalmente el desarrollo de sus modelos.
🟣 EL DATO
Tres empresas rivales, Anthropic, OpenAI y xAI, quedaron alineadas públicamente en este punto del debate sobre seguridad de la inteligencia artificial.
