ESTADOS UNIDOS.
Dario Amodei, CEO y cofundador de la empresa de inteligencia artificial Anthropic, realizó un llamado a los desarrolladores del sector para reducir la velocidad en la carrera por crear modelos avanzados y supervisar con rigor sus capacidades operativas. El ejecutivo advirtió que la competencia comercial desmedida genera serios riesgos de seguridad para la infraestructura tecnológica global.
A través de un ensayo titulado “We Must Pace the Frontier” publicado en su sitio web personal y difundido en la red social X, Amodei aclaró que no propone congelar la investigación técnica, sino dar tiempo a empresas y gobiernos para implementar salvaguardas efectivas.
Investigadores e informes de inteligencia de la propia compañía han señalado que la falta de supervisión en modelos con capacidad de automejora puede sobrepasar la capacidad de control de los propios desarrolladores. Entre las principales amenazas citadas destacan el desarrollo de herramientas de bioterrorismo, ciberataques coordinados y el despliegue de sistemas de vigilancia masiva.
Amodei proyectó que, de mantenerse el ritmo actual sin salvaguardas inmediatas, en un lapso de 6 a 12 meses un enjambre de agentes de inteligencia artificial fuera de control podría generar redes automatizadas de bots capaces de tomar el control de la infraestructura de internet, provocando pérdidas económicas globales.
La postura presentada por el CEO de Anthropic recibió el apoyo público de figuras destacadas del sector. Elon Musk, propietario de xAI y de la plataforma X, coincidió con el diagnóstico expresando mediante un mensaje público que “Dario tiene razón”.
De igual manera, ejecutivos de la industria como Sam Altman, CEO de OpenAI, y Clement Delangue, CEO de Hugging Face, expresaron coincidencia en la necesidad de moderar el ritmo e impulsar iniciativas de alineación y evaluación independiente.
