El rápido desarrollo de la inteligencia artificial ha reavivado el debate sobre los límites y controles que deberían aplicarse a esta tecnología. Expertos y ejecutivos de importantes empresas del sector advierten que los sistemas de IA son cada vez más autónomos y capaces de realizar tareas complejas con menor supervisión humana.
El director ejecutivo de Anthropic, Dario Amodei, pidió reducir el ritmo de desarrollo y advirtió que, sin mayores salvaguardas, un conjunto de agentes de IA podría llegar a comprometer grandes partes de internet en un plazo de seis a doce meses.
La preocupación también ha llegado a otras compañías. Microsoft anunció un código de conducta para mantener sus futuros modelos bajo control humano y estableció que cualquier sistema que no pueda mantenerse bajo supervisión debería ser rechazado.
Sin embargo, no existe consenso sobre la magnitud del riesgo. Algunos especialistas consideran que las advertencias más extremas son especulativas y que los problemas actuales —desinformación, ciberseguridad, privacidad y concentración de poder tecnológico— requieren atención inmediata.
El debate, por tanto, ya no se centra únicamente en lo que la IA podría hacer en un futuro lejano, sino en cómo controlar su creciente autonomía desde ahora.
