Los gigantes de la IA piden bajar el ritmo
Los máximos responsables de Anthropic, Google DeepMind, OpenAI y xAI coincidieron recientemente en una preocupación que empieza a tomar fuerza dentro de la industria: el desarrollo de la inteligencia artificial debe avanzar con mayores controles y, en algunos escenarios, incluso desacelerarse.
El CEO de Anthropic, Dario Amodei, propuso permitir el ingreso de evaluadores externos independientes a la compañía para analizar los riesgos de sus modelos, con acceso similar al de los equipos internos de seguridad.
Por su parte, Demis Hassabis, jefe de Google DeepMind, planteó crear en Estados Unidos un organismo de estándares para la IA de frontera, bajo supervisión federal y financiado por la industria. La entidad podría evaluar los modelos antes de su lanzamiento y, si fuera necesario, coordinar una desaceleración de su desarrollo.
Sam Altman, CEO de OpenAI, respaldó la propuesta de contar con evaluadores independientes y aseguró que su compañía también implementaría una medida similar. Elon Musk, propietario de xAI, se limitó a responder: “Dario tiene razón”.
Aunque existen diferencias sobre cómo debería funcionar la supervisión, las cuatro compañías coinciden en la necesidad de que exista un tercero que vigile los riesgos asociados a los sistemas de inteligencia artificial cada vez más avanzados. Sin embargo, el texto señala que ninguna de las cuatro ha asumido por ahora un compromiso concreto para frenar su desarrollo.
