El magnate Elon Musk coincidió este sábado con sus rivales Dario Amodei, de Anthropic, y Sam Altman, de OpenAI, en la necesidad de desacelerar el desarrollo de la inteligencia artificial (IA) debido a los riesgos de seguridad que representa.
Elon Musk respalda llamado para moderar la IA
Musk, creador de la empresa de inteligencia artificial xAI, respaldó en X el pronunciamiento de Amodei, quien publicó un ensayo en el que pidió a la industria mantener “un ritmo más lento” en el desarrollo de esta tecnología ante riesgos como la pérdida de control sobre los sistemas de IA y una posible disrupción económica.
“Dario tiene razón”, escribió Musk en su red social X.
Con esta postura, el fundador de Tesla se sumó a Altman, quien este sábado también respaldó el llamado de Amodei para moderar la velocidad con la que avanza la IA.
OpenAI y Anthropic permitirán auditorías
Los líderes de OpenAI y Anthropic anunciaron que sus respectivas compañías permitirán que evaluadores independientes auditen sus sistemas. Musk, en cambio, no anunció de manera explícita una medida similar para su empresa.
Advierten sobre posibles riesgos
En su ensayo, Amodei alertó sobre el posible uso indebido de la IA para realizar ciberataques y actos de bioterrorismo. El directivo consideró que “desde este verano, la inteligencia artificial ha ido avanzando a un ritmo drásticamente más rápido, impulsada principalmente por la creciente capacidad de la propia IA para desarrollar la próxima generación de IA”.
El caso de los agentes de OpenAI
El creador de Anthropic hizo referencia específica al incidente protagonizado por agentes de OpenAI contra la empresa Hugging Face. Según su descripción, un enjambre de agentes actuó “como un colectivo fanáticamente entregado” y realizó ciberataques contra objetivos que no habían sido asignados y que no tenían relación con la tarea que estaban realizando.
Proponen una estrategia para reducir riesgos
Para hacer frente a esta amenaza, Amodei planteó una estrategia dividida en tres fases, cuyo propósito es regular el ritmo de desarrollo de la tecnología sin perder la ventaja estratégica frente a países como China.
El directivo sostuvo que ralentizar el avance permitiría obtener uno o dos años considerados cruciales para que la comunidad investigadora pueda avanzar en el alineamiento y la interpretabilidad de los modelos, además de garantizar un debate público adecuado y disminuir el riesgo de que la tecnología escape al control de la sociedad.
Crece el escrutinio sobre la inteligencia artificial
El debate en torno a la seguridad de la IA aumentó esta semana después de que un investigador de Anthropic renunciara debido a su preocupación por la manera en que la empresa y sus competidores están desarrollando los modelos de inteligencia artificial.
El investigador Jacob Coxon, quien también trabajó para OpenAI, competidora de Anthropic, afirmó que ambas compañías estaban más concentradas en superarse entre sí que en garantizar la seguridad de sus productos.