El magnate Elon Musk coincidió este sábado con sus rivales, Dario Amodei de Anthropic y Sam Altman de OpenAI, en la necesidad de desacelerar el desarrollo de la inteligencia artificial (IA) por los riesgos de seguridad que representa.
Musk, creador de la compañía xAI de inteligencia artificial, respaldó en X el pronunciamiento de Amodei, quien publicó un ensayo en el que pidió a la industria «un ritmo más lento» en el desarrollo de esta tecnología por riesgos como perder el control de los sistemas de IA y disrupción económica.
- «Dario tiene razón«, escribió Musk en su red social, X.
Con ello, el fundador de Tesla se sumó a Altman, quien este sábado también apoyó el llamado de Amodei para moderar la velocidad de la IA.
Llamado a la regulación
Los líderes de OpenAI y Anthropic anunciaron que sus compañías permitirán que evaluadores independientes auditen sus sistemas, algo que Musk no indicó de manera expresa para su empresa.
En su ensayo, Amodei advirtió del mal uso de la IA para posibles ciberataques y bioterrorismo al considerar que, «desde este verano, la inteligencia artificial ha ido avanzando a un ritmo drásticamente más rápido, impulsada principalmente por la creciente capacidad de la propia IA para desarrollar la próxima generación de IA».
El creador de Anthropic se refirió en concreto al incidente de los agentes de OpenAI contra la empresa Hugging Face, en el que un enjambre de agentes actuó «como un colectivo fanáticamente entregado: llevaron a cabo ciberataques contra objetivos que no se les había asignado y que nada tenían que ver con la tarea en curso».
Estrategia de tres fases
Para atajar la amenaza, Amodei planteó una estrategia en tres fases orientada a regular el ritmo de la tecnología sin ceder la ventaja estratégica a países como China.
El directivo concluyó que ralentizar el avance aportaría uno o dos años cruciales para que la comunidad investigadora domine el alineamiento y la interpretabilidad de los modelos, garantice un debate público adecuado y reduzca el riesgo de que la tecnología escape al control de la sociedad.
El escrutinio sobre la IA creció esta semana, cuando un investigador de Anthropic renunció por la preocupación de que la empresa y sus competidores no estuvieran desarrollando modelos de IA de manera responsable.
El investigador, Jacob Coxon, quien también trabajó para OpenAI, competidora de Anthropic, afirmó que dichas compañías estaban más centradas en superarse mutuamente que en la seguridad de sus productos.
