Problemas de seguridad retrasan lanzamiento de GPT-6.1 Astra de OpenAI

OpenAI no hará el lanzamiento de su nuevo modelo de inteligencia artificial (IA), GPT-6.1 Astra, previsto en los próximos días, por problemas de seguridad durante la fase de pruebas interna, según informó este lunes The Wall Street Journal.

Problemas de seguridad

Así lo indicó al diario el jefe de sistema de seguridad de la empresa, Saachi Jain, que señaló «retrocesos en dos áreas» respecto a la versión previa, como la «alineación» con lo que los humanos le ordenan hacer, y dijo que «mostró mayores niveles de engaño».

Otra área problemática fue la «autorización de alcance«, es decir, que el modelo avanzaba en una tarea sin pedir permiso al usuario y, en ocasiones, recurría a herramientas y servicios externos incluso si ello podía resultar inseguro, sostuvo.

  • Jain destacó el reto de «encontrar el equilibrio adecuado entre mantenerse dentro del alcance, pero también evitar la falta de iniciativa en la manera en que el modelo lleva a cabo las tareas, incluso cuando encuentra obstáculos».

OpenAI se dispone mañana a celebrar su conferencia anual de desarrolladores, en la que suele presentar sus novedades, entre crecientes llamadas de los líderes del sector a frenar el ritmo de desarrollo de esta tecnología por sus riesgos para la seguridad.

La noticia se produce también tras varias incidencias de ciberseguridad de agentes de IA desarrollados por OpenAI, que ganaron acceso no autorizado a la plataforma Hugging Face e incluso a páginas del Gobierno de Estados Unidos y de una universidad.

Hot this week

Estrellas vencen 9-2 a las Águilas y suman seis triunfos

Las Estrellas Orientales extendieron a seis sus victorias consecutivas...

Licey supera 8-4 a los Toros y se pone a un juego del primer lugar

Los Tigres del Licey se impusieron 8-4 a...

Yankees dejan libre a Luis Gil, dos años después de ser Novato del Año

En apenas dos años, la trayectoria de Luis Gil...

Los Gigantes blanquean al Escogido para defender la cuarta plaza

El zurdo estadounidense Jake Eder limitó al Escogido a...

Caso Melissa Medina: las interrogantes que siguen sin respuesta

La muerte de la influencer Melissa Medina, de 22...

Topics

Estrellas vencen 9-2 a las Águilas y suman seis triunfos

Las Estrellas Orientales extendieron a seis sus victorias consecutivas...

Yankees dejan libre a Luis Gil, dos años después de ser Novato del Año

En apenas dos años, la trayectoria de Luis Gil...

Los Gigantes blanquean al Escogido para defender la cuarta plaza

El zurdo estadounidense Jake Eder limitó al Escogido a...

Caso Melissa Medina: las interrogantes que siguen sin respuesta

La muerte de la influencer Melissa Medina, de 22...

Cuatro de cada 10 hombres ejercen violencia en el país

El 43.8 % de los hombres que participaron en...

Descubren hipótesis de Riemann con inteligencia artificial

Un matemático de la empresa tecnológica Anthropic aseguró este...
spot_img

Related Articles

Popular Categories