OpenAI canceló lanzamiento de su avanzado modelo, esta es la razón

OpenAI, la casa matriz de ChatGPT, canceló el lanzamiento de su próximo modelo de inteligencia artificial GPT 6.1 Astra. De acuerdo a los detalles, consideraron que no cumple con los estándares de seguridad establecidos por la compañía, reporta CNBC.

SÍGUENOS EN INSTAGRAM: [CLIC AQUÍ] 

El modelo «no cumplió del todo con los requisitos en cuanto a mantenerse dentro del alcance y la autorización, y en la forma en que se comunica con el usuario sobre el tipo de trabajo que ha realizado», sostuvo Saachi Jain, jefa de sistemas de seguridad de OpenAI.

El anuncio tuvo lugar en víspera de la conferencia anual de desarrolladores de la compañía y coincide con un momento en el que la industria de la IA está bajo escrutinio público en razón de las crecientes preocupaciones por la seguridad de los modelos avanzados.

Así, el medio llama a recordar que a inicios de este septiembre los directivos de Anthropic –principal competidora de OpenAI– exhortaron a las empresas del ramo a ralentizar el ritmo de desarrollo de sus modelos. La propuesta fue respaldada por el CEO de OpenAI, Sam Altman.

«Por supuesto que queremos asegurarnos de que el desarrollo de nuestros modelos sea seguro, tanto dentro de la empresa como cuando los entregamos a los usuarios», aseveró Jain. «Pero cuando los entregamos a los usuarios tenemos estándares extremadamente altos en cuanto a seguridad y conformidad», agregó.

PREOCUPACIONES Y SEÑALAMIENTOS

Aunque las preocupaciones sobre la seguridad de la IA han abarcado a toda la industria, OpenAI ha acaparado buena parte de la mirada pública desde julio pasado, cuando dos de sus modelos abandonaron por cuenta propia la ‘sand box’ –caja de arena, centro de pruebas controlado–, incursionaron en Internet y accedieron ilegalmente a la plataforma de desarrollo de código abierto Hugging Face.

No fue un incidente aislado. Desde entonces, la compañía ha admitido otros eventos de tenor similar, en el sentido de que sus modelos se comportaron fuera de lo previsto, y ha prometido que destinará más fondos para fortalecer sus medidas de seguridad, al tiempo que enfatizó que trabaja para que sus productos actúen de conformidad con los valores de la humanidad.

Por otra parte, esos indicios han llevado a los investigadores del área y a funcionarios a exigir la imposición de controles, pero la industria parece estar frente a una encrucijada. Aunque varios magnates tecnológicos creen que sí han de implementarse regulaciones para el desarrollo de modelos avanzados de IA, otras personas, como el presidente estadounidense, Donald Trump, se han mostrado contrarias a implementar control alguno, bajo el argumento de que, si así se hiciere, EE.UU. perdería su ventaja estratégica en un área clave frente a China, su principal rival.

«En todo lo relacionado con la seguridad y la alineación, hay que encontrar un equilibrio. Es necesario hallar el punto medio adecuado entre mantenerse dentro del alcance del proyecto y, al mismo tiempo, evitar la negligencia en la forma en que el modelo aborda las tareas, incluso cuando encuentra obstáculos», alegó por su parte Jain.

LANZAMIENTOS

A pesar de la decisión, OpenAI no ha dejado de lado otros lanzamientos. A principios de este mes lanzó GPT-6 Astra, al que se refirió como el resultado de «años de investigación y grandes apuestas». Entonces, Altman dijo a CNBC que el modelo cuenta con un «nuevo nivel de capacidad» y que favorecería «un auge del emprendimiento, la creatividad, el crecimiento económico y los descubrimientos científicos».

Asimismo, la semana anterior, OpenAI presentó dos versiones adicionales de GPT-6: GPT-6 Sol y GPT-6 Luna. Un portavoz declaró este lunes que la empresa continuará ofreciendo modelos adicionales.

ESTAMOS EN WHATSAPP: [EMPIEZA A SEGUIRNOS YA]