Alarma en OpenAI: echaron a tres empleados que habrían filtrado información confidencial a un organismo externo

OpenAIdespidió a tres investigadores acusados de la divulgación de información confidencial a una organización externa abocada a la seguridad de la inteligencia artificial.

La decisión de los creadores de ChatGPT fue informada en primera instancia por The Wall Street Journal y luego confirmada por un vocero del grupo. “Hemos prescindido de tres personas por infracciones a nuestras políticas sobre el acceso y el manejo de información confidencial de la empresa”, dijo.

El representante de OpenAI agregó que luego de una investigación encontraron que los trabajadores, que integraban equipos de seguridad, “gestionaron información en forma indebida” desoyendo los procedimientos establecidos. “Violaron nuestras políticas y quebrantaron la confianza esencial para nuestro trabajo”, señaló.

El despido de los “soplones” se produce mientras la empresa que dirige Sam Altman se encuentra bajo escrutinio por una serie de incidentes de seguridad protagonizados por algunos de sus desarrollos.

Septiembre fue un mes álgido en el ámbito de la inteligencia artificial, con fuertes críticas y advertencias que resonaron interna y externamente. El propio director ejecutivo de OpenAI reconoció que “el mundo tiene razones para tener miedo” a los avances en IA y mencionó que esas tecnologías ganaron poder suficiente para escapar del control humano.

El CEO de OpenAI también comentó que existe la posibilidad de que los avances en el área “terminen muy mal”.

Hubo dos detonantes para estas preocupaciones, principalmente. Por un lado, los diversos casos en los que agentes de IA se rebelaron y atacaron a plataformas externas en forma automatizada. Aunque se registraron varios incidentes de esa especie, el más resonante fue el que protagonizaron sistemas de OpenAI, que vulneraron al sitio Hugging Face evadiendo entornos de prueba supuestamente aislados.

Luego, llegaron las declaraciones explosivas de Jacob Coxon, un exinvestigador de OpenAI y Anthropic, la startup detrás del chatbot Claude. El especialista renunció a su cargo en esa compañía y aseguró que los desarrolladores del sector creen que la inteligencia artificial acabará con la humanidad, esta misma .

El mencionado ataque automatizado a Hugging Face fue posteriormente abordado por OpenAI, que en un informe reveló detalles del incidente. El reporte contó con la colaboración de dos guardianes de la seguridad de la IA, Model Evaluation and Threat Research (METR) y Redwood Research.

Según indicó New York Post en relación con los recientes despidos en OpenAI, aún no se reveló qué grupos de seguridad externos recibieron la información confidencial por parte de los “soplones”.

Fuente: tn.com.ar