Ottawa, Canadá.- OpenAI incumplió la legislación canadiense sobre protección de datos personales durante el entrenamiento del modelo ChatGPT, según informó la agencia EFE.
Las autoridades canadienses identificaron violaciones en los procedimientos de capacitación del sistema de inteligencia artificial que utiliza información de usuarios sin autorización adecuada.
El hallazgo forma parte de una auditoría realizada por organismos reguladores canadienses sobre las prácticas de privacidad de OpenAI.
La empresa estadounidense utilizó datos personales en el desarrollo de ChatGPT sin cumplir con los requisitos establecidos en la legislación de protección de datos del país.
Sam Altman, consejero delegado de OpenAI, presentó disculpas a la localidad canadiense de Tumbler Ridge en relación con estos incumplimientos, relacionados con el tiroteo ocurrido en una escuela y que causó la muerte de varias personas.
El directivo reconoció los errores cometidos durante los procesos de entrenamiento del modelo de lenguaje más popular de la compañía.
¿Qué datos personales fueron utilizados sin consentimiento?
Las autoridades no han especificado la cantidad exacta de registros de datos personales que fueron procesados sin autorización durante el entrenamiento de ChatGPT.
El incumplimiento abarca múltiples categorías de información personal de residentes canadienses que fueron incorporadas al modelo sin cumplir con las notificaciones y consentimientos requeridos por ley.
La legislación canadiense sobre privacidad exige que las organizaciones obtengan consentimiento explícito antes de recopilar y utilizar datos personales para fines comerciales.
OpenAI no cumplió con este requisito fundamental durante el desarrollo inicial de su modelo de IA, conforme al análisis de los reguladores canadienses.
La auditoría también identificó que la empresa no implementó las medidas de transparencia necesarias para informar a los individuos sobre el uso de sus datos en procesos de entrenamiento de inteligencia artificial.
Esto representa una violación directa de los derechos de acceso y conocimiento que tienen los ciudadanos canadienses sobre sus propios registros personales.
¿Cuáles son las consecuencias para OpenAI en Canadá?
Las autoridades canadienses han establecido plazos para que OpenAI implemente correctivos en sus procedimientos de privacidad y protección de datos. La compañía debe modificar sus métodos de entrenamiento para garantizar coherencia total con la legislación nacional.
La presentación del informe de incumplimiento ocurre en un contexto de mayor escrutinio regulatorio hacia empresas de inteligencia artificial en Canadá y otros países. Organismos de protección de datos en múltiples naciones han iniciado investigaciones sobre las prácticas de privacidad de grandes desarrolladores de modelos de IA.
OpenAI debe presentar un plan detallado ante las autoridades canadienses dentro de los próximos treinta días para demostrar que ha corregido los procedimientos que violaban la ley de privacidad nacional.
Fuente: Tribuna del Yaqui
