El 31 de marzo, Italia se convirtió en el primer país occidental en tomar medidas contra un chatbot de IA y ordenó una prohibición temporal de ChatGPT. La autoridad de protección de datos de Italia dijo que OpenAI, el creador de ChatGPT, recopila datos personales de manera ilegal.
“Aquí parece no haber una base legal que sustente la recopilación y el procesamiento masivos de datos personales para ‘entrenar’ los algoritmos en los que se basa la plataforma”, escribió la agencia italiana. También citó la tendencia de ChatGPT a cometer errores de hecho y la falta de verificación de edad de la aplicación.
Lanzado hace solo cinco meses, ChatGPT utiliza inteligencia artificial para generar contenido en un lenguaje que suena natural. La gente lo usa para redactar correos electrónicos, redactar ensayos y escribir código. El frenesí en torno a ChatGPT ha llevado a otras empresas a lanzar chatbots similares o a proporcionar servicios que utilizan dicha tecnología.
El viceprimer ministro de Italia criticó la decisión de la agencia de protección de datos. “Me parece desproporcionada la decisión de la Garantía de Privacidad”, escribió Matteo Salvini, en Instagram. “No necesitamos ser hipócritas: los problemas de privacidad afectan a casi todos los servicios en línea, se necesita sentido común”.
Preocupados por ChatGPT
La prohibición se produce en medio de crecientes preocupaciones sobre los riesgos de la IA. Los líderes tecnológicos, incluidos Elon Musk y el cofundador de Apple, Steve Wozniak, firmaron una carta en la que piden una pausa en el entrenamiento de modelos de IA más potentes que ChatGPT para desarrollar e implementar protocolos de seguridad.
Asimismo, el Center for AI and Digital Policy (CAIDP) presentó a finales del pasado marzo una demanda contra OpenAI, la desarrolladora de ChatGPT, ante la Comisión de Comercio Federal (FTC, oficial) de EEUU. Principalmente alegando que el producto GPT-4, la versión cuarta de ChatGPT, es “sesgado, engañoso y supone un riesgo para la privacidad y la seguridad pública”.
Por su parte, la Federación Internacional de Periodistas en su editorial de abril reclamó un “marco para el desarrollo ético y la regulación de los chatbots”. Aunque confesó que “este editorial ha sido elaborado por ChatGPT con pequeños retoques de la FIP”.
Es más fácil decirlo que hacerlo
No está claro si la prohibición de Italia tendrá el efecto deseado. La IA generativa se alimenta del chat de Microsoft Bing, así como de servicios digitales como Slack y Zoom. Mientras tanto, Bard de Google, un rival de ChatGPT, no cae bajo la prohibición.
Los expertos en inteligencia artificial han instado a los legisladores a hacer preguntas rigurosas sobre cómo se está implementando la tecnología y quién la está implementando. Aleksander Mądry, profesor de computación en el Instituto de Tecnología de Massachusetts, le dijo a un panel del Congreso en marzo que incluso los expertos no entienden exactamente por qué ChatGPT genera lo que hace.
Como resultado, cuando se trata de regular tales sistemas, los gobiernos no pueden diseñar políticas como lo harían con los humanos, según Mądry. También le dijo al panel que debido a que las empresas a menudo superponen otra IA sobre una tecnología base como ChatGPT. Es difícil saber quién es responsable cuando surge un problema por el uso de un servicio de IA.
En un comunicado, OpenAI dijo que está trabajando para reducir los datos personales en sus sistemas de entrenamiento de IA como ChatGPT y que la regulación de la IA es necesaria . “Esperamos trabajar en estrecha colaboración -con la agencia de datos italiana- y educarlos sobre cómo se construyen y utilizan nuestros sistemas”, dijo la compañía.
