La Comisión Federal de Comercio realizará una investigación contra ChatGPT

OpenAI, la organización sin ánimo de lucro dedicada a la investigación y el desarrollo de la inteligencia artificial (IA), está siendo investigada por la Comisión Federal de Comercio (FTC) de EE.UU., por posibles violaciones de las leyes de protección al consumidor con su chatbot ChatGPT.

ChatGPT es una herramienta de IA que permite a los usuarios conversar con un chatbot que genera respuestas basadas en modelos de lenguaje entrenados con grandes cantidades de datos. ChatGPT se lanzó al público de forma gratuita en noviembre de 2023 y alcanzó un récord de 100 millones de descargas en dos meses.

Sin embargo, según informó el diario The Washington Post¹, la FTC ha enviado una demanda de investigación civil de 20 páginas a OpenAI, en la que le plantea varias preguntas sobre sus prácticas para entrenar y desplegar sus productos de IA, así como sobre su manejo de la información personal y sensible de los usuarios.

US Regulator Probes OpenAI's ChatGPT for Spreading False Information

.@sama .@OpenAI .@FTC #AI #ChatGPT #FTCInvestigation #Regulation #Lawsuitshttps://t.co/HZTXSaTY57

— MetaNews.com (@metanews_com) July 15, 2023

La FTC sospecha que ChatGPT podría haber infringido las leyes de protección al consumidor al poner en riesgo la reputación y los datos personales de los usuarios, al generar respuestas falsas, engañosas, despectivas o dañinas¹. Por ejemplo, en una ocasión, ChatGPT afirmó que un abogado había acosado sexualmente a un estudiante, citando un artículo inexistente del The Washington Post¹. En otra ocasión, se reveló un error que permitía a los usuarios ver información sobre otros chats e información relacionada con el pago de otros usuarios.

La FTC también quiere saber cómo OpenAI está trabajando para evitar lo que se conoce como “alucinaciones” en la industria de la tecnología, que son respuestas del chatbot que están bien estructuradas pero son completamente incorrectas¹. Además, la FTC exige a OpenAI que proporcione descripciones detalladas de todas las quejas que ha recibido de sus productos y de las medidas correctivas que ha tomado.

Si la FTC determina que OpenAI ha violado las leyes de protección al consumidor, podría imponerle multas o someterla a un decreto de consentimiento, que podría dictar cómo la organización maneja los datos y los productos de IA.

OpenAI no ha hecho ningún comentario público sobre la investigación de la FTC, pero en su página web afirma que su misión es “asegurar que la IA sea beneficiosa para toda la humanidad y evitar escenarios donde la IA pueda causar daño o ser mal utilizada”.

I shared how #ChatGPT ripped off my entire copyright book.

Chuffed that this is the most popular comment on @nytimes article about the @FTC opening an investigation into consumer harm caused by #OpenAI's ChatGPT.

Guest link: https://t.co/ZYnOpr1bVR pic.twitter.com/L58DI2USAV

— Adrian Segar (@ASegar) July 14, 2023

Con información de: The Washington Post y OpenAI