La Comisión Federal de Comercio de Estados Unidos investiga a la compañía OpenAI para determinar si su aplicación ChatGPT perjudica a consumidores al generar información falsa. Además, inspecciona si su tecnología hace un uso inadecuado de los datos de los usuarios.
Respaldada por Microsoft, la empresa OpenAI fue notificada en un cuestionario de 20 páginas, en el que se le solicita que describa incidentes en los que usuarios fueron falsamente difamados y que comparta los esfuerzos de la compañía para garantizar que no vuelvan a suceder.
Esta investigación del regulador estadounidense fue reportada por el diario The Washington Post.
Las "alucinaciones" encienden las alarmas en los creadores de ChatGPT
El lanzamiento de ChatGPT en noviembre pasado sorprendió al mundo, al mostrar el poder de los grandes modelos de lenguaje, una forma de inteligencia artificial conocida como "IA generativa" que puede producir en segundos contenido similar al creado por el ser humano.
En medio del revuelo por las capacidades de la tecnología, las autoridades recibieron informes de que estos modelos también podrían generar contenido ofensivo, falso o simplemente extraño, llamado comúnmente "alucinaciones".
La presidenta de la Comisión de Comercio, Lina Khan, se dirigió a una audiencia del comité del Congreso el miércoles y, aunque no mencionó la investigación, dijo a los legisladores que su agencia tenía preocupaciones sobre la producción potencialmente difamatoria de ChatGPT.
"Hemos escuchado sobre reportes en los que la información sensible de la gente aparece en respuesta a una pregunta de otra persona y hemos oído hablar de calumnias, declaraciones difamatorias, cosas totalmente falsas que están surgiendo. Ese es el tipo de fraude y engaño que nos preocupa", explicó.
Usuarios perjudicados y el uso de datos privados
Según el cuestionario, la investigación de la autoridad reguladora se centra en cómo este aspecto podría perjudicar a los usuarios, pero también profundiza en el uso de datos privados por parte de OpenAI para construir su modelo, líder en el mundo.
El GPT-4 de la compañía es la tecnología base detrás de ChatGPT, así como decenas de otros programas de empresas que pagan una cuota a OpenAI para acceder a su modelo para sus propios usos.
Una investigación de la Comisión de Comercio no implica necesariamente otras acciones y esa entidad podrá cerrar el caso si está satisfecha con la respuesta de la empresa examinada. Si el regulador percibe prácticas ilegales o inseguras, exigirá medidas correctivas y posiblemente iniciará una demanda.
"Es muy importante que nuestra tecnología sea segura"
El director general de OpenAI, Sam Altman, lamentó vía Twitter que la noticia acerca de la investigación fuera filtrada a los medios, lo cual "no genera confianza".
"Construimos GPT-4 durante años de investigación de seguridad y pasamos más de 6 meses después de que terminamos el entrenamiento inicial haciéndolo más seguro y más alineado antes de lanzarlo. Protegemos la privacidad del usuario y diseñamos nuestros sistemas para aprender sobre el mundo, no sobre individuos privados", aclaró.
Altman anticipó que "por supuesto" OpenAI cooperará con la Comisión Federal de Comercio y aseguró que es "muy importante para nosotros que nuestra tecnología sea segura y favorable al consumidor, y estamos confiados de cumplir la ley".
