El reciente fallo del Ministerio de Producción, Ciencia e Innovación Tecnológica de la provincia de Buenos Aires contra Worldcoin Foundation puso en el centro del debate la línea entre la innovación tecnológica y la protección de los derechos de los consumidores. La multa impuesta de $194 millones y la orden de eliminación de cláusulas abusivas en los contratos reflejan un creciente conflicto entre las nuevas tecnologías y la regulación estatal.
La investigación, iniciada a comienzos de 2024, descubrió irregularidades significativas en las operaciones de Worldcoin, una compañía fundada en 2019 por Sam Altman, co-creador de ChatGPT. Worldcoin se especializa en la verificación de identidad a través del escaneo del iris, a cambio de criptomonedas. Esta práctica, sin límite de edad, se concreta con la sola aceptación de algunos requisitos, entre ellos, la imposibilidad de demandar a WorldCoin. La preocupación del Gobierno bonaerense se centró en la gestión y seguridad de los datos biométricos recogidos por la empresa, utilizando el dispositivo Orb.
Las autoridades de la provincia de Buenos Aires detectaron que los contratos de adhesión de Worldcoin contenían cláusulas que violaban las normativas locales y que los datos biométricos recolectados no se manejaban de acuerdo con lo prometido. Entre los hallazgos más preocupantes se encontró la ausencia de credenciales de identidad y la falta de señalizaciones que indicaran la edad mínima requerida para utilizar el servicio.
"La falta de estos requisitos podría exponer a menores de edad a la recolección de datos sensibles, lo que subraya la necesidad urgente de una regulación más estricta en un contexto de creciente vulnerabilidad entre los adolescentes", comentó a Página 12 Ariel Aguilar, Subsecretario de Desarrollo Comercial y Promoción de Inversiones de la Provincia de Buenos Aires.
En cuanto a las cláusulas abusivas en los contratos de Worldcoin, se descubrió que incluían disposiciones que permitían la suspensión del servicio sin reembolsos, la renuncia a reclamos colectivos y la aplicación de leyes extranjeras, lo que contraviene el Código Civil y Comercial de la Nación. Estas prácticas no solo infringen derechos fundamentales, sino que también plantean un desafío considerable para la regulación local.
"Las contradicciones en el contrato y la falta de claridad sobre el almacenamiento de los datos biométricos generan serias dudas. La complejidad y novedad de esta tecnología requieren una supervisión rigurosa para proteger a los consumidores", agregó Aguilar.
Tras este caso -y ante la ausencia de legislación local que regule este tipo de actividad-, y luego de recopilar información respecto a normativa internacional, desde la provincia de Buenos Aires se trabaja en una ley de datos que contemple los derechos de las personas ante las nuevas tecnologías.
Más que vender el iris
A nivel global, la empresa de Sam Altman enfrenta críticas similares. En 2023, autoridades en India, Corea del Sur, Kenia, Alemania y Brasil comenzaron a investigar las prácticas de recolección de datos de Worldcoin, revelando dudas sobre la gestión y almacenamiento de datos biométricos. Estas investigaciones llevaron a acciones regulatorias más contundentes en 2024.
En marzo de 2024, España prohibió la recopilación de datos biométricos por parte de Worldcoin, citando la falta de información adecuada y la recopilación de datos de menores. La Agencia Española de Protección de Datos (AEPD) subrayó que la empresa no cumplía con los estándares requeridos, lo que resultó en una prohibición inmediata.
Poco después, el 22 de mayo de 2024, Hong Kong también detuvo todas las operaciones de Worldcoin en la región, argumentando que la retención de datos biométricos por hasta 10 años para el entrenamiento de modelos de inteligencia artificial no estaba justificada.
Ante este panorama, WorldCoin hizo pública la apertura del código fuente de su software Orb y presentó una función de privacidad llamada “Custodia Personal” en su World App, que permite a los usuarios gestionar sus propios datos de manera más segura. Pero, a pesar de estos esfuerzos, la falta de confianza y transparencia sigue latente en países de todo el mundo.
Este caso resalta la importancia de una supervisión rigurosa para garantizar que los avances tecnológicos respeten los derechos de los consumidores en un entorno global cada vez más interconectado.
