Italia prohíbe al chatbot estadounidense Replika utilizar datos personales
Reuters
Publicado 03.02.2023 18:13
Por Elvira Pollina y Martin Coulter
3 feb (Reuters) - La Agencia de Protección de Datos de Italia prohibió el viernes a la empresa de inteligencia artificial (IA) Replika utilizar los datos personales de usuarios italianos, alegando riesgos para menores y personas emocionalmente frágiles.
Replika, una startup de San Francisco lanzada en 2017, ofrece a los usuarios avatares personalizados que hablan y les escuchan.
Ha liderado el mercado entre los angloparlantes y su uso es gratuito, aunque obtiene unos 2 millones de dólares de ingresos mensuales por la venta de funciones extra como los chats de voz.
El "amigo virtual" se comercializa como capaz de mejorar el bienestar emocional del usuario.
Pero el organismo de control italiano afirma que, al intervenir en el estado de ánimo del usuario, "puede aumentar los riesgos para las personas que aún se encuentran en una fase de desarrollo o en un estado de fragilidad emocional".
Jen Persson, directora del grupo de defensa de la privacidad infantil Defend Digital Me, declaró a Reuters que las herramientas diseñadas para influir en el estado de ánimo o el bienestar mental de un niño deberían clasificarse como productos sanitarios y, por tanto, estar sujetas a normas de seguridad estrictas.
"Estas herramientas se están utilizando con niños sin mucha supervisión ni protección frente a posibles usos indebidos", afirmó.
Los reguladores italianos destacaron la ausencia de un mecanismo de verificación de la edad, como filtros para menores o un dispositivo de bloqueo si los usuarios no declaran explícitamente su edad.
Replika incumple la normativa europea sobre privacidad y procesa datos personales de forma ilegal, ya que no puede basarse, ni siquiera implícitamente, en un contrato que un menor no pueda firmar, dijo el organismo de control.
Replika no respondió inmediatamente a un correo electrónico de Reuters en busca de comentarios.
Robert Grosvenor, director gerente del bufete de abogados Alvarez & Marshall, dijo que era poco probable que el organismo de control italiano fuera el único regulador europeo que se planteara tomar medidas contra empresas como Replika.
Obtenga la app
"Mientras que la verificación de la edad podría proporcionar medios para proteger a algunos de los grupos más vulnerables, no aborda los riesgos y daños que los servicios y soluciones basados en la IA pueden plantear si no están regulados, en términos de potencial de sesgo y discriminación involuntarios", dijo.
(Reportaje de Elvira Pollina; redacción de Gianluca Semeraro; Editado en español por Juana Casas)
Escrito por: Reuters
Las operaciones con instrumentos financieros o criptomonedas implican un elevado riesgo, incluyendo la pérdida parcial o total del capital invertido, y pueden no ser adecuadas para todos los inversores. Los precios de las criptomonedas son extremadamente volátiles y pueden verse afectados por factores externos de tipo financiero, regulatorio o político. Operar sobre márgenes aumenta los riesgos financieros.
Antes de lanzarse a invertir en un instrumento financiero o criptomoneda, infórmese debidamente de los riesgos y costes asociados a este tipo operaciones en los mercados financieros. Fije unos objetivos de inversión adecuados a su nivel de experiencia y su apetito por el riesgo y, siempre que sea necesario, busque asesoramiento profesional.
Fusion Media quiere recordarle que la información contenida en este sitio web no se ofrece necesariamente ni en tiempo real ni de forma exacta. Los datos y precios de la web no siempre proceden de operadores de mercado o bolsas, por lo que los precios podrían diferir del precio real de cualquier mercado. Son precios orientativos que en ningún caso deben utilizarse con fines bursátiles. Ni Fusion Media ni ninguno de los proveedores de los datos de esta web asumen responsabilidad alguna por las pérdidas o resultados perniciosos de sus operaciones basados en su confianza en la información contenida en la web.
Queda prohibida la total reproducción, modificación, transmisión o distribución de los datos publicados en este sitio web sin la autorización previa por escrito de Fusion Media y/o del proveedor de los mismos. Todos los derechos de propiedad intelectual están reservados a los proveedores y/o bolsa responsable de dichos los datos.
Fusion Media puede recibir contraprestación económica de las empresas que se anuncian en la página según su interacción con éstas o con los anuncios que aquí se publican.