geekzillos, sin duda, la inteligencia artificial (IA) es algo que llegó para quedarse, pero, ¿conocen los riesgos que implica? A continuación podrán encontrar todos los detalles.
La popularización de la Inteligencia Artificial (IA) entre las aplicaciones y plataformas como medio para brindar nuevos y más ágiles servicios, ha abierto nuevos riesgos en el manejo de datos personales de los usuarios, quienes desconocen el alcance que tiene el uso de la información personal para el entrenamiento de las plataformas.
En el mes de la Concientización sobre la Ciberseguridad, Luzia alertó sobre la importancia de que los usuarios conozcan los riesgos de compartir datos personales con las aplicaciones, ya que el 48% de los usuarios aceptaría que las aplicaciones utilicen sus datos personales para entrenar la IA de su app favorita.
Muchas tecnologías aprenden de los datos personales que los usuarios les proporcionan durante la interacción y los incorporan a su funcionamiento para obtener una ventaja. El uso de datos personales para entrenar algoritmos de IA puede conducir a una serie de riesgos, entre los cuales se destacan:
- Vulnerabilidad ante ciberataques: La recopilación y almacenamiento masivo de datos personales aumentan la exposición a ciberataques, poniendo en peligro la integridad y confidencialidad de esta información.
- Falta de transparencia: Muchas aplicaciones de IA no revelan cómo utilizan los datos personales; esto podría generar incertidumbre y posibles usos indebidos.
- Discriminación algorítmica: Los algoritmos pueden perpetuar sesgos y generar decisiones discriminatorias si no se entrenan adecuadamente, afectando negativamente a grupos vulnerables.
- Suplantación de identidad: La IA podría utilizar datos personales para crear perfiles falsos o suplantar identidades, lo cual tendría serias implicaciones para la seguridad y privacidad de los individuos.
Las aplicaciones se han vuelto parte de la actividad cotidiana de los usuarios de internet
De acuerdo con la Asociación de Internet MX, 59% de los usuarios de la web reportan que utilizan alguna aplicación de IA, siendo los servicios de streaming ligados al entretenimiento, los generadores de texto y los asistentes virtuales utilizados generalmente dentro del hogar las tecnologías de IA más empleadas por los mexicanos.
“Conocer el uso que se dará a los datos personales y reconocer el valor que tiene para las personas su resguardo, debe ser una de las bases de desarrollo de aplicaciones. Desde Luzia, hemos hecho explícito nuestro compromiso de no entrenar los modelos de IA detrás de Luzia, con los datos nuestros usuarios, como parte del respeto por la privacidad de cada uno de ellos. Necesitamos avanzar en la conciencia de los usuarios para no abrir sus datos personales a las IA de forma automática” señaló Álvaro Higes, Fundador de Luzia.
Tomar conciencia y promover prácticas responsables
El Foro Económico Mundial (Weforum) señala que el mundo enfrenta una era de desinformación provocada por la inteligencia artificial (IA) y riesgos cibernéticos elevados. Por ello, llama a llevar la conciencia sobre el tema a diversas áreas de la vida de las personas y las instituciones.
A medida que la inteligencia artificial se integra en las aplicaciones de uso cotidiano, los usuarios deben estar atentos y tomar medidas para proteger su información personal.
Organismos internacionales han subrayado la necesidad de adoptar enfoques y criterios estrictos para proteger los datos personales en el contexto de la IA. Entre los principios rectores de una IA responsable se incluyen la ciberseguridad, el consentimiento informado, la finalidad específica del uso de datos, la no discriminación, la responsabilidad, la transparencia y la privacidad desde el diseño.
A nivel global y nacional, se están desarrollando regulaciones que implican la sanción de quienes hagan mal uso de los datos personales recopilados a través de la IA para resguardar la vida privada y la integridad de los usuarios de la red.
Por último, los invitamos a escuchar nuestros podcasts: Top Tech y Top Gaming disponibles en Spotify.
