Como vimos en el Articulo Inteligencia Artificial: La revolución tecnológica que está transformando el mundo la inteligencia artificial (IA) se ha convertido en una tecnología cada vez más presente en nuestras vidas, aportando importantes beneficios en diversos ámbitos, desde la salud hasta el entretenimiento.
Sin embargo, como cualquier avance tecnológico, la IA también presenta desafíos y riesgos, especialmente en lo que respecta a la seguridad.
Por eso preparamos este artículo donde exploraremos los principales riesgos de seguridad que puede plantear la inteligencia artificial y cómo la empresa InformaTI Soluções em Tecnologia está preparada para afrontarlos.
Riesgos de seguridad de la inteligencia artificial
violación de privacidad
La recogida y utilización de datos sin consentimiento también se produce fuera del mundo artístico. La información personal de los usuarios de redes sociales, motores de búsqueda y herramientas de inteligencia artificial generativa también se puede utilizar para entrenar algoritmos.
Usemos como ejemplo Open AI, el creador de ChatGPT, y sus políticas de privacidad .
Ya ha alimentado su base de datos con 300 mil millones de palabras extraídas de Internet, lo que incluye artículos de blogs, reseñas de productos, comentarios en sitios web y publicaciones en redes sociales. Toda esta información fue recopilada y utilizada para entrenar el algoritmo sin la autorización del usuario.
Aunque sea público, este tipo de contenido puede ser utilizado para dañar la integridad contextual de su autor. Este principio dice que los datos generados por individuos no pueden revelarse fuera del contexto en el que fueron producidos originalmente.
Pasando ahora a crear una cuenta en OpenAI: es posible que el usuario compruebe si su información personal está almacenada y solicite su eliminación de la base de datos de la empresa. Sin embargo, debe enviar un correo electrónico a la empresa de IA y esperar a que se cumpla la solicitud.
Una vez creada la cuenta, es hora de utilizar la herramienta. Al aceptar los términos de uso de OpenAI, todo el contenido del comando que le des a ChatGPT quedará incluido en la base de datos de la empresa. El sistema también puede recopilar su dirección IP, la configuración de su navegador y sus actividades de navegación.
Además de utilizarse para entrenar algoritmos, todos estos datos pueden compartirse con terceros no especificados, sin siquiera avisar a los usuarios.
Otros servicios de IA generativa tienen políticas de privacidad débiles, pero la de OpenAI ilustra los riesgos para la privacidad individual.
Prejuicio y discriminación
Otro riesgo importante es el sesgo y la discriminación en los algoritmos de IA. Los sistemas de IA se entrenan en base a datos históricos, lo que puede dar lugar a sesgos y discriminaciones que ya existen en la sociedad.
Por ejemplo, en los procesos de selección de empleo o de concesión de créditos, la IA puede perpetuar sin darse cuenta las desigualdades existentes.
Es importante que las empresas sean transparentes sobre cómo se entrenan sus algoritmos e implementen estrategias para mitigar el sesgo y la discriminación.
La IA puede generar sesgos algorítmicos o discriminación contra grupos minoritarios o vulnerables, debido a bases de datos prediseñadas con información, valores o estándares hegemónicos desactualizados.
Y esta discriminación ya ocurre: en 2018, Amazon descartó el algoritmo que desarrolló para selección y reclutamiento porque demostraba un sesgo sexista en la selección de candidatos.
ciberataque
El uso cada vez mayor de la IA en sistemas críticos, como vehículos autónomos e infraestructuras energéticas, abre la posibilidad de ciberataques destinados a manipular algoritmos o alterar el funcionamiento de estos sistemas.
La seguridad de la IA debe ser una prioridad y las empresas deben implementar medidas sólidas para proteger sus sistemas contra ataques maliciosos.
No hay comentarios.:
Publicar un comentario