Las últimas semanas he tenido la oportunidad de conocer dos noticias que me han hecho reflexionar acerca de los riesgos derivados del mal uso de las inteligencias artificiales (IA) o de la apropiación de la propiedad de las obras creadas por aquellas. La primera, reporta que Turnitin (la herramienta que permite analizar la originalidad de un trabajo académico) ha desarrollado una tecnología que permite detectar textos generados por IA (Ver noticia aqui) y, la segunda, reporta que Spotify se encuentra eliminando de su base de datos musical aquellas canciones creadas por IA (Ver noticia aqui) .

En ambos casos nos enfrentamos al uso antiético de la propiedad intelectual ajena; pero, conviene preguntarnos ¿Qué otros riesgos éticos podemos prever (y de ser el caso, enfrentar) en lo que respecta a su funcionamiento, programación o “alimentación”? En este artículo trataremos de proponer una aproximación a dicha incertidumbre.

Para empezar, tengamos en cuenta algunos conceptos básicos para entender esta tecnología:

1. La IA se refiere a la capacidad de las máquinas para realizar tareas que normalmente requieren inteligencia humana, como el aprendizaje, el razonamiento y la toma de decisiones. A diferencia de los programas de software tradicionales, que siguen instrucciones específicas, la IA puede aprender y mejorar por sí misma a través de la experiencia y la interacción con el mundo.
2. Existen dos tipos principales de inteligencia artificial: la IA débil y la IA fuerte. La IA débil se refiere a sistemas que están diseñados para realizar tareas específicas, como la detección de fraudes en las transacciones financieras. La IA fuerte, por otro lado, se refiere a sistemas que pueden realizar tareas generales de manera independiente, como la conducción de vehículos autónomos.
3. La IA funciona mediante el uso de algoritmos complejos que permiten que las máquinas aprendan de los datos que se les proporcionan. Estos algoritmos pueden ser supervisados o no supervisados. En el aprendizaje supervisado, la IA se entrena utilizando un conjunto de datos etiquetados, mientras que en el aprendizaje no supervisado, la IA aprende a partir de un conjunto de datos sin etiquetar.
4. El corpus es el conjunto de datos utilizado para entrenar a la IA. El corpus puede ser creado por humanos, a través de la recopilación y etiquetado de datos, o por la propia IA a través de la exploración del mundo y la interacción con él. Es importante tener en cuenta que la calidad del corpus utilizado para entrenar a la IA puede afectar en gran medida la precisión y la eficacia de la IA en la realización de tareas.

La IA es una tecnología disruptiva que está transformando la forma en que hacemos negocios, vivimos nuestras vidas y enfrentamos los desafíos globales. A medida que la IA se convierte en una parte cada vez más importante de nuestras quehacer diario, se hace evidente que su impacto no solo es tecnológico, sino también social y ético. 

Uno de los mayores riesgos éticos de la IA es la discriminación. Debido a que la IA funciona a través de algoritmos que se basan en un “corpus” de información que le ha sido provisto por sus creadores, existe el riesgo de que los prejuicios humanos se integren en el proceso de toma de decisiones. Si el corpus está sesgado, la IA puede perpetuar y ampliar los problemas existentes en lugar de reducirlos.

Otro riesgo importante es la privacidad. La IA se basa en grandes cantidades de datos (muchas veces datos personales) para funcionar, y si esos datos no se manejan adecuadamente, pueden ser utilizados para perjudicar a las personas en cuestión de segundos. Es crucial que las empresas y los desarrolladores de IA proporcionen opciones claras para que los usuarios opten por no compartir ciertos datos. Además, es importante que las empresas no compartan información personal con terceros sin el consentimiento explícito del usuario y adopten prácticas éticas en el manejo de los datos.

La transparencia y la responsabilidad también son fundamentales para garantizar que la IA se utilice de manera responsable. Los usuarios deben saber cómo se están utilizando sus datos y cómo se están tomando las decisiones en su nombre. Además, deben existir mecanismos claros de responsabilidad en caso de que se produzcan resultados negativos. Las empresas deben ser transparentes sobre cómo la IA toma las decisiones y deben proporcionar opciones claras para que los usuarios puedan apelar o cuestionar decisiones tomadas en su contra.

Entonces, ¿cómo podemos abordar estos riesgos éticos y asegurarnos de que la IA se utilice de manera segura y responsable? Aquí hay algunas recomendaciones clave para los desarrolladores de soluciones de IA:

• Fomentar la diversidad y la inclusión en el desarrollo de la IA

La diversidad y la inclusión son fundamentales para garantizar que la IA se desarrolle de manera ética y responsable. Todos los grupos de la sociedad deben estar representados en el desarrollo y la implementación de la IA para asegurarse de que no se perpetúen actitudes intolerantes o la cancelación de voces disidentes. La diversidad también puede mejorar la creatividad y la innovación en el desarrollo de la IA.

• Implementar una evaluación ética

La evaluación ética es una herramienta importante para asegurarse de que la IA se desarrolle y se utilice de manera ética. La evaluación ética debe ser una parte integral del proceso de desarrollo de la IA y debe incluir la identificación de posibles riesgos éticos, la evaluación de cómo se están utilizando los datos y cómo se están tomando las decisiones en nombre de los usuarios. 

• Desarrollar y utilizar algoritmos imparciales

Es fundamental que se desarrollen y utilicen algoritmos imparciales para garantizar que la IA no beneficie a una corriente de pensamiento frente a otras. Los desarrolladores de IA deben trabajar para identificar y eliminar cualquier sesgo en los algoritmos utilizados y deben asegurarse de que los datos utilizados para entrenar a la IA sean representativos y no excluyentes.

• Proporcionar transparencia y opciones claras para los usuarios

Es importante que las empresas proporcionen transparencia y opciones claras para los usuarios en cuanto a cómo se están utilizando sus datos y cómo se están tomando las decisiones en su nombre. Los usuarios deben tener la opción de optar por no compartir ciertos datos y deben tener acceso a información clara sobre cómo se están tomando las decisiones en su nombre.

Por otro lado, tanto los Estados como los usuarios pueden tomar medidas proactivas. A continuación, se presentan algunas recomendaciones:

1. Para los estados:

• Establecer marcos éticos y regulaciones claras para la IA.
• Invertir en la investigación y el desarrollo de la IA ética y responsable.
• Fomentar la transparencia y la rendición de cuentas en la toma de decisiones de la IA.
• Educación sobre los riesgos de la IA y cómo proteger la privacidad y seguridad de los usuarios.

2. Para los usuarios:

• Aprender sobre los riesgos de la IA y cómo proteger su privacidad y seguridad en línea.
• Utilizar herramientas de privacidad en línea, como bloqueadores de anuncios y VPNs.
• Revisar y comprender los términos y condiciones de uso de las aplicaciones y servicios que utilizan.
• Reportar cualquier comportamiento sospechoso o preocupante relacionado con la IA a las autoridades correspondientes.

En conclusión, la IA tiene el potencial de transformar nuestras vidas de maneras positivas, pero también presenta riesgos éticos significativos. Es importante que los desarrolladores de IA, las empresas, los estados y los usuarios trabajemos juntos para garantizar que la IA se desarrolle y se utilice de manera ética y responsable.