La Inteligencia Artificial Generativa (GenAI por sus siglas en inglés) es una rama de la inteligencia artificial que permite crear contenido original partiendo de información existente, es decir, esto ya está en nuestras manos. ¿Estamos utilizando ChatGPT? eso es Inteligencia Artificial Generativa, y la GenAI es una herramienta de automatización muy potente que, entre otros temas, permite mejorar los procesos de una organización, siendo que lo que nos toca ahora es intentar recorrer el camino que ya se está trazando o ir haciendo camino, como decía Antonio Machado.

 El uso de GenAI requiere constancia, cambios rápidos y adaptación; es decir, agilidad y resiliencia empresarial. Para conseguir los mayores beneficios de esta tecnología innovadora se necesita administrar una amplia gama de riesgos considerando a la organización como un todo.

 En ese sentido, emergen los riesgos de integridad de la información, privacidad, ciberseguridad, cumplimiento, relacionamiento con terceros, obligaciones legales y de propiedad intelectual, entre otros. Es indudable que el esfuerzo y dedicación para este tipo de innovaciones serán ampliamente recompensados y permitirán una mayor competitividad que se convertirá en una ventaja, en tanto y en cuánto que estén haciendo los demás jugadores del mercado.

Por ello, los profesionales de riesgos deben y pueden ayudar a confirmar que la GenAI es confiable, es decir, adecuadamente privada, justa con el manejo de sesgos dañinos, válida, responsable, transparente, explicable e interpretable, entre otros aspectos de relevancia.

Si bien cada ejecutivo y usuario en la organización desempeña un rol importante, los líderes clave deben activar la IA responsable, de modo que la confianza por el diseño, no solo la velocidad, sea su propuesta de valor para los clientes, inversores, socios comerciales, empleados y la sociedad, así como todos los grupos de interés en su conjunto.

Nuevos y amplios riesgos que gestionar por especialidad y competencia

Desde las responsabilidades de cada una de las principales áreas / gerencias de una organización, se debe tomar en consideración, entre otros, los siguientes aspectos:

1)      Gerente de Administración y Finanzas / Contralor

Sin un gobierno y una supervisión adecuados, el uso de GenAI puede crear o exacerbar los riesgos financieros que ya son de gestión actual y que su uso incorrecto puede exponer a la empresa al riesgo de “alucinaciones” sobre hechos financieros, errores de razonamiento y una dependencia excesiva de los resultados que requieren cálculos numéricos, sobre todo en un entorno altamente regulado.

Los errores de información financiera no intencionales y muy visibles dan como resultado la pérdida de confianza de los clientes, los inversores, los reguladores y otras partes interesadas en general, provocando un grave daño a la imagen y reputación organizacional del que es extremadamente costoso y oneroso recuperarse.

2)     Gerente de seguridad de la información

La IA generativa puede reducir las barreras de entrada para los generadores de amenazas. ¿El riesgo más inmediato del qué preocuparse? Estamos refiriéndonos a phishing más sofisticado en términos de señuelos personalizados más convincentes utilizados en videos, sistemas de mensajería o audios “falsos” generados en vivo, haciéndose pasar por alguien familiar o en una posición de autoridad.

3)     Gerente de gobierno de datos y privacidad

Las aplicaciones GenAI podrían exacerbar los riesgos de vulneración de datos y privacidad; los modelos de lenguaje utilizan una gran cantidad de datos y generan aún más datos nuevos, que son vulnerables al sesgo, la mala calidad, el acceso no autorizado y la pérdida de información, entre otros.

GenAI, que puede almacenar información de entrada indefinidamente y usarla para correr otros modelos, podría infringir las normas de privacidad que restringen los usos secundarios de datos personales.

4)     Gerente de Asuntos Legales

Sin una estructura de gobierno y una supervisión adecuadas, el uso de la IA generativa por parte de una empresa puede igualmente generar o incentivar los riesgos legales. Las medidas laxas de seguridad de datos, por ejemplo, pueden exponer públicamente los secretos comerciales de la empresa y/u otra información de propiedad intelectual, así como datos de los clientes de la organización. No revisar minuciosamente los resultados generativos de IA puede dar lugar a imprecisiones, infracciones de cumplimiento, incumplimiento de contratos, infracción de derechos de autor, alertas de fraude erróneas, investigaciones internas defectuosas, comunicaciones dañinas con los clientes y daños a la reputación, entre otros. Para cuestionar y defender problemas relacionados con GenAI, los equipos legales necesitarán una comprensión técnica más profunda.

5)     Gerente de Cumplimiento

Con la IA generativa está surgiendo un enfoque ágil, colaborativo, regulatorio y de respuesta, lo que podría implicar un ajuste importante para los oficiales de cumplimiento al tratar de mantenerse al día con las nuevas regulaciones y de aplicar las regulaciones existentes a la IA generativa.

6)     Gerente de Auditoría Interna

Auditoría interna es un estamento de gobierno clave para confirmar de manera independiente que los sistemas de IA están diseñados e implementados de acuerdo con los objetivos de una empresa. Para crear un plan de auditoría basado en riesgos específicos para la IA generativa, esta área debe diseñar y adoptar nuevas metodologías y enfoques de trabajo, formas de supervisión y conjuntos de destrezas y habilidades diferenciadas. Es difícil e ineficaz evaluar los riesgos que plantean los sistemas de IA generativa al margen del contexto en el que se implementen, ya que evidente y obviamente se trata de un contexto muy diferente.

Para una IA confiable, hay que comenzar con una estructura robusta de gobernanza. Además, tener una estrategia alineada de gobierno de IA efectiva será vital, y muchas personas dentro y fuera de su organización como ingenieros y proveedores de datos; especialistas en el campo de la diversidad, la equidad, la inclusión y la accesibilidad; diseñadores de experiencia de usuario, líderes funcionales y gerentes de producto, pueden influir en la estrategia para usar la IA generativa de manera responsable.

Finalmente y en última instancia, la promesa de la IA generativa recae en nuestros talentos y colaboradores; debemos invertir en ellos para conocer los límites del uso de la tecnología como asistente, copiloto o tutor, incluso mientras se prueba o examina y se tome conciencia de su potencial. Es importante la adecuación de los programas de capacitación de una manera holística para que todos apliquemos nuestro conocimiento y experiencia para evaluar críticamente los resultados de los modelos generativos de IA, después de construir y adaptar las medidas de seguridad de cobertura de riesgos de nuestras organizaciones. Cada usuario inteligente debe ser un administrador de confianza.

“El éxito en la creación de IA sería el evento más grande en la historia de la humanidad.  Desafortunadamente, también podría ser el último, a menos que aprendamos a evitar los riesgos”. (Stephen Hawking).