Administración del riesgo de la Inteligencia Artificial Generativa

La Inteligencia Artificial Generativa (GenAI por sus siglas en inglés) es una rama de la inteligencia artificial que permite crear contenido original partiendo de información existente, es decir, esto ya está en nuestras manos. ¿Estamos utilizando ChatGPT? eso es Inteligencia Artificial Generativa, y la GenAI es una herramienta de automatización muy potente que, entre otros temas, permite mejorar los procesos de una organización, siendo que lo que nos toca ahora es intentar recorrer el camino que ya se está trazando o ir haciendo camino, como decía Antonio Machado.

 El uso de GenAI requiere constancia, cambios rápidos y adaptación; es decir, agilidad y resiliencia empresarial. Para conseguir los mayores beneficios de esta tecnología innovadora se necesita administrar una amplia gama de riesgos considerando a la organización como un todo.

 En ese sentido, emergen los riesgos de integridad de la información, privacidad, ciberseguridad, cumplimiento, relacionamiento con terceros, obligaciones legales y de propiedad intelectual, entre otros. Es indudable que el esfuerzo y dedicación para este tipo de innovaciones serán ampliamente recompensados y permitirán una mayor competitividad que se convertirá en una ventaja, en tanto y en cuánto que estén haciendo los demás jugadores del mercado.

Por ello, los profesionales de riesgos deben y pueden ayudar a confirmar que la GenAI es confiable, es decir, adecuadamente privada, justa con el manejo de sesgos dañinos, válida, responsable, transparente, explicable e interpretable, entre otros aspectos de relevancia.

Si bien cada ejecutivo y usuario en la organización desempeña un rol importante, los líderes clave deben activar la IA responsable, de modo que la confianza por el diseño, no solo la velocidad, sea su propuesta de valor para los clientes, inversores, socios comerciales, empleados y la sociedad, así como todos los grupos de interés en su conjunto.

Nuevos y amplios riesgos que gestionar por especialidad y competencia

Desde las responsabilidades de cada una de las principales áreas / gerencias de una organización, se debe tomar en consideración, entre otros, los siguientes aspectos:

1)      Gerente de Administración y Finanzas / Contralor

Sin un gobierno y una supervisión adecuados, el uso de GenAI puede crear o exacerbar los riesgos financieros que ya son de gestión actual y que su uso incorrecto puede exponer a la empresa al riesgo de “alucinaciones” sobre hechos financieros, errores de razonamiento y una dependencia excesiva de los resultados que requieren cálculos numéricos, sobre todo en un entorno altamente regulado.

Los errores de información financiera no intencionales y muy visibles dan como resultado la pérdida de confianza de los clientes, los inversores, los reguladores y otras partes interesadas en general, provocando un grave daño a la imagen y reputación organizacional del que es extremadamente costoso y oneroso recuperarse.

2)     Gerente de seguridad de la información

La IA generativa puede reducir las barreras de entrada para los generadores de amenazas. ¿El riesgo más inmediato del qué preocuparse? Estamos refiriéndonos a phishing más sofisticado en términos de señuelos personalizados más convincentes utilizados en videos, sistemas de mensajería o audios “falsos” generados en vivo, haciéndose pasar por alguien familiar o en una posición de autoridad.

3)     Gerente de gobierno de datos y privacidad

Las aplicaciones GenAI podrían exacerbar los riesgos de vulneración de datos y privacidad; los modelos de lenguaje utilizan una gran cantidad de datos y generan aún más datos nuevos, que son vulnerables al sesgo, la mala calidad, el acceso no autorizado y la pérdida de información, entre otros.

GenAI, que puede almacenar información de entrada indefinidamente y usarla para correr otros modelos, podría infringir las normas de privacidad que restringen los usos secundarios de datos personales.

4)     Gerente de Asuntos Legales

Sin una estructura de gobierno y una supervisión adecuadas, el uso de la IA generativa por parte de una empresa puede igualmente generar o incentivar los riesgos legales. Las medidas laxas de seguridad de datos, por ejemplo, pueden exponer públicamente los secretos comerciales de la empresa y/u otra información de propiedad intelectual, así como datos de los clientes de la organización. No revisar minuciosamente los resultados generativos de IA puede dar lugar a imprecisiones, infracciones de cumplimiento, incumplimiento de contratos, infracción de derechos de autor, alertas de fraude erróneas, investigaciones internas defectuosas, comunicaciones dañinas con los clientes y daños a la reputación, entre otros. Para cuestionar y defender problemas relacionados con GenAI, los equipos legales necesitarán una comprensión técnica más profunda.

5)     Gerente de Cumplimiento

Con la IA generativa está surgiendo un enfoque ágil, colaborativo, regulatorio y de respuesta, lo que podría implicar un ajuste importante para los oficiales de cumplimiento al tratar de mantenerse al día con las nuevas regulaciones y de aplicar las regulaciones existentes a la IA generativa.

6)     Gerente de Auditoría Interna

Auditoría interna es un estamento de gobierno clave para confirmar de manera independiente que los sistemas de IA están diseñados e implementados de acuerdo con los objetivos de una empresa. Para crear un plan de auditoría basado en riesgos específicos para la IA generativa, esta área debe diseñar y adoptar nuevas metodologías y enfoques de trabajo, formas de supervisión y conjuntos de destrezas y habilidades diferenciadas. Es difícil e ineficaz evaluar los riesgos que plantean los sistemas de IA generativa al margen del contexto en el que se implementen, ya que evidente y obviamente se trata de un contexto muy diferente.

Para una IA confiable, hay que comenzar con una estructura robusta de gobernanza. Además, tener una estrategia alineada de gobierno de IA efectiva será vital, y muchas personas dentro y fuera de su organización como ingenieros y proveedores de datos; especialistas en el campo de la diversidad, la equidad, la inclusión y la accesibilidad; diseñadores de experiencia de usuario, líderes funcionales y gerentes de producto, pueden influir en la estrategia para usar la IA generativa de manera responsable.

Finalmente y en última instancia, la promesa de la IA generativa recae en nuestros talentos y colaboradores; debemos invertir en ellos para conocer los límites del uso de la tecnología como asistente, copiloto o tutor, incluso mientras se prueba o examina y se tome conciencia de su potencial. Es importante la adecuación de los programas de capacitación de una manera holística para que todos apliquemos nuestro conocimiento y experiencia para evaluar críticamente los resultados de los modelos generativos de IA, después de construir y adaptar las medidas de seguridad de cobertura de riesgos de nuestras organizaciones. Cada usuario inteligente debe ser un administrador de confianza.

“El éxito en la creación de IA sería el evento más grande en la historia de la humanidad.  Desafortunadamente, también podría ser el último, a menos que aprendamos a evitar los riesgos”. (Stephen Hawking).

COMENTARIOS

No hay comentarios.

DEJE SU COMENTARIO

La finalidad de este servicio es sumar valor a las noticias y establecer un contacto más fluido con nuestros lectores. Los comentarios deben acotarse al tema de discusión. Se apreciará la brevedad y claridad.


No se lee? Cambie el texto.


TODOS los blogs


Invirtiendo a futuro

Gino Bettocchi

La era inteligente

Rafael Lemor Ferrand

Doña cata

Rosa Bonilla

Blindspot

Alfonso de los Heros

Construyendo Xperiencias

Rodrigo Fernández de Paredes A.

Diversidad en acción

Pamela Navarro

Sin data no hay paraíso

Carlo Rodriguez

Conexión ESAN

Conexión ESAN

Conexión universitaria

Conexion-universitaria

Café financiero

 Sergio Urday

La pepa de Wall Street

Vania Diez Canseco Rizo Patrón

Comunicación en movimiento

Benjamín Edwards

Zona de disconfort

Alana Visconti

Universo físico y digital

Patricia Goicochea

Desde Columbia

Maria Paz Oliva

Inversión alternativa

James Loveday

Con sentido de propósito

Susy Caballero Jara

Shot de integridad

Carolina Sáenz Llanos

Detrás del branding

Daniela Nicholson

Persona in Centro

Cecilia Flores

Mindset en acción

Víctor Lozano

Marketing de miércoles

Jorge Lazo Arias

Derecho y cultura política

Adrián Simons Pino

VITAMINA ESG

Sheila La Serna

ID: Inteligencia Digital

por Eduardo Solis

Coaching para liderar

Mariana Isasi

El buen lobby

Felipe Gutiérrez

TENGO UNA QUEJA

Debora Delgado

De Pyme a Grande

Hugo Sánchez

Sostenibilidad integrada

Adriana Quirós C.

Gestión de la Gobernanza

Marco Antonio Zaldivar

Marca Personal 360º

Silvia Moreno Gálvez

Creatividad al natural

Andrés Briceño

Mindset de CEO

Carla Olivieri

Clic Digital

IAB Perú

Market-IN

Jose Oropeza

Cuadrando Cuentas

Julia y Luis

Liderazgo con ciencia

Mauricio Bock

Pluma Laboral

Alonso J. Camila

Economía e Integridad

Carlos Bustamante B.

Aprendiendo - nivel CEO

Francisco Pinedo

Portafolio Global

BlackRock

Menos face más book

Rafael Zavala Batlle

Visiones para el desarrollo

CAF –Banco de Desarrollo de América Latina y el Caribe–

Te lo cuento fácil

Alumnos de la Universidad del Pacífico

Fuera de la caja

María Camino

Orquestación Estratégica

Dr. Diego Noreña

Más allá del efectivo

Felipe Rincón

Mujer, ejecutiva y trasgresora

Zendy Manzaneda Cipriani

Disrupcion en la nube

Disrupción en la Nube

Revolución digital

Pablo Bermudez

Economía desde el campus

Grupo Económica

Síntesis legislativa

José Ignacio Beteta Bazán

La parábola del mudo

Javier Dávila Quevedo

Arturo Goga

Arturo Goga

Sumando Valores

Superintendencia del Mercado de Valores

@infraestructura

Rosselló Abogados

Minería 2021

Instituto de Ingenieros de Minas del Perú (IIMP)

Conciencia Corporativa

Verónica Roca Rey

Agenda Legal

Estudio Echecopar

Perspectiva Forestal

Comité Forestal SNI y Comité de Madera e Industria de la Madera ADEX

Pensando laboralmente

César Puntriano

Auditoria del Siglo 21

Karla Barreto

Economía conductual

Bertrand Regader

Cultura financiera

Walter Eyzaguirre

Triple enfoque

Cecilia Rizo Patrón

Gestiona tus Finanzas

Giovanna Prialé Reyes

Segunda opinión

Eduardo Herrera Velarde

Parte de Guerra

Pablo O'Brien

El cine es un espejo

Raúl Ortiz Mory

Ruarte's - Washington Capital

R. Washington Lopez

Atalaya Económica

Manuel Romero Caro

Terapia de Pareja

Luciana Olivares

Próspero Perú

Gladys Triveño

Herejías Económicas

Germán Alarco

Inversión e Infraestructura

Profesor de ESAN Graduate School of Business Sergio Bravo Orellana

Blog Universitario

Blog Universitario

Juegomaniáticos

Juan Pablo Robles

Gestión del Talento

Ricardo Alania Vera

Querido Gerente

Ana Romero

Millennials

Pamela Romero Wilson

Reglas de Juego

Pierino Stucchi

Humor S.A.

Jaime Herrera

Bitácora bursátil.

Equipo de Análisis de Intéligo SAB

Vivir Seguro

Asociación Peruana de Empresas de Seguros

El deporte de hacer negocios

Luis Carrillo Pinto

Zona de Intercambio

Julio Guadalupe

Innovar o ser cambiado

Andy Garcia Peña

Economía aplicada

Juan Mendoza

El Vino de la Semana

José Bracamonte

Carpeta Gerencial

IE Business School

Desafíos para el progreso

Banco Interamericano de Desarrollo

Diálogo a fondo

Fondo Monetario Internacional

Predio legal

Martín Mejorada

e-strategia

José Kusunoki Gutiérrez

Vinos, piscos y mucho más

Sommelier Giovanni Bisso

Palabra de Gestión

Julio Lira Segura

Impacto ambiental

Lorenzo de la Puente

Inversiones Globales

Carlos Palomino Selem

Moda Inc.

Daniel Trelles

Divina Ejecutiva

Fiorella

Menú Legal

Oscar Sumar

Analizando tus inversiones

Diego Alonso Ruiz

Reformas incompletas

Instituto Peruano de Economía

Empresa&Familia

Pablo Domínguez

Hoy sí atiendo provincias

Félix Villanueva - Aurum Consultoría y Mercado

Smart money

Luis Ramírez

Consumer Psyco

Cristina

Gestión de servicios

Otto Regalado Pezúa

Marketing 20/20

Michael Penny

Mercados&Retail

Percy Vigil Vidal

CAFÉ TAIPÁ

Milton Vela

Anuncias, luego existes

Alexander Chiu Werner

Marcas & Mentes

Lizardo Vargas Bianchi

Riesgos Financieros

Gregorio Belaunde

Economía para todos

Carlos Parodi

De regreso a lo básico

Paúl Lira Briceño