MÓDULO V. Riesgos y recomendaciones para el uso de Inteligencia Artificial

RIESGOS EN EL USO DE LA IA

La implementación de Inteligencia Artificial puede generar algunos riesgos,  los cuales pueden ser prevenidos con una gestión operativa, tecnológica, y jurídica efectiva por parte de la compañía. A continuación, se presentan los riesgos más recurrentes que pueden llegarse a producir, y que deben ser gestionados para hacer un uso responsable y adecuado de esta tecnología.

Riesgos generales

1. No son fuentes oficiales ni fidedignas.

2. Las herramientas y plataformas de IA pueden utilizar la información que se ingresa en las para alimentar la base de datos propia del programa y por ende, no se puede ingresar información confidencial de la Compañía o datos personales de los empleados, clientes, contratistas y/o proveedores sin autorización previa, expresa e informada.

Riesgos en materia de propiedad intelectual

1. Es posible que la IA utilice elementos que se encuentran protegidos por la Propiedad Intelectual, como marcas registradas u obras protegidas por derechos de autor, sin contar con la debida autorización para ello. En ese sentido, es esencial que Éxito verifique cuidadosamente que los elementos usados por la IA sean suyos, de uso libre, o se cuente con la autorización para su uso.

2. Debe tenerse en cuenta que la postura mayoritaria de los expertos encuentra que las creaciones producidas por la IA no son susceptibles de protección por los derechos de autor, así que, a no ser que la creación sea susceptible de protección por otra rama de la Propiedad Intelectual por vía de registro, es probable que terceros, incluso en el mismo mercado en el que Éxito se desempeña, puedan usarlas.

Riesgos en materia de protección de datos personales

1. Verificar el cumplimiento de la normativa aplicable de Protección de Datos Personales al interior de la Compañía: Es pertinente tener en cuenta que la información que se incluya o se utilice por medio de las herramientas y plataformas de IA no contengan datos personales de empleados, clientes, proveedores, contratistas o cualquier tercero perteneciente a la Compañía, a menos que se cuente con la autorización previa, expresa e informada.

2. Efectuar o verificar el impacto del uso de las herramientas o plataformas de IA: En el caso en el cual se utilicen herramientas para automatizar procesos de operaciones de la Compañía, se deben tomar las medidas de seguridad pertinentes para evitar brechas o incidentes de seguridad de la información.

3. Aplicación del principio de responsabilidad demostrada: Para materializar y reconocer el principio de responsabilidad demostrada o accountability descrito por medio de la sección Legislación y Regulación, se recomienda adoptar medidas útiles y apropiadas para evidenciar y demostrar el cumplimiento con la normativa aplicable de protección de datos personales. Para esto, las herramientas utilizadas deben ser evaluadas y analizadas en cuanto al grado de cumplimiento que presentan ante la normativa relevante.

CÓMO PROTEGER A LA COMPAÑÍA

Es necesario estar atento antes, durante y después del uso de la Inteligencia Artificial, de diferentes factores que puedan poner en riesgo a la compañía, sin embargo, es necesario reconocer que la IA es una herramienta muy útil y que su uso puede ser enriquecedor. Por esto, a continuación, encontrarán recomendaciones acerca de cómo proteger a la empresa en estos tres momentos del uso de la IA para poder sacarle el mayor provecho.

Antes: Verificar si la información que se va a ingresar o alojar en las plataformas contiene datos personales o confidenciales de empleados, contratistas, clientes de la Compañía, o elementos protegidos por la propiedad intelectual.

Adicionalmente, se recomienda consultar a tus superiores si la tarea que vas a desempeñar puede realizarse con apoyo de Inteligencia Artificial, y si la manera en la que vas a aplicar la IA es pertinente.

Durante: En el proceso de utilizar una herramienta de IA verificar que la información, pieza grafica o diseño efectivamente contenga información fidedigna y confiable. Ya que como se expone anteriormente, las herramientas pueden arrojar resultados basados en información o datos ficticios o inventados.

Después: La información o piezas graficas generadas por una herramienta de IA que serán publicadas por parte de la Compañía deberán ser revisadas o verificadas por el área correspondiente previo a su publicación para evitar caer en errores y patrones repetidos por las herramientas, entre los cuales se pueden encontrar, por ejemplo, violaciones a la Propiedad Intelectual de terceros.

RECOMENDACIONES EN LOS CONTRATOS

Si bien para el uso de la IA y su regulación en contratos revisados, firmados, elaborados y/o desarrollados por la Compañía, se tendría que analizar caso a caso respecto a que tipo de herramienta y contrato se está enfrentando, a continuación, les brindamos unas recomendaciones generales que pueden ser una guía a la hora de encontrarse frente a contratos que contengan disposiciones de herramientas, plataformas o posibles usos de la IA o incluso en caso de incorporar insumos fabricados por la IA dentro de contratos:

1. Los contratos son dinámicos y cambiantes por lo cual es pertinente recordar que al generar estos mismos con insumos y el uso de IA, se deben verificar el cumplimiento de requisitos mínimos y lineamientos acorde con la normativa aplicable dependiendo del tipo de contrato que se pretenda construir.

2. Implementar el uso adecuado de las herramientas de IA en la ejecución del contrato, toda vez que se reconozca que las piezas gráficas, informativas o escritos potenciados o producidos por medio de herramientas de IA que podrán eventualmente ser parte del objeto del contrato, se utilicen debidamente.

3. Se debe tener en cuenta que, si se celebra un contrato con un tercero, y alguna de las partes involucradas (ya sea el tercero o el Éxito) decide hacer uso de la IA en la ejecución del contrato, la parte que decide usarla deberá ser responsable por las consecuencias del uso de la misma.