¿Qué deben tomar en cuenta las empresas que utilizan inteligencia artificial generativa?
El "uso responsable, legal y ético" de la IA generativa debe ser una prioridad para las compañías, de acuerdo a una guía difundida por el Future of Privacy Forum.

¿Qué deben tomar en cuenta las empresas que utilizan inteligencia artificial generativa?

|
24/8/2023 06:33
|
Actualizado: 25/8/2023 08:59
|

Una de las funciones más discutidas y polémicas de la inteligencia artificial (IA) es la de generar textos e imágenes, así como otros formatos, como respuesta a comandos específicos por parte de los usuarios, un uso que aprovechan modelos como ChatGPT y Midjourney, y ahora, las empresas que quieren aprovechar esta tecnología deben buscar la manera de mantenerse en la delantera sin cometer infracciones en un campo jurídico aún en desarrollo.

El «uso responsable, legal y ético» de la IA generativa debe ser una prioridad para las compañías, de acuerdo con la guía difundida por el Future of Privacy Forum (Foro por el futuro de la privacidad) que recoge varias recomendaciones en la forma de una lista de tareas para el diseño de políticas internas que minimice los riesgos de seguridad y privacidad a la vez que respete los derechos de propiedad intelectual.

Conformidad con las normativas de protección de datos

El FPF recomienda designar a trabajadores especializados o incluso a equipos para que revisen que las políticas y procedimientos internos de la compañía se ajusten a los usos permitidos por la normativa que restringe el uso de la IA generativa. Así, deben asegurarse de conocer las disposiciones legales que marcan cómo los empleados deben aplicar esta tecnología.

Para compartir datos con terceros, se deben chequear todos los requerimientos de acuerdo a las leyes de los países involucrados, dado el hecho de que la compañía opere a nivel internacional, igual que asegurar el acceso a contenidos específicos y su eliminación cuando sea necesaria.

Formación y entrenamiento de los empleados

La educación en lo que respecta al uso de IA en el trabajo es uno de los pilares en los que se apoya el ‘compliance’ recomendado por esta guía. El entrenamiento y la disponibilización de recursos que ayuden a reconocer las responsabilidades y sesgos en la generación de contenido de IA debería tener una cierta regularidad para adaptarse a una normativa dinámica y actualizada.

Esto incluye contenidos en las diferentes maneras en que los datos derivados de la IA pueden caer en la imprecisión o incluso en infracciones, cuestiones que requieren de sesiones regulares con especialistas en el tema mientras avance la legislación.

Transparencia del uso de IA por parte de los empleados

Las empresas tienen la responsabilidad de orientar a sus trabajadores sobre «las implicaciones y consecuencias de usar IA generativa en el sitio de trabajo», incluyendo cuándo se puede aplicar o si existen aplicaciones restringidas en el uso de estas herramientas, pero también de notificar a usuarios y clientes sobre el mismo y la aclaración de que se encuentra bajo las disposiciones legales.

Los sistemas de ‘compliance’ y ‘accountability’ ofrecen un marco de regulación que puede resultar de suma utilidad, pero también hace falta un sistema de comunicación externa (entre la empresa y clientes o autoridades supervisoras) e interna (entre empleados), así como la protección de datos de todos los que interactúen con la IA y la compañía.

Verificación de los resultados de la IA

Todos los trabajadores que usan IA generativa deben comprobar los resultados que hacen estas herramientas y verificar su precisión en cuanto a posibles sesgos e infracciones de propiedad intelectual, así como la seguridad y solidez del código informático que provea en estos casos.

Estas imprecisiones incluyen la desactualización en la información, sesgos en las bases de las que se toma y faltas en su contexto que pudieran llevar a conclusiones erróneas. La infracción en propiedades intelectuales y atentados no intencionales contra la dignidad de los individuos se volverá un riesgo cada vez más costoso mientras avance la regulación de la IA.

Noticias Relacionadas:
Lo último en Áreas y sectores