La práctica de emplear “Shadow AI” implica esencialmente proyectos o iniciativas desarrolladas dentro de una organización sin aprobación oficial o en ausencia del respaldo de los departamentos de TI u otras entidades responsables de gestionar la tecnología AI. Estos proyectos suelen ser llevados a cabo por empleados individuales o equipos pequeños que utilizan herramientas y técnicas de AI ad-hoc para abordar necesidades específicas. Aunque el uso de sistemas de AI puede ofrecer numerosas ventajas, como innovación rápida o mayor eficiencia operativa, también conlleva una serie de riesgos significativos que deben gestionarse con cuidado.
Uno de los riesgos más críticos asociados con el uso de Shadow AI tiene que ver con el manejo no controlado de datos, ya que estos sistemas pueden procesar categorías sensibles de datos personales de maneras que no cumplen con las regulaciones legales o las políticas de privacidad de la empresa. Además, el uso no autorizado de AI puede llevar a riesgos de seguridad de datos, ya que estos sistemas pueden no cumplir totalmente con los estándares de ciberseguridad. Además, una implicación significativa del uso de Shadow AI se refiere al funcionamiento de sistemas sin mecanismos adecuados de supervisión, auditoría o responsabilidad.
En consecuencia, para prevenir o abordar posibles consecuencias negativas derivadas del uso por parte de los empleados de Shadow AI, los empleadores deben implementar un conjunto de medidas apropiadas. En este sentido, sería efectiva la actualización de los reglamentos internos, la redacción e implementación de una política, y el establecimiento de un proceso de aprobación que incluya, entre otras cosas, una evaluación de riesgos y beneficios, proceso en el cual los empleados deben solicitar aprobación oficial para iniciar proyectos o iniciativas que impliquen el uso de tecnología AI.
En este contexto, las medidas tomadas por los empleadores con respecto a la prevención y combate del uso ilegítimo de Shadow AI deben centrarse en la actualización de la documentación interna relacionada con las relaciones laborales, así como en la documentación sobre la protección de datos personales y la seguridad informática.
Para obtener más información o realizar consultas adicionales, no dudes en contactarnos:
➡ Teléfono: (+4) 031 426 0745
📧 Correo electrónico: office@grecupartners.ro
Estamos aquí para ayudar y proporcionar apoyo legal para todas tus necesidades. Esperamos con interés discutir contigo.
Ana Maria Nistor
