El uso de la inteligencia artificial para el sector privado todavía sigue sin regulación

Aunque la inteligencia artificial, IA, se ha convertido en una herramienta fundamental para el mundo empresarial, su regulación en Colombia es muy pobre. En el Congreso se ha intentado debatir algunos proyectos para delimitar los alcances de esta tecnología; sin embargo, la normativa sigue sin ser clara para compañías y consumidores.

Juan Sebastián Gómez, asociado principal del área de derecho digital de PPU, señaló que hay marcos jurídicos transversales que dictan los parámetros para utilizar la IA, y que la jurisprudencia para esta tecnología debe privilegiar al ser humano y su bienestar.

¿Cómo va la regulación de la IA en Colombia?

Hoy no existe una norma integral que clasifique o prohíba determinados sistemas de IA, ni que establezca requisitos mínimos de funcionamiento, obligaciones de transparencia o esquemas obligatorios de auditorías. No obstante, el país ha demostrado interés en contar con una regulación más estructurada.

Aunque una buena parte de la regulación específica que actualmente existe sobre IA es aplicable exclusivamente al sector público, en ella aparecen principios como la supervisión humana, no discriminación, responsabilidad y trazabilidad, y herramientas de gestión (evaluaciones, auditorías y capacitaciones), que pueden servir como marco de referencia para el sector privado.

¿Cómo se aplica la regulación de la IA en las empresas?

Las empresas deben tener en cuenta el marco jurídico transversal existente. Esto las obliga a hacer un análisis jurídico caso a caso, enfocándose principalmente en cuestiones como protección de datos personales, garantía de no discriminación, transparencia en la información y en la toma de decisiones, seguridad de la información, responsabilidad por daños, propiedad intelectual y respeto por los derechos fundamentales.

¿Qué leyes vigentes se aplican indirectamente al uso de IA?

Ante la falta de regulación específica en materia de IA, existen otras normas jurídicas que resultan aplicables a este tipo de tecnologías. Por ejemplo, la regulación colombiana de protección de datos es neutral desde el punto de vista temático y tecnológico. Esto quiere decir que puede aplicarse a cualquier tipo de tratamiento de datos personales, incluido el que se realice para desarrollar, entrenar, monitorear, usar o implementar sistemas de IA.

Por su parte, el Estatuto del Consumidor exige que la información que se proporcione a los consumidores sea veraz, suficiente, oportuna, transparente y comprobable. Prohíbe y brinda protecciones contra la publicidad engañosa y establece el derecho de los consumidores a la seguridad e indemnidad.

¿Qué riesgos legales enfrenta hoy una empresa que implementa IA sin controles?

El primer frente de riesgo está en la privacidad y la protección de datos; por ejemplo, el tratamiento ilícito por ausencia de base jurídica, las finalidades vagas y no informadas, las medidas de seguridad insuficientes o las transferencias internacionales sin garantías adecuadas pueden conducir a sanciones, o acciones de tutela por vulneración del derecho al habeas data.

Otro punto clave es la discriminación algorítmica, especialmente en el sector laboral, educativo o de crédito, ya que pueden darse reclamaciones civiles y acciones de tutela.

¿Qué pasa si una IA comete un error que causa daño? ¿Quién responde legalmente?

La ausencia de un régimen especial sobre la responsabilidad derivada de los daños causados por sistemas de IA implica que debe recurrirse a las normas y principios generales de la responsabilidad civil.

Allí existen discusiones en cuanto a si el uso de la IA es una actividad peligrosa, si se trata de un régimen de responsabilidad subjetiva u objetiva, si existe responsabilidad solidaria o si puede presumirse el nexo causal.

Desde el punto de vista probatorio, puede resultar bastante complejo probar la culpa y el nexo causal debido a la opacidad en estos sistemas.