El debate global sobre inteligencia artificial avanza rápido y Paraguay empieza a alinearse con esos estándares. Alex Berkemeyer, socio del estudio jurídico BKM Berkemeyer sostuvo durante el Summit IA que lo legal dejó de ser un freno para convertirse en la estructura que sostiene el uso seguro de la tecnología. 

"Lo legal es el riel por donde viaja el tren. Si no hay rieles, el tren descarrila", afirmó.

La tendencia internacional que va desde la Recomendación de Ética de la IA de la UNESCO hasta la reciente aprobación del AI Act europeo marca un mensaje que es que la tecnología no puede funcionar como una caja negra. 

En este contexto, la promulgación de la Ley de Protección de Datos Personales coloca a Paraguay en sintonía con las grandes economías y establece obligaciones específicas para las empresas que utilicen sistemas de IA.

Según Berkemeyer, estar al día con esta normativa deja de ser un gesto de ética corporativa para transformarse en una necesidad jurídica y sobre todo, en una oportunidad, el cumplimiento será una ventaja competitiva para quienes adopten la transición con anticipación.

La nueva ley: decisiones automatizadas, responsabilidad y sanciones

La norma introduce cambios en la forma en que las empresas manejan datos y automatizan procesos:

Regulación directa de la IA: por primera vez se incorporan artículos que cubren decisiones automatizadas y elaboración de perfiles.

Responsabilidad activa: deja de ser aceptable alegar desconocimiento. La carga está en demostrar prácticas adecuadas de protección de datos.

Sanciones importantes: las multas pueden llegar a 10.000 jornales mínimos, además del daño reputacional derivado de una sanción pública.

Aunque la ley tendrá una vacatio legis de 24 meses, el abogado fue contundente al advertir que ese plazo debe interpretarse como una cuenta regresiva para adecuar sistemas, entrenar algoritmos explicables y revisar contratos.  "Quien empiece la adecuación en el mes 23 va a tener un aterrizaje muy forzoso", señaló.

Cuando el chatbot promete lo que no debe

El uso cotidiano de herramientas como ChatGPT o filtros automatizados ya genera riesgos concretos para empresas y organizaciones. 

Sobre el punto Berkemeyer citó el caso de Air Canada, donde un chatbot inventó una política inexistente y la aerolínea intentó responsabilizar al sistema. El tribunal rechazó ese argumento y la empresa fue condenada. Su reflexión para el mercado local fue clara: la responsabilidad siempre recae en la empresa, incluso cuando la decisión fue tomada por un modelo de IA.

En Paraguay, bajo la nueva ley, si un chatbot promete un descuento inexistente, ofrece un consejo financiero equivocado o discrimina en un proceso de selección, la empresa deberá responder legalmente.

La "caja negra" y los derechos del ciudadano

Uno de los avances más relevantes regula las decisiones automatizadas en áreas como recursos humanos, banca o seguros. 

El socio jurídico mencionó que el ciudadano tiene derecho a no ser objeto de una decisión puramente algorítmica cuando ésta tenga un impacto jurídico significativo, y además puede exigir una explicación del funcionamiento del sistema y solicitar intervención humana.

Planteó también que con la nueva ley paraguaya, situaciones similares podrían desembocar tanto en sanciones como en reclamos individuales.

Hoja de ruta: cómo prepararse desde hoy

Finalmente Alex Berkemeyer planteó tres pasos como las piedras angulares para que las empresas empiecen la transición hacia un modelo de gobernanza de IA acorde a los nuevos estándares.

Para gestionar de manera ética y responsable la adopción de inteligencia artificial en las organizaciones, se recomienda primero la creación de un Comité de IA. 

Este debe ser multidisciplinario y tendrá la misión de definir la gobernanza ética, establecer mejores prácticas y anticipar la futura designación de un Oficial de Protección de Datos, asegurando así que todas las iniciativas de IA se desarrollen bajo criterios claros de responsabilidad y cumplimiento normativo.

Además, el comité debe elaborar un inventario de IA, mapeando todas las herramientas utilizadas por los empleados, incluyendo aquellas que surgen de manera no oficial, conocidas como "shadow AI", y realizando auditorías de chatbots o sistemas de atención automatizada. 

Complementariamente, se debe establecer la regla del "humano al volante": toda decisión crítica asistida por IA debe contar con revisión humana, posicionando a la tecnología como copiloto mientras que la responsabilidad final permanece en manos del piloto humano.

El especialista concluyó que Paraguay ya cuenta con el marco normativo necesario para competir en las grandes ligas digitales. El desafío ahora es aprovechar los próximos 24 meses para ordenar procesos y convertir el cumplimiento legal en un motor de competitividad.