Millones de personas ya utilizan modelos de lenguaje para responder preguntas que hace apenas unos años reservaban para abogados, médicos, terapeutas o asesores financieros. Lo hacen por conveniencia, velocidad y costo. Sin embargo, una realidad incómoda comienza a emerger: muchas de esas conversaciones no son privadas en el sentido legal que la mayoría de los usuarios imagina.

La percepción de intimidad que genera una conversación con un “chatbot” es poderosa. La interfaz se asemeja a un chat personal, el tono es empático y las respuestas parecen diseñadas para una sola persona. Pero la apariencia de confidencialidad no equivale a protección jurídica. Recientes decisiones judiciales en Estados Unidos han comenzado a dejar claro que las conversaciones con sistemas de IA no necesariamente están protegidas por el privilegio abogado-cliente. Algunos tribunales han concluido que un modelo de IA no es un abogado, que no existe una relación profesional protegida y que el usuario tampoco puede asumir que sus intercambios están cubiertos por las mismas garantías legales que tendría con un profesional acreditado.

La relevancia de estos precedentes va mucho más allá del ámbito jurídico. Personas y empresas están compartiendo con sistemas de IA estrategias legales, disputas laborales, diagnósticos médicos, información financiera y detalles personales. Muchos desconocen que estos intercambios podrían convertirse en evidencia descubrible en litigios futuros o ser objeto de solicitudes judiciales.

Este fenómeno plantea una pregunta inevitable para reguladores y legisladores: ¿deben los modelos de lenguaje poder ofrecer asesoría legal o médica directamente al público? A pesar de sus impresionantes capacidades, los modelos siguen cometiendo errores, inventando precedentes, interpretando incorrectamente normas o generando recomendaciones médicas potencialmente equivocadas. Lo hacen, además, con un nivel de confianza que puede inducir al usuario a creer que la respuesta es correcta cuando no lo es.

La segunda preocupación es la privacidad. A diferencia de un abogado o un médico, los modelos de IA no están necesariamente sujetos a deberes fiduciarios, secretos profesionales o privilegios legales desarrollados durante siglos para proteger a los ciudadanos. La tecnología está avanzando mucho más rápido que los marcos regulatorios diseñados para proteger a quienes la utilizan.

No sería sorprendente que en los próximos años surgieran iniciativas para limitar o incluso prohibir que los modelos de IA proporcionen asesoría legal o médica personalizada. Los defensores de estas medidas argumentarán que el riesgo para los consumidores es demasiado alto y que ciertas actividades deben permanecer bajo la supervisión exclusiva de profesionales licenciados.

Sin embargo, también existe otra cara de la moneda. Los gremios de abogados, asociaciones médicas y otros grupos profesionales tienen incentivos económicos para resistir la automatización. Parte de la presión regulatoria será legítima y necesaria para proteger al consumidor. Pero otra parte responderá al temor de que una fracción creciente del trabajo profesional pueda ser realizada por sistemas capaces de ofrecer respuestas instantáneas, disponibles las veinticuatro horas del día y a un costo marginal cercano a cero.

Mientras este debate se desarrolla, existe una recomendación simple para cualquier ciudadano o ejecutivo: no asuma que una conversación con un chatbot goza de las mismas protecciones que una conversación con su abogado o su médico. Hoy, en muchos casos, esa protección simplemente no existe. Y la diferencia entre privacidad percibida y privacidad real podría convertirse en una de las sorpresas más costosas de la era de la inteligencia artificial.