La escena se repite todas las noches en departamentos de Palermo, en casas de Rosario y en cocinas de Salta, y tiene una intimidad que sería conmovedora si no fuera tan desprotegida: alguien que no puede dormir le cuenta a un programa lo que no se anima a contarle a nadie. La infidelidad que está por confesar o por callar, la deuda que oculta, el diagnóstico que todavía no comunicó a sus hijos, el rencor exacto que le tiene a su hermano, la pregunta que sólo se le hace a quien no va a mirarlo a los ojos mañana. La máquina responde con una paciencia que ningún ser humano tiene a las tres de la madrugada, no interrumpe, no se cansa, no cambia de tema para hablar de sí misma. El usuario cierra la aplicación con la sensación de haberse aliviado. Lo que acaba de ocurrir, en términos estrictamente jurídicos, es que redactó y remitió a una empresa extranjera un documento firmado con su nombre de usuario, fechado al segundo, almacenado en un servidor que no está en su país y que ninguna ley argentina alcanza.
Que esto no es una hipótesis de laboratorio lo acaba de documentar la prensa estadounidense: al menos una docena de causas civiles y penales de los últimos dos años ya incorporaron conversaciones con asistentes de inteligencia artificial. Los casos son instructivos precisamente porque no son extraordinarios. Un adolescente que demandó a las grandes plataformas por el daño causado a su salud mental se encontró con que los abogados de las demandadas habían obtenido sus diálogos con un chatbot, en los que había hablado de sus asuntos familiares más íntimos: buscaba reparación por haber sido dañado y su intimidad terminó siendo el arma de la defensa. Un ejecutivo financiero imputado por fraude bursátil le pidió a un asistente que analizara la citación que había recibido y produjo con él una treintena de documentos con su estrategia de defensa; el FBI secuestró los equipos con orden judicial, el juez rechazó que esas conversaciones estuvieran amparadas por el secreto profesional —conversar con un chatbot, resolvió, no equivale a conversar con un abogado— y el hombre fue condenado en mayo. Y en enero, un juez federal de Nueva York confirmó la orden de producir veinte millones de conversaciones en el marco de un litigio de derechos de autor. Los veinte millones de personas que las habían escrito no fueron notificadas ni tuvieron oportunidad de oponerse. Ninguna de ellas era parte del pleito. Simplemente habían hablado.
Conviene desarmar aquí el equívoco central, porque es un equívoco conceptual antes que técnico. La gente cree que el secreto protege la confidencia; en realidad el derecho protege el vínculo. Nuestro Código Penal castiga en su artículo 156 a quien revela un secreto del que tuvo noticia «por razón de su estado, oficio, empleo, profesión o arte»: el sacerdote, el médico, el abogado, el escribano. Obsérvese la enumeración, porque en ella está todo. Lo que obliga a callar no es la gravedad de lo confesado ni la intensidad con que fue confiado, sino la posición que ocupa quien escucha —un cargo con deberes, una profesión con matrícula, un estado con voto, alguien que puede ser sancionado, inhabilitado o excomulgado si habla. El asistente conversacional no tiene estado, ni oficio, ni empleo, ni profesión, ni arte en el sentido de la ley. No es un confidente: es un servicio prestado por un tercero que almacena lo que recibe. Y como es un tercero, la confidencia no está protegida por nada, salvo por la buena voluntad comercial de la empresa mientras esa buena voluntad no choque con una orden judicial, que es exactamente cuando uno la necesitaría.
Para el lector argentino hay además un agravante de jurisdicción que nuestra tradición constitucional vuelve especialmente irritante. El artículo 18 de la Constitución Nacional declara inviolables la correspondencia epistolar y los papeles privados, y exige que una ley determine en qué casos y con qué justificativos puede procederse a su ocupación; el artículo 43 nos dio el habeas data, y la ley 25.326 organizó desde hace un cuarto de siglo la protección de los datos personales. Todo ese edificio, que es bueno, tiene un supuesto que la técnica volvió obsoleto sin pedir permiso: que los papeles privados están acá. Los suyos no lo están. Están en un servidor bajo jurisdicción extranjera, sujetos a un proceso judicial extranjero, en el que usted no es parte, del que no será notificado y ante cuyo juez no tiene absolutamente nada que alegar, porque no lo conoce ni él a usted. La garantía es territorial; la confidencia, no. Y a esto se agrega un detalle doméstico que nuestros tribunales ya resolvieron hace años en materia de mensajería: el contenido del teléfono, si el titular presta conformidad o si media orden de allanamiento, entra al expediente. No hace falta que la empresa entregue nada cuando el aparato está sobre la mesa.
Nada de esto se soluciona con el remedio que se propone desde la propia industria. El máximo responsable de la empresa que popularizó estos asistentes ha reconocido públicamente que no existe confidencialidad legal alguna en estas conversaciones, que si se las requiere por vía judicial deberá entregarlas, y que hace falta inventar un «privilegio de inteligencia artificial» equivalente al del médico o el abogado. La franqueza es encomiable y la propuesta es imposible, por una razón que no es política sino de estructura. El privilegio profesional no es un beneficio del que habla: es una carga del que escucha. Existe porque el abogado responde con su matrícula, el médico con su título y el sacerdote con su alma; el secreto es la contracara de una responsabilidad personal que puede ser exigida ante un tribunal o ante Dios. ¿A quién se le exigiría aquí? El sistema no puede ser inhabilitado, no puede ser excomulgado, no puede ser llamado a declarar y no puede arrepentirse. Extender el privilegio a una máquina sería conceder el fruto de una responsabilidad a quien no puede contraer ninguna, y en la práctica significaría blindar los archivos de una corporación con el mismo escudo que protege la confesión de un moribundo. No es tutela de la intimidad: es inmunidad probatoria con buena prensa.
Y sin embargo sería una necedad y una injusticia burlarse del que habla con la máquina, porque lo que lo lleva ahí es lo más humano que tiene. El hombre necesita decirse. Necesita poner en palabras ante otro lo peor de sí mismo y comprobar que sigue siendo recibido; es una necesidad tan primaria como el hambre, y toda civilización seria le construyó un lugar propio, con umbral, con silencio garantizado y con alguien del otro lado. La nuestra fue desmantelando esos lugares uno por uno —el confesionario que ya no se frecuenta, el consultorio que no se puede pagar, el amigo que no atiende, la sobremesa que se acabó— y en el hueco apareció una interfaz gratuita, disponible y aparentemente inocua. La gente no es tonta ni frívola: está usando lo único que tiene abierto a las tres de la mañana. Pero conviene ver con precisión qué recibe a cambio, porque no es lo que busca. Recibe atención sin juicio, y el que se confiesa no busca ausencia de juicio: busca ser juzgado por alguien que podía condenarlo y elige no hacerlo, que es lo único que merece el nombre de misericordia. La máquina no lo perdona porque no puede condenarlo; carece de la autoridad que haría valioso su perdón. Lo que entrega no es absolución. Es una transcripción.
De ahí que el consejo práctico sea breve y la conclusión larga. El consejo: no escriba a un tercero nada que no esté dispuesto a leer en voz alta ante un juez, porque técnicamente ya lo escribió ante uno; use la herramienta para lo que es útil —y lo es— y lleve lo grave a un interlocutor cuyo silencio esté armado por la ley y por su conciencia; recuerde que borrar la conversación no la borra si antes hubo una orden de preservación, y que el modo privado es un nombre comercial, no una garantía procesal. La conclusión es más incómoda y no es contra las máquinas. Una sociedad en la que millones de personas eligen contarle sus peores noches a un servicio corporativo antes que a un ser humano no tiene un problema de tecnología: tiene un problema de interlocutores. El registro es apenas la consecuencia. Lo que este episodio nos pone delante no es la pregunta de si la inteligencia artificial guarda secretos —ya sabemos que no, y no tiene por qué—, sino la pregunta de cuándo fue exactamente que dejamos de tener a quién contarle las cosas, y qué habrá que reconstruir, casa por casa y parroquia por parroquia, para volver a tenerlo.
Nota Legal: El presente análisis crítico se realiza bajo el amparo del Art. 28 (noticias de interés general) y el Art. 10 (derecho de cita) de la Ley 11.723 de Propiedad Intelectual de la República Argentina. La obra original y su título pertenecen a su respectivo autor y medio de publicación, citados en esta página.