Debate: ¿puede la inteligencia artificial apoyar a las personas en duelo?

El debate sobre ChatGPT e IA generativas sigue repuntando, a través de las nuevas aplicaciones que genera a tan solo unos meses de su lanzamiento. Un documental reciente de Special Envoy on France 2 (27 de abril de 2023) presentó una aplicación que utiliza GPT-3 y permite al usuario recrear un diálogo con personas desaparecidas.

"Proyecto Diciembre (Simular a los Muertos)" Es sin duda un caso extremo de uso de un agente conversacional de GPT-3 pero nos dice mucho sobre la falta de referentes de las llamadas sociedades occidentales para facilitar el duelo de forma colectiva y enmarcada en el tiempo como lo han hecho las civilizaciones que nos anteceden.

Chatea con nuestros queridos difuntos

"Project December" permet à quiconque, pour 10 dollars, d'ouvrir un compte et de discuter avec un programme d'intelligence artificielle (breveté) qui simule les propos d'une personne décédée pour un maximum de cent échanges et une durée d' una hora.

Para ello hay que rellenar un largo cuestionario que tiene dos apartados principales: identidad de la persona (nombre, apodo, fechas, lugares, profesiones e incluso el nombre del perro si es necesario), rasgos de personalidad (descritos de forma muy forma binaria: ej: seguro/confiado/estable vs preocupado/nervioso/perturbado) al que se le añade un extracto de texto elaborado por estas personas fallecidas.

el informe deEnviado muestra así a un hombre que acaba de perder a su madre y que todos los días le hace preguntas a su avatar sintético, preguntas que no había podido hacerle antes de su muerte.

A efectos del reportaje, el creador de la aplicación también organiza, en compañía del periodista, un diálogo con el agente conversador sobre la tumba del filósofo, poeta y naturalista estadounidense. Henry David Thoreau usando una de sus citas más famosas: "el mejor gobierno es el que menos gobierna", en consonancia con su ideología libertaria de siempre abogar por "menos gobierno" - una ideología que es también la de Silicon Valley.

Cuestionado artificialmente a través de la aplicación sobre los posibles usos tóxicos de la herramienta "Proyecto Diciembre", el avatar simulado de Thoreau responde que toda la responsabilidad recae en el usuario, como en el caso de un fabricante de automóviles que no puede ser considerado responsable del comportamiento de los malos. conductores

¿Un desprecio por el proceso de duelo?

Le solucionismo tecnológico así llamado por el investigador Evgeny Morozov, en su ímpetu disruptivo, parece barrer cualquier pensamiento, aunque sea levemente argumentado, sobre las consecuencias psíquicas o culturales de tal tratamiento de la relación con los muertos.

Desprecia las cuestiones antropológicas de proceso de duelo y todo el conocimiento sobre este proceso desarrollado tanto por la psicología como por el estudio de las tradiciones.

Si el psicoanálisis considera el duelo como un proceso psíquico por el cual una persona logra desligarse de la persona desaparecida y dar sentido a esta pérdida, las fiestas de muertos en las antiguas tradiciones contribuyen a un proceso similar, a devolver sentido a la vida.

Tomemos el ejemplo del Día de Muertos en México: dura dos días, y consiste en visitar la tumba donde descansan los difuntos de la familia, tener una comida alrededor de ella, al son de la música. Según el caso, se organiza una vigilia durante toda la noche. En esta ocasión, los cementerios se llenan de familias, gran cantidad de flores de naranja y velas. Todo esto crea un ambiente especialmente animado. Las familias también instalan temporalmente un altar en casa con los retratos de los difuntos, flores, comida, velas, etc.

Tres dimensiones sociales y psíquicas emergen de estos rituales:

1. la fiesta de los muertos – luto – es una invitación colectiva,

2. el contacto buscado con el difunto no tiene nada de espiritista, no hacemos preguntas específicas

3. la fiesta de los muertos tiene una duración bien definida.

Estos tres aspectos ayudan a comprender el cuidado de la salud mental individual y colectiva de las sociedades. La memoria de los muertos se realiza en un marco de encuentros sociales y protocolos que ayudan al anclaje en la vida.

Un luto sin intermediario

En nuestras sociedades occidentales, el cristianismo y las terapias se han hecho cargo de este proceso de duelo en formas ya debilitadas. Los rituales cristianos tienden agotarse – en 2018, el 48% de los franceses quieren una ceremonia religiosa cuando mueren – aunque el sacerdote sigue desempeñando un papel de intermediario clave, incluso para los no creyentes. Los terapeutas realizan este trabajo a cambio de una remuneración, mientras que el personal médico se encuentra en condiciones de gestionar estos momentos de duelo mucho más allá de sus funciones.

Por el contrario, la aplicación "Proyecto Diciembre" no parece asumir ninguna responsabilidad por colocar a las personas en una relación solitaria con conversaciones que simulan los pensamientos del difunto. Si efectivamente existe una forma de mediación –en este caso, la de la inteligencia artificial–, ésta va más allá de cualquier marco colectivo, a riesgo de ampliar el espacio de las fantasías.

Cada uno queda con su sufrimiento, con sus miedos, que el agente conversador debe bloquear o alentar con respuestas, que siempre son muy banales. El usuario que testifica en el informe deEnviado habla de su vida ordinaria o expresa sus sentimientos a su madre. Él le habla como si no hubiera muerto, lo que hace que sus hijos teman que él permanezca encerrado en esta "relación".

Sin embargo, en estos ritos de paso, las palabras deben elegirse cuidadosamente para ayudar a encontrar un lugar, el propio y el del difunto. Es por esta razón que los intermediarios se movilizan en todas las tradiciones. Aunque el usuario no se deje engañar y la aplicación le anime a expresarse, tiende a eliminar a los mediadores humanos, sin red de seguridad: una forma arriesgada de "uberizar" a sacerdotes, chamanes y terapeutas...

El necesario tiempo de silencio

En los ritos o en la terapia de duelo, los tiempos de silencio son fundamentales. Los rituales establecen un tiempo específico para el duelo o la conmemoración del difunto, liberando la vida cotidiana de esta relación. La IA basada en GPT-3 nunca deja al usuario en silencio, es un hablador impenitente, un contestador automático. No es capaz de acompañar en una escucha profunda, sino que se vuelve, aunque sea en bucle, para compensar la ausencia, el vacío insoportable que es en el fondo el mayor drama del duelo.

El encierro solitario en un diálogo simulado, basado en unas pocas pistas realistas utilizando modelos estadísticos probabilísticos del lenguaje, tiene algo de obsceno: amplifica aún más nuestras tendencias comercialmente fomentadas de vivir en un mundo "falso", basado en marcos narrativos articulados con la publicidad. códigos.

Una vez más, son los artefactos (interfaces y algoritmos) los que se supone que llenan una carencia clamorosa de intersubjetividad, vínculo social, dinámica de intercambios auténticos. Estos objetos sustitutos, sin embargo, se vuelven críticos en casos de duelo y no deben manipularse con descuido. Sin embargo, los agentes conversacionales del tipo GPT prosperan gracias a la incapacidad de nuestras llamadas sociedades racionales para brindar orientación sobre una cuestión tan fundamental para el alma humana. como señaló el antropólogo Benedict Anderson.

Aplicaciones como Project December reflejan una actitud anti-laissez-faire institucional que se encuentra en todas las empresas de Silicon Valley a través de su eslogan "Rough Consensus and Running Code", una expresión de John Perry Barlow en su manifiesto por la independencia del ciberespacio de 1996.

Según esta doctrina, las decisiones de desarrollo de aplicaciones, estándares y servicios se basan en un vago consenso entre las partes interesadas y la producción de código nunca debe detenerse, facilitando innovaciones disruptivas que no anticipan sus consecuencias sociales y culturales.

Este desarraigo de la IA frente a los principios sociales y organizativos y su pretensión de refundarlo todo a partir del poder de sus cálculos probabilísticos que todo lo optimizan, se encuentran aquí en este juego con el espíritu de los muertos. Hacemos malabares con las relaciones con los muertos como hacemos con las palabras.

Cómo regular este "código en ejecución" irresponsable cuando es tan fácil de reproducir y las fronteras de los estados no son suficientes para frenar su adopción inmediata en todos los países, sin respetar ninguna legislación existente?

Sólo los grandes grupos institucionales que son también grandes mercados como el europeo tienen la potestad necesaria para obligar a todos estos AI y sus aplicaciones a solicitar "autorización previa de puesta en el mercado", como se hace con la mayoría de los productos de la industria, desde alimentación hasta medicina, incluido el automóvil. I'Ley de AI siendo validado en Europa, así como la administración Biden debemos tomar la medida de estas apuestas antropológicas en sus intentos de regulación, ya que incluso nuestras relaciones con los muertos pueden verse afectadas por ellas, mientras que son constitutivas de nuestra sensibilidad humana.

Dominique Boullier, Profesor Universitario Emérito en Sociología. Investigador del Centro de Estudios Europeos y Política Comparada, Sciences Po et Rebeca Alfonso Romero, estudiante de doctorado en geografía cultural, Universidad de la Sorbona

Este artículo ha sido publicado de nuevo. La conversación bajo licencia Creative Commons. Lee elarticulo original.

Crédito de la imagen: Shutterstock/Sheri Armstrong