Gracias. Escuche este artículo usando el reproductor de arriba. ✖

A medida que la IA se vuelve cada vez más realista, nuestra confianza en las personas con las que nos comunicamos puede verse comprometida. Investigadores de la Universidad de Gotemburgo han examinado cómo los sofisticados sistemas de IA afectan nuestra confianza en las personas con las que interactuamos.

En un escenario, el posible estafador, creyendo que estaba llamando a un anciano, se conectó a un sistema informático que se comunicaba a través de un bucle pregrabado. Los estafadores pasan mucho tiempo tratando de estafar, escuchando pacientemente las historias “masculinas” bastante confusas y repetitivas. Oskar Lindwall, profesor de comunicaciones de la Universidad de Gotemburgo, observó que, a menudo, las personas tardaban mucho en darse cuenta de que estaban interactuando con un sistema técnico.

Él, en colaboración con el profesor de informática Jonas Ivarsson, escribió un artículo titulado Pensamientos sospechosos: problemas de confianza y agentes conversacionales, explorando cómo los individuos interpretan y se relacionan con situaciones en las que una de las partes puede ser un agente de AI. El artículo destaca las consecuencias negativas de albergar sospechas sobre los demás, como el daño que puede causar en las relaciones.

Ivarsson da ejemplos de relaciones románticas en las que surgieron problemas de confianza, lo que provocó celos y una mayor tendencia a buscar pruebas de engaño. Los autores argumentan que no poder confiar completamente en las intenciones y la identidad del interlocutor puede dar lugar a sospechas indebidas, incluso cuando no hay razón para ello.

Su estudio encontró que durante las interacciones entre dos humanos, algunos comportamientos se interpretaron como señales de que uno de ellos era en realidad un robot.

Los investigadores argumentan que las amplias perspectivas de diseño están impulsando el desarrollo de la IA con características cada vez más parecidas a las humanas. Si bien esto puede ser interesante en algunos contextos, también puede ser problemático, especialmente cuando no está claro con quién se está comunicando. Ivarsson cuestionó si la IA debería tener voces similares a las humanas, ya que crean una sensación de intimidad y llevan a las personas a formarse impresiones basadas solo en los sonidos.

En el caso de los posibles estafadores que llamaron “hombres mayores”, el engaño solo salió a la luz después de mucho tiempo, lo que Lindwall e Ivarsson atribuyen a la credibilidad de las voces humanas y la suposición de que el comportamiento confuso se debe a la edad. Una vez que la IA tiene voz, inferimos atributos como el género, la edad y el nivel socioeconómico, lo que dificulta identificar que estamos interactuando con una computadora.

Los investigadores proponen crear una IA con una voz fluida y que funcione bien que siga siendo claramente sintética, aumentando la transparencia.

La comunicación con los demás implica no solo el engaño, sino también la construcción de relaciones y la creación de un significado compartido. La incertidumbre de si alguien está hablando con un ser humano o con una computadora afecta este aspecto de la comunicación. Si bien puede estar bien en algunas situaciones, como la terapia cognitivo-conductual, otras formas de terapia que requieren más conexión humana pueden tener repercusiones negativas.

Referencia: Ivarsson J, Lindwall O. La mente sospechosa: El problema de la confianza y los agentes conversacionales. Trabajo cooperativo asistido por computadora. 2023. doi: 10.1007/s10606-023-09465-8

Este artículo se ha vuelto a publicar de la siguiente material. Nota: los materiales pueden haber sido editados por su extensión y contenido. Para obtener más información, póngase en contacto con las fuentes citadas.