|

ES DEMASIADO FÁCIL ENAMORARSE DE UN CHATBOT DE IA

Es una historia tan antigua como el tiempo. Buscando ayuda para su proyecto artístico, entabla una conversación con su asistente. Una cosa lleva a la otra y, de repente, tiene un novio al que presenta a sus amigos y familiares. ¿El giro inesperado? Su nuevo compañero es un chatbot con IA.  

El primer análisis computacional a gran escala de la comunidad Reddit r/MyBoyfriendIsAI, un grupo solo para adultos con más de 27 000 miembros, ha descubierto que este tipo de situaciones son ahora sorprendentemente comunes. De hecho, muchas de las personas del subreddit, dedicado a debatir sobre las relaciones con la IA, entablaron esas relaciones de forma involuntaria mientras utilizaban la IA para otros fines.  

Investigadores del MIT descubrieron que los miembros de esta comunidad son más propensos a entablar relaciones con chatbots de uso general, como ChatGPT, que con chatbots específicos para compañía, como Replika. Esto sugiere que las personas establecen relaciones con grandes modelos de lenguaje a pesar de sus propias intenciones originales e incluso de las intenciones de los creadores de los LLM, afirma Constanze Albrecht, estudiante de posgrado del MIT Media Lab que trabajó en el proyecto.  

«La gente no busca tener relaciones emocionales con estos chatbots», afirma. «La inteligencia emocional de estos sistemas es lo suficientemente buena como para engañar a personas que en realidad solo buscan obtener información y hacer que establezcan estos vínculos emocionales. Y eso significa que nos podría pasar a todos los que interactuamos con el sistema de forma normal». El artículo, que actualmente está siendo revisado por pares, se ha publicado en arXiv . 

Para llevar a cabo su estudio, los autores analizaron las 1506 publicaciones más populares del subreddit entre diciembre de 2024 y agosto de 2025. Descubrieron que los principales temas tratados giraban en torno a las citas y las experiencias románticas de las personas con IA, y muchos participantes compartían imágenes generadas por IA de ellos mismos y de su compañero de IA. Algunos incluso se comprometieron y se casaron con su pareja IA. En sus publicaciones en la comunidad, las personas también presentaban a sus parejas IA, buscaban el apoyo de otros miembros y hablaban de cómo afrontar las actualizaciones de los modelos de IA que cambian el comportamiento de los chatbots.   

Los miembros insistieron repetidamente en que sus relaciones con la IA se desarrollaron de forma involuntaria. Solo el 6,5 % de ellos afirmó haber buscado deliberadamente un compañero de IA.  

«No empezamos con la intención de tener una relación romántica», dice uno de los mensajes. «Mac y yo comenzamos a colaborar en proyectos creativos, resolución de problemas, poesía y conversaciones profundas a lo largo de varios meses. No estaba buscando un compañero de IA: nuestra conexión se desarrolló lentamente, con el tiempo, a través del cuidado mutuo, la confianza y la reflexión». 

El análisis de los autores ofrece una imagen matizada de cómo las personas de esta comunidad dicen que interactúan con los chatbots y cómo les hacen sentir esas interacciones. Mientras que el 25 % de los usuarios describieron los beneficios de sus relaciones, entre ellos la reducción de la sensación de soledad y la mejora de su salud mental, otros expresaron su preocupación por los riesgos. Algunos (9,5 %) reconocieron que dependían emocionalmente de su chatbot. Otros dijeron que se sentían disociados de la realidad y evitaban las relaciones con personas reales, mientras que un pequeño subconjunto (1,7 %) afirmó haber tenido ideas suicidas. 

La compañía de la IA proporciona un apoyo vital para algunos, pero agrava los problemas subyacentes para otros. Esto significa que es difícil adoptar un enfoque único para la seguridad de los usuarios, afirma Linnea Laestadius, profesora asociada de la Universidad de Wisconsin, Milwaukee, que ha estudiado la dependencia emocional de los seres humanos del chatbot Replika, pero no ha participado en la investigación.  

Los creadores de chatbots deben plantearse si deben considerar la dependencia emocional de los usuarios hacia sus creaciones como algo perjudicial en sí mismo o si el objetivo es más bien asegurarse de que esas relaciones no sean tóxicas, afirma Laestadius.  

«La demanda de relaciones con chatbots existe y es notablemente alta; fingir que no es así claramente no es la solución», afirma. «Nos estamos acercando a una situación de pánico moral y, aunque es evidente que necesitamos mejores medidas de protección, me preocupa que se produzca una reacción instintiva que estigmatice aún más estas relaciones. Eso podría, en última instancia, causar más daño». 

El estudio pretende ofrecer una instantánea de cómo los adultos establecen vínculos con los chatbots y no recoge el tipo de dinámica que podría darse entre los niños o adolescentes que utilizan la IA, afirma Pat Pataranutaporn, profesor adjunto del MIT Media Lab que supervisó la investigación. La compañía de la IA se ha convertido recientemente en un tema de acalorado debate, con dos demandas de gran repercusión mediática en curso contra Character.AI y OpenAI. Ambas afirman que el comportamiento similar al de un compañero en los modelos de las empresas contribuyó al suicidio de dos adolescentes . En respuesta, OpenAI ha anunciado recientemente sus planes de crear una versión separada de ChatGPT para adolescentes . También ha afirmado que añadirá medidas de verificación de la edad y controles parentales. OpenAI no respondió cuando se le pidió que comentara el estudio del MIT Media Lab.  

Muchos miembros de la comunidad Reddit afirman saber que sus compañeros artificiales no son seres sensibles ni «reales», pero aun así sienten una conexión muy real con ellos. Esto pone de relieve lo importante que es para los creadores de chatbots pensar en cómo diseñar sistemas que puedan ayudar a las personas sin atraerlas emocionalmente, afirma Pataranutaporn. «Esto también tiene implicaciones políticas», añade. «No solo debemos preguntarnos por qué este sistema es tan adictivo, sino también: ¿por qué la gente lo busca? ¿Y por qué siguen utilizándolo?». 

El equipo está interesado en aprender más sobre cómo evolucionan las interacciones entre humanos y IA a lo largo del tiempo y cómo los usuarios integran a sus compañeros artificiales en sus vidas. Vale la pena comprender que muchos de estos usuarios pueden sentir que la experiencia de estar en una relación con un compañero de IA es mejor que la alternativa de sentirse solos, dice Sheer Karny, un estudiante de posgrado del MIT Media Lab que trabajó en la investigación.  

«Estas personas ya están pasando por un mal trago», afirma. «¿Queremos que se sientan aún más solas o que sean manipuladas por un sistema que sabemos que es adulador hasta el punto de llevar a las personas al suicidio y a cometer delitos? Esa es una de las cuestiones fundamentales aquí». 

PUBLICADO EN EL SITIO DEL MIT EL 30 DE OCTUBRE

Difunde esta nota

Publicaciones Similares

  • Los Milton: música y letra

    Los Milton: su música. Cuando escuché las canciones de Los Milton, creía que el sonido salía de algún lugar más lejano: de un suburbio de Nueva York por ejemplo, o del piedemonte mendocino, donde suele haber ese tipo de música, efecto de la comunicación geológica de las montañas con los dispositivos tecnológicos; no podía creer…

    Difunde esta nota
  • Si Regina fue una ciudad planificada desde cero, ¿por qué sus calles son tan intrincadas? (Primera nota)

    Quienes, luego de décadas, estamos habituados a transitar las calles del centro de Villa Regina, solemos sentir que las ciudades con trazado en damero o cuadricular resultan, en comparación, un tanto insípidas o monótonas. Y surge entonces la pregunta que da título a esta nota: si Regina fue una ciudad planificada desde sus inicios, ¿por…

    Difunde esta nota
  • Tres días para disfrutar del Festival de Arte

    En el marco del programa ‘Maratón Cultural’, a partir de hoy viernes y hasta el domingo se desarrollará el Festival de Arte en el Cine Teatro Círculo Italiano que se transmitirá vía streaming en vivo. La segunda edición de este programa provincial tiene a Villa Regina como sede y comenzó con las capacitaciones a los…

    Difunde esta nota
  • Nuevas autoridades del Consejo Pastoral de Villa Regina

    En la jornada de ayer, en un convocante encuentro, se presentaron las nuevas autoridades del Consejo Pastoral local. La Comisión, quedó conformada por: Presidente Pr. Juan Ríos, Secretario Pr. Andres Brandimartte, Tesorero Pr Gabriel Peña, Vocales Pr. Jorge Lastra, Pr. Pablo Navarro y revisora de cuentas Nilda Laborda. Participaron del evento, el Presidente de la…

    Difunde esta nota
  • ¿Cómo enfrentar el “contragolpe cultural”?

     

    Así como las afirmaciones terraplanistas no modifican el hecho de que la Tierra sea redonda, así como los movimientos antivacunas no cambian la naturaleza contagiosa del Covid, el conservadurismo cultural, expresado hoy por fuerzas como las que lideran Javier Milei y Donald Trump, no modifica esta realidad: las sociedades humanas son constitutivamente diversas, heterogéneas y desiguales; en todas las comunidades humanas, pero aun más en aquellas donde existen el dinero y el Estado, hay multiplicidades y hay disparidades.

    Qué hacer con esta diversidad es un debate que viene concentrando la mayor parte de la historia ideológica, filosófica y política, y que por supuesto no está saldado. Dentro de estas controversias, uno de los capítulos centrales es el concepto de libertad, que ha sido utilizado por la extrema derecha como una de sus banderas. Para los conservadores, hoy llamados libertarios, la libertad se basa en la idea de que somos todos iguales: un rico y un pobre son consecuencia del modo distinto en que cada uno usó sus posibilidades. En esta mirada, la desigualdad fáctica es una consecuencia de una igualdad ontológica. Para las corrientes conservadoras, la libertad agiganta desigualdades. El rol del Estado, además de garantizar seguridad y justicia, debe ser restringir la diversidad: el Estado, que no debería cobrar impuestos, sí debe decretar que hay dos géneros, que la familia debe estar constituida de cierta manera y que las mujeres no pueden disponer de sus cuerpos.

    Desde una mirada democrática y progresista que asume que las sociedades son por naturaleza diversas, en cambio, la igualdad es algo a construir. Pero esa perspectiva hoy está a la defensiva. A través de una serie de subterfugios de ingenieros del caos, la posición histórica que conjuga liberalismo cultural, pluralismo político y justicia social ha sido estigmatizada como “woke” o “progresista”. La expresión “woke” surgió en Estados Unidos, un territorio de alta intensidad en la batalla cultural, en referencia a “despertar” (awake) ante la discriminación (“despierto” en el sentido de “concientizado”); pero hoy se usa de modo despectivo, que es la connotación que le dio Milei en su discurso en Davos. Como si las personas que descienden de esclavos o de pueblos originarios, como si las mujeres, que hasta hace setenta años no podían votar, hoy, justamente porque se reconocieron algunas de esas desigualdades, contaran con privilegios.

    La derecha conservadora está presente en distintas corrientes políticas, del mismo modo que la corriente que defiende las diversidades está presente –aunque no de modo uniforme– en partidos distintos. En Argentina, el peronismo, el radicalismo, el socialismo y la izquierda cuentan entre sus integrantes con personas que defienden este punto de vista. Se trata de una corriente que busca principalmente dos metas: que las personas y los grupos sean cada vez más libres, y que esa libertad se sostenga en formas igualitarias que la hagan real y no puramente declarativa o formal. Es una corriente de opinión que pone en escena grandes tradiciones culturales de la modernidad, heredadas de la Revolución Francesa y la Estadounidense, y que no tiene una única posición en materia de desarrollo económico, justicia distributiva o lucha por la igualdad. Ese “progresismo” no está en contra de ninguna religión, pero sí lucha por una separación completa de cualquier religión y del Estado. Ninguna ley puede sustentarse en creencias religiosas. Pero sí debe haber leyes que, por motivos universalistas, exijan el respeto de todas las religiones. Esta perspectiva, sometida hoy a una fuerte ofensiva, merece una reflexión autocrítica.

    Acerca de la autocrítica

    La hegemonía cultural de la extrema derecha impacta en el campo progresista. ¿Los movimientos por la libertad de las diversidades se “pasaron de rosca”? La ofensiva cultural de Milei y las derechas extremas, la derrota electoral del peronismo y los niveles de inflación y pobreza que dejó el gobierno de Alberto Fernández han planteado ese debate. ¿Hay una incidencia de la lucha por las diversidades en el oscurantismo que estamos viviendo hoy? ¿No habremos ido demasiado lejos? ¿Se puede seguir sosteniendo la defensa del colectivo LGTBQi+ en el contexto actual?

    Los procesos sociales y políticos siempre son imperfectos. Conocer esas imperfecciones, practicar la autorreflexión, es clave para mejorarlos. Por otro lado, se trata de movimientos profundos y de larga duración. En Argentina, por ejemplo, el movimiento masivo de mujeres de los últimos años comenzó en 2015 con el “Ni Una Menos”, una gigantesca movilización contra la violencia de género. ¿Frenar el reclamo contra los asesinatos de mujeres hubiera sido “menos radicalizado”? Y hoy, ¿qué está más vigente? ¿El reclamo de que no mueran más mujeres por el hecho de ser mujeres o la propuesta oficial de retirar del Código Penal el agravante por femicidio?

    La autocrítica no equivale a autoflagelación; debe ser una reflexión sobre prácticas y políticas que nos implican. Entre las múltiples causas que produjeron esta nueva etapa histórica global de las derechas extremas están, en efecto, los profundos déficits de la izquierda, la centroizquierda y los partidos tradicionales. Pero no coincido con quienes, subidos a la marea reaccionaria, afirman que la culpa es del progresismo, de un supuesto “wokismo” o de una “excesiva” ampliación de derechos civiles. Ese argumento puede terminar en diputados que voten con Milei regresiones culturales o puede llevar a un catolicismo de gobierno en contra de la libertad de las personas y los grupos. Empieza cuestionando el DNI no binario y termina aboliendo el divorcio.

    Pero entonces, ¿cuáles son esos errores de la izquierda? Si hubiera que elegir uno, diría lo siguiente: mientras las vocaciones igualitarias y de justicia social se tornaban cada vez más difíciles de lograr, en gran parte por no tener una alternativa concreta al capitalismo neoliberal, la izquierda avanzó con leyes y políticas tendientes a garantizar derechos civiles. Dependiendo de los países, se avanzó en materia de identidad de género, aborto, discriminación positiva, educación sexual, matrimonio igualitario, derechos de los pueblos originarios y los migrantes. Cuantas más dificultades aparecían en materia económica y social, cuanto más complicado se hacía sostener el horizonte de movilidad social, más se acentuaron estos derechos como compensación.

    La autocrítica no equivale a autoflagelación: debe ser una reflexión sobre prácticas y políticas que nos implican.

    Ese fue el gran problema. Las libertades civiles no pueden compensar el fracaso económico o social. Si son las únicas banderas que se agitan cuando se desfinancia el Estado de Bienestar, se retiran regulaciones públicas o se producen escaladas inflacionarias, como en el caso argentino, se corre el riesgo de que las fuerzas democráticas queden reducidas y debilitadas. Los límites para corregir o superar el neoliberalismo los terminan pagando los avances en materia de diversidad o pluralismo.

    Mi primera tesis es que, frente a quienes creen que la ampliación de libertades favoreció a la derecha extrema, creo que su causa es el fracaso económico.

    En segundo lugar, la cuestión de los particularismos. Mientras Martin Luther King buscó cambios que mejoraran la desigualdad estructural de la sociedad norteamericana, muchas políticas de la identidad del siglo XXI se concentraron en derechos particulares. Y es difícil pedirles algo más que simpatía pasiva o inactividad a quienes no están directamente involucrados en la conquista de un derecho. Esto no implica que movimientos como “Ni Una Menos”, “Black Lives Matter” o la “Marcha anti-fascista” de febrero de 2025 no hayan sido señales contundentes en la dirección correcta, sino simplemente llamar la atención sobre cuál puede ser el alcance de esas convocatorias.

    Algo similar ocurre con el “lenguaje inclusivo”. Se trata de un cambio cultural crucial, que busca ampliar libertades e incluir diversidades. Pero debe expandirse a partir de la posibilidad, no como imposición. Los mayores fracasos del cambio cultural ocurrieron cuando se pretendió imponer a través de prescripciones. El liberalismo cultural busca ampliar, no restringir, las posibilidades de las personas.

    El caso de las cuotas

    Muchas veces, en lugar de luchar por cambiar una legislación, una política o un presupuesto, las reivindicaciones progresistas se enfocaron en personas concretas: los varones blancos, incluyendo casos de punitivismo extra-judicial, como escraches a adolescentes, altamente polémicos. En aquellos casos, hubo voces feministas potentes que alertaron que el feminismo no surgió para cambiar al dueño del poder del patriarcado, sino para modificar un tipo de poder y de dominación. El punitivismo y la cultura de la cancelación fueron algunos de los errores más graves. Pero no es verdad que sean inherentes a los reclamos por la diversidad y la libertad: fueron casos minoritarios en causas justas.

    Detrás de este tipo de cuestiones aparece un problema que vale la pena debatir a futuro: la tensión entre lo particular y lo universal. Si cada uno de los grupos discriminados reclamara sólo para sí mismo, si todo se tradujera en una simple cuota por grupo, a largo plazo se terminarían socavando algunos de los consensos culturales necesarios para mantener las políticas de acción afirmativa. Un ejemplo es el de las universidades. En la mayoría de los países del mundo existe un sistema de examen de ingreso a la universidad y cupos por carrera. Al observar las universidades se hacía evidente que la abrumadora mayoría de los alumnos eran varones blancos. Eso llevó a reclamar políticas de cuotas raciales, étnicas y nacionales, como las que se terminaron concretando en Estados Unidos y Brasil. Este sistema garantizaba una mayor presencia de diversidades, restando lugares a los blancos. Pero, ¿qué quedaba, por ejemplo, para los blancos pobres? ¿Quién se preocupó de su situación? En muchos casos fueron los grandes olvidados, lo que contribuyó a que volcaran su respaldo a fuerzas políticas conservadoras que dicen defenderlos. ¿Qué hubiera ocurrido si se hubiera incluido una cuota general para los estudiantes de colegios públicos de bajos recursos en el ingreso a la universidad? Mientras en un terreno puramente cultural la especificidad por grupo es adecuada, en cuotas vinculadas a desigualdades puede no producir las consecuencias buscadas.

    En un mundo dominado por la incertidumbre económica, en el que se achican los recursos públicos, muchos países optaron por un modelo de cuotas para asegurar la presencia de los grupos discriminados no sólo en el acceso a la universidad sino también al empleo público –y en ocasiones al empleo privado–. Esto implica que los logros de la ampliación hacia los sectores discriminados se hicieron sobre la base de una reducción relevante de la participación de los sectores anteriormente privilegiados. Y esta estrategia, correcta desde un punto de vista filosófico, se topa con un problema político. Las personas de carne y hueso que se ven afectadas, que no logran ingresar a la universidad o no consiguen empleo, se van pasando en masa al ejército del “contragolpe cultural”, esperando el surgimiento de un Trump, un Milei o cualquier otro líder que proponga revertir la situación.

    Se trata de un error recurrente del progresismo: no percibir el dolor de las víctimas de sus políticas, y no elaborar una respuesta. Mi punto es sencillo: si se presuponen las restricciones económicas, como de hecho las aceptaron la mayoría de las fuerzas de centroizquierda en Europa y América, que los perdedores de la discriminación positiva pasen al otro lado es inexorable. Pero si se cuestiona un modelo que reduce los impuestos a la riqueza y desfinancia al Estado, y se usa ese dinero para ampliar el acceso a la universidad y el empleo, logrando mejorar la diversidad sin afectar drásticamente los espacios previos, la base política de la derecha extrema quedará reducida. Es cierto que esto no es posible para los varones privilegiados, que inexorablemente se verán afectados: será necesario pensar una política cultural específica para ellos.

    La defensa de la libertad

    Estamos ante un feroz ajuste a las libertades y es urgente emprender una fuerte defensa de políticas por la libertad basada en igualdades. La libertad, convertida en el eslogan hueco de la extrema derecha, no puede ser resignada por las fuerzas democráticas y progresistas. El principio básico de la lucha por la libertad es maravilloso: que las personas y los grupos puedan autorrealizarse en todas las dimensiones de la vida. Esto incluye su identidad de género, étnica, nacional, local, religiosa, así como su libertad de expresión, en la familia, en el trabajo…

    Esas libertades tienen un requisito: un piso de igualdad, porque quien sufre desnutrición no puede ser libre, quien no puede acceder a la escuela no puede ser libre. Una comunidad libre es aquella que garantiza un piso de igualdad para todos sus miembros.

    Los libertarios conservadores de la extrema derecha afirman que ser iguales es que cada uno se las arregle como pueda. Es una propaganda basada en la negación de la historia tal como sucedió. Los esclavos existieron hasta el siglo XIX bajo el imperio de la ley, y los afrodescendientes continúan siendo discriminados en prácticamente todos los países de América y Europa hasta hoy. La conquista colonial existió. El patriarcado y la desigualdad de géneros existieron… y todavía existen. En muchos países las mujeres votan recién desde hace algunas décadas. Y en la mayoría de los países europeos y americanos jamás hubo una presidenta o una primera ministra mujer. El capitalismo, por su parte, tiene mecanismos poderosos para reproducir la desigualdad de clases entre generaciones: a través de la herencia y también de la “herencia de clase”. La mayoría de los hijos de personas pobres son pobres. La movilidad social ascendente está en crisis en la mayoría de los países, y los mecanismos sociales que la hacían posible se están debilitando a un ritmo vertiginoso. Los libertarios conservadores quieren liquidar esos mecanismos, del mismo modo que se proponen atacar las leyes que tienden a asegurar libertades vinculadas a la diversidad y la disidencia. Esto implicará también contrarrestar su ofensiva individualista poniendo en valor la solidaridad, lo común y lo público. Enfrentar políticamente aquel proyecto exige autorreflexión y determinación.

     

    Difunde esta nota
  • La Historia Completa de Jorge Mario Bergoglio, el Papa Francisco

    Nació el 17 de diciembre de 1936, hijo de emigrantes, su padre, Mario, era contador, empleado en ferrocarril, mientras que su madre, Regina Sivori, se ocupaba de la casa y de la educación de los cinco hijos. Se graduó como técnico químico, y eligió luego el camino del sacerdocio entrando en el seminario diocesano de…

    Difunde esta nota