Si esperabas que los chatbots de IA pudieran sustituir al Dr. Google, el último experimento de Reddit sugiere... que quizá todavía no. Reddit Answers, el asistente de IA de la plataforma, ha sido noticia recientemente por recomendar heroína como analgésico.
Según informa 404Media, el extraño consejo salió a la luz cuando un trabajador sanitario vio la respuesta en un subreddit para moderadores. En una interacción, el chatbot señaló esta publicación: "La heroína, irónicamente, me ha salvado la vida en esos casos".
En otra pregunta, incluso sugirió el kratom, un extracto de árbol ilegal en varios países y señalado por la FDA "por el riesgo de efectos adversos graves, como toxicidad hepática, convulsiones y trastorno por consumo de sustancias".
Reddit Answers no es una IA al uso. En lugar de basarse únicamente en bases de datos curadas, se nutre de la gran cantidad de contenido generado por los usuarios de Reddit. Eso la hace peculiar, a veces perspicaz. Pero, evidentemente, no siempre segura.
Originalmente confinado a una pestaña separada, Reddit ha estado probando Respuestas dentro de las conversaciones habituales, que es como este episodio en particular pasó desapercibido... hasta ahora. Después de que el chatbot de IA de Reddit sugiera a los usuarios que prueben la heroína.
Tras hacerse público el informe, Reddit respondió reduciendo la visibilidad de la IA en chats delicados relacionados con la salud. Los moderadores no tenían control sobre los propios consejos, lo que pone de manifiesto lo experimental que sigue siendo la herramienta.
Por supuesto, no es el primer contratiempo de la IA de Reddit. Otros robots, como Google's AI Overviews y ChatGPT, también han dado consejos cuestionables sobre salud, incluyendo "consejos" como utilizar pegamento no tóxico en las pizzas para evitar que el queso se deslice.
Está claro que, cuando se trata de consejos médicos, las IA son entretenidas, pero los humanos siguen teniendo la sartén por el mango. Así que quizá no le pidas consejos médicos todavía.
