La IA de Reddit recomendó el uso de heroína para controlar el dolor. En realidad, es lo más reddit que podría haber pasado. – Desde dentro

En diciembre del año pasado, Reddit anunció Respuestas de Reddituna herramienta de inteligencia artificial similar a un chatbot que aprovecha toda la información compartida por los usuarios de Reddit. Todo iba bien hasta que empezó a dar consejos médicos y finalmente recomendó a un usuario que consumiera heroína. De hecho, conociendo el tono de algunos de los usuarios de la plataforma, esta es la respuesta más alta que Reddit podría dar.

Qué pasó. ellos lo dicen 404Medio. La recomendación apareció en el subreddit r/FamilyMedicine en una pregunta sobre el manejo del dolor sin el uso de sustancias opioides. Primero, sugirió usar kratom, una sustancia no regulada y prohibida en algunos estados. El usuario que creó el hilo preguntó sobre el uso de heroína para tratar el dolor, a lo que Reddit Answers dio varias respuestas: una le advirtió del peligro, mientras que otra lo dirigió a usuarios que habían tenido buenas experiencias usando heroína para tratar el dolor.

Moderadores enojados. El usuario que informó las respuestas, que también es moderador y trabaja en el campo de la salud, publicó un artículo detallado Advertencia del peligro de tal reacción. Se queja de que los moderadores no pueden desactivar Reddit Answers en sus comunidades y que esto es especialmente un problema cuando se trata de temas delicados como la salud física y mental.

Solución. Reddit Answers todavía está en versión beta, pero ya se lanzó en muchos países e idiomas. Con la aplicación móvil, las sugerencias aparecen dentro de los hilos y, como dije, no se pueden eliminar. Luego de las quejas de los usuarios, la plataforma hizo un cambio importante y ahora Reddit Answers no brinda respuestas sobre temas delicados. Ahora verá el siguiente mensaje: «Reddit Answers no proporciona respuestas a algunas preguntas, incluidas aquellas que pueden ser inseguras o violar las políticas de Reddit».

Las respuestas dependen de los usuarios. Según el propio Redditla función de respuesta utiliza inteligencia artificial para permitirnos «obtener respuestas, conocimientos y recomendaciones desde cualquier lugar de Reddit». Esto significa que si un usuario dice en un hilo que la heroína le salvó la vida, puede aparecer en Reddit Answers, y eso es exactamente lo que sucedió. En una plataforma donde el anonimato es la norma, Salidas de sonido cualquiera Confesiones de historias locas Están a la orden del día. Imaginemos una IA reaccionando ante nosotros en función del contenido de Forocoches. Bueno, eso.

Imagen | Brett Jordán En desempaquetar

En | El precio del uso de la IA es el saqueo de todo el contenido de Internet. Y Perplexity es solo el último ejemplo.