Los expertos advierten que preguntaran a Chatgpt: Es peligroso
Los especialistas advierten sobre el uso de la inteligencia artificial en situaciones que pueden generar riesgos considerables. Por ejemplo,
Sin embargo, esta situación ha encendido las alarmas entre los especialistas en salud mental, quienes advierten que estos sistemas pueden emitir diagnósticos erróneos o brindar consejos que podrían resultar perjudiciales para la persona que busca ayuda. Estos chatbots también tienen la capacidad de replicar prejuicios arraigados o almacenar datos que son confidenciales y sensibles.
Peligros de hablar con ChatGPT sobre salud mental
El psiquiatra Mariano H. Castelli expresó en una entrevista que la información proporcionada por una plataforma de inteligencia artificial carece de criterio profesional. «Es fundamental recordar que ChatGPT no opera como un chatbot diseñado con fines terapéuticos», afirmó.
Castelli comparó esta tendencia creciente, que ha sido promovida por influencers, con prácticas como fingir «realizar autoterapia a través de la lectura de libros».
En sus propias palabras, «Se está utilizando una herramienta que no tiene consciencia ni emoción, que carece de conocimiento sobre la complejidad de la experiencia humana y el valor de la interacción personal». También criticó que estos sistemas «carecen de escucha activa, de un espacio seguro y de la gestión del tiempo, así como de la capacidad de interpretar el lenguaje no verbal».
Urgencia por implementaciones de salvaguardas
La Asociación Americana de Psicología (APA) ha hecho un llamado a las autoridades federales y legislativas para implementar medidas de protección ante el creciente uso de estas aplicaciones por parte de personas en busca de apoyo en salud mental.
Vaile Wright, gerente senior de innovación en atención médica de Monkey, subrayó que, aunque no pueden evitar el uso de estas tecnologías, están buscando asegurar que los consumidores estén al tanto de los riesgos al utilizar chatbots dedicados a la salud mental que no fueron diseñados con ese propósito en mente.
Además, Wright mencionó problemas que pueden surgir, incluyendo diagnósticos erróneos, tratamientos inapropiados y violaciones a la integridad, que son solo algunos de los riesgos asociados con el uso no regulado de estas plataformas.
