ChatGPT, LUCHA POR RESPONDER PREGUNTAS MÉDICAS

Monzontec enero 07, 2024 Curiosidades, Informatica,

Los investigadores de la Universidad de Long Island plantearon 39 consultas relacionadas con medicamentos a la versión gratuita del chatbot de inteli
gencia artificial, todas las cuales eran preguntas reales del servicio de información sobre medicamentos de la Facultad de Farmacia de la universidad.

Luego, las respuestas del software se compararon con las respuestas escritas y revisadas por farmacéuticos capacitados. El estudio encontró que ChatGPT proporcionó respuestas precisas a solo unas 10 de las preguntas, o aproximadamente una cuarta parte del total.

Para las otras 29 preguntas, las respuestas estaban incompletas o inexactas, o no respondían a las preguntas. Los hallazgos fueron presentados el martes en la reunión anual de la Sociedad Estadounidense de Farmacéuticos de Sistemas de Salud en Anaheim, California. ChatGPT, el chatbot de IA experimental de OpenAI, se lanzó en noviembre de 2022 y se convirtió en la aplicación para consumidores de más rápido crecimiento de la historia, con casi 100 millones de personas registrándose en dos meses.

Dada esa popularidad, el interés de los investigadores surgió por la preocupación de que sus estudiantes, otros farmacéuticos y consumidores comunes recurrieran a recursos como ChatGPT para explorar preguntas sobre sus planes de salud y medicamentos, dijo Sara Grossman, profesora asociada de práctica farmacéutica en Long Island. Universidad y uno de los autores del estudio.

El estudio de la Universidad de Long Island no es el primero en plantear preocupaciones sobre las citas ficticias de ChatGPT. Investigaciones anteriores también documentaron que, cuando se hacen preguntas médicas, ChatGPT puede crear falsificaciones engañosas de referencias científicas, incluso enumerando los nombres de autores reales con publicaciones previas en revistas científicas.

Un portavoz de OpenAI, la organización que desarrolla ChatGPT, dijo que aconseja a los usuarios no confiar en las respuestas como sustituto del asesoramiento o tratamiento médico profesional. El portavoz señaló las políticas de uso de ChatGPT , que indican que "los modelos de OpenAI no están ajustados para proporcionar información médica".

La política también establece que los modelos nunca deben usarse para brindar “servicios de diagnóstico o tratamiento para afecciones médicas graves”.

Para obtener información médica en línea, recomendó que los consumidores utilicen sitios web gubernamentales que brinden información confiable, como la página MedlinePlus de los Institutos Nacionales de Salud .