La IA generativa puede contribuir a la negación de la ciencia: cómo estar preparado

Más recientemente, si desea obtener más información sobre el controvertido tema científico de la investigación con células madre, la seguridad nuclear, cambio climático– Probablemente buscaste en Google. Con múltiples fuentes, usted elige qué leer, eligiendo en qué sitios o autoridades confiar.

Ahora tienes otra opción: haz tu pregunta a ChatGPT u otro generativo Inteligencia artificial y obtener rápidamente una respuesta corta en forma de párrafo.

ChatGPT no busca en la web como lo hace Google. En su lugar, genera respuestas a consultas mediante la predicción de frases probables a partir de una combinación masiva de información en línea.

Aunque tiene el potencial de ser fortalecido productividadSe ha demostrado que la IA generativa tiene algunos inconvenientes serios. Esto puede crear información errónea. Puede causar «alucinaciones»¹es un término suave para inventar cosas. Y no siempre resuelve exactamente los problemas de razonamiento. Por ejemplo, cuando se le preguntó si tanto un automóvil como un tanque podrían pasar por una puerta, no consideró ni el ancho ni la altura.² Sin embargo, ya se utiliza para la producción de artículos.³ y contenido del sitio web⁴ que puede haber encontrado o como una herramienta en el proceso de escritura. Sin embargo, apenas sabes si lo que estás leyendo fue creado por IA.

Como señalan los autores Ciencia Rechazo: Por qué sucede y qué hacer al respectonos preocupa cómo la IA generativa puede desdibujar las líneas entre la verdad y la ficción para aquellos que buscan información científica autorizada.

Todos los consumidores de medios deben estar más atentos que nunca para verificar la precisión científica de lo que leen. Así es como puede estar preparado en este nuevo panorama de la información.

Cómo la IA generativa puede contribuir a la negación de la ciencia

• Erosión de la confianza epistémica. Todos los consumidores de información científica dependen de los juicios de expertos científicos y médicos. confianza epistémica es el proceso de confiar en el conocimiento recibido de otros. Esto es fundamental para la comprensión y el uso de la información científica. Ya sea que busque información sobre problemas de salud o intente comprender las soluciones al cambio climático, el buscador a menudo tiene una comprensión científica limitada y carece de acceso a evidencia de primera mano. A medida que la cantidad de información en Internet crece rápidamente, las personas a menudo tienen que decidir en qué confiar y en quién confiar. Con el mayor uso de la inteligencia artificial generativa y el potencial de manipulación, creemos que es probable que la confianza caiga más allá de ya lo es.
• Engañoso o simplemente incorrecto. Si hay errores o sesgos en los datos en los que se entrenan las plataformas de IA, esto puede reflejarse en los resultados. En nuestras propias búsquedas, cuando le pedimos a ChatGPT que recreara varias respuestas a la misma pregunta, obtuvimos respuestas contradictorias. Cuando se le preguntó por qué, respondió: «A veces me equivoco». Quizás el desafío más difícil con el contenido generado por IA es saber cuándo está mal.
• La desinformación se difundió a propósito. La IA se puede utilizar para generar desinformación convincente en forma de texto, así como imágenes y videos profundamente falsos. Cuando le pedimos a ChatGPT que escribiera sobre vacunas en un estilo de desinformación, emitió una cita inexistente con datos falsos. Jeffrey Hinton, exjefe de desarrollo de inteligencia artificial en Google, renunció a su trabajo para tener la libertad de hacer sonar la alarma y dijo: «Es difícil ver cómo puedes evitar que los malos actores lo usen para cosas malas».⁵ El potencial para crear y difundir información deliberadamente incorrecta sobre la ciencia ya existía, pero ahora es peligrosamente fácil.
• fuentes fabricadas. ChatGPT proporciona respuestas sin ninguna fuente o, si las fuentes lo solicitan, puede proporcionar respuestas propias. Ambos le pedimos a ChatGPT que creara una lista de nuestras propias publicaciones. Cada uno de nosotros identificó varias fuentes correctas. Otras eran alucinaciones, pero aparentemente autorizadas y en su mayoría creíbles, con colaboradores anteriores reales en revistas que suenan similares. Este ingenio es un gran problema si la lista de publicaciones de un académico transmite autoridad a un lector que no se toma el tiempo de revisarlas.
• conocimiento fechado. ChatGPT no sabe qué pasó en el mundo después de la graduación. Una consulta sobre qué porcentaje del mundo tenía COVID-19 devolvió una respuesta que comienza con «hasta donde yo sé, la fecha de finalización es septiembre de 2021». Dada la rapidez con la que evoluciona el conocimiento en algunos campos, esta limitación puede significar que los lectores recibirán información errónea y desactualizada. Por ejemplo, tenga cuidado si está buscando las últimas investigaciones sobre un problema de salud personal.
• Avance rápido y poca transparencia. Los sistemas de inteligencia artificial continúan volviéndose más poderosos y aprenden más rápido; pueden aprender más información científica errónea en el camino. Google anunció recientemente 25 nuevas aplicaciones de IA integradas en sus servicios. Actualmente, no existen garantías suficientes para garantizar que la IA generativa eventualmente se convierta en un proveedor más preciso de información científica.

Qué puedes hacer

Si usa ChatGPT u otras plataformas de IA, tenga en cuenta que es posible que no sean completamente precisos. La carga de determinar la precisión recae en el usuario.

• Aumenta tu vigilancia. Las aplicaciones de verificación de hechos impulsadas por IA pueden estar disponibles pronto, pero por ahora los usuarios deben hacer su propia verificación de hechos. Hay pasos que recomendamos. Primero: estar alerta. Las personas a menudo comparten reflexivamente la información obtenida durante las búsquedas en las redes sociales con poca o ninguna verificación. Sepa cuándo ser más deliberado y cuándo identificar y evaluar las fuentes de información. Si está tratando de decidir cómo tratar una enfermedad grave o descubrir los mejores pasos a seguir para abordar el cambio climático, tómese el tiempo para consultar las fuentes.
• Mejore su verificación de datos. el segundo paso lectura lateral, un proceso utilizado por verificadores de hechos profesionales. Si lo hay, abre una nueva ventana y busca información de origen. ¿La fuente es confiable? ¿El autor tiene experiencia relevante? ¿Y cuál es el consenso de los expertos? Si no se proporcionan las fuentes o no está seguro de si son válidas, utilice un motor de búsqueda tradicional para encontrar y calificar a los expertos en la materia.
• Evaluar la evidencia. Luego, mire la evidencia y cómo se relaciona con el reclamo. ¿Existe evidencia de que los alimentos genéticamente modificados son seguros? ¿Hay evidencia de que no lo son? ¿Qué es el consenso científico? Evaluar reclamos requiere un esfuerzo más allá de una consulta rápida a ChatGPT.
• Si está comenzando con la IA, no se detenga allí. Tenga cuidado de usarlo como la única autoridad en cualquier asunto científico. Puede ver lo que ChatGPT tiene que decir sobre los organismos modificados genéticamente o la seguridad de las vacunas. Sin embargo, antes de sacar conclusiones precipitadas, realice una búsqueda más exhaustiva utilizando los motores de búsqueda tradicionales.
• Evaluar la plausibilidad. Juzgar si la afirmación es plausible. ¿Es probable que esto sea cierto?? Si una IA hace afirmaciones inverosímiles (e inexactas) como «las vacunas causaron 1 millón de muertes, no COVID-19»,⁶ piensa si eso tiene algún sentido. Haga un juicio previo, luego prepárese para revisar su pensamiento cuando examine la evidencia.
• Desarrollar la alfabetización digital en uno mismo y en los demás.. Todo el mundo tiene que mejorar su juego. Aumente su alfabetización digital y promueva la alfabetización digital en otros si es padre, maestro, mentor o comunidad cabeza. La Asociación Estadounidense de Psicología brinda pautas para la verificación de hechos en línea y recomienda que los adolescentes aprendan habilidades en las redes sociales para minimizar los riesgos para su salud y bienestar. Proyecto de alfabetización de noticias proporciona herramientas útiles para mejorar y apoyar la alfabetización digital.

Equípese con las habilidades que necesita para navegar por el nuevo panorama de la información de IA. Incluso si no usa IA generativa, es probable que ya haya leído artículos creados o basados ​​en ella. Encontrar y evaluar información científica confiable en línea puede llevar tiempo y esfuerzo, pero vale la pena.