Impacto de la Inteligencia Artificial generativa en la publicación científica

Julio Mayol¹

¹ Hospital Clínico San Carlos. Instituto de Investigación Sanitaria San Carlos. Universidad Complutense de Madrid. España

https://doi.org/10.37551/S2254-28842024019

Como citar este artículo:
Mayol J. Impacto de la Inteligencia Artificial generativa en la publicación científica.
Enferm Nefrol. 2024;27(3):187-88

Correspondencia: Julio Mayol E–mail: jmayol@ucm.es

La inteligencia artificial (IA), definida como la capacidad de las máquinas para simular los procesos cognitivos que son propios de la especie humana, se ha convertido en poco más de dos años en una fuerza disruptiva en múltiples sectores de gestión del conocimiento y especialmente en el de la publicación científica¹. El procesamiento de lenguaje natural, habilidad básica de la IA generativa que se ha desarrollado exponencialmente en menos de una década desde la descripción de la arquitectura transformer² permite que las máquinas comprendan, interpreten y generen textos similares a los humanos de manera fluida y plausible³. Esto facilita la escritura automatizada de documentos, la síntesis de estudios previos y la producción de nuevos contenidos. Esto afecta profundamente a la forma en que se produce, comparte, accede, e incluso se evalúa la información. Las aplicaciones de IA generativa van a incrementar la eficiencia y accesibilidad de la investigación, pero también plantean desafíos éticos y de seguridad que requieren una consideración cuidadosa.

Sin entrar en un análisis profundo del funcionamiento de los sistemas de IA generativa, el proceso de generación de contenidos incluye la realización de una pregunta (conocido como prompt), su procesamiento por una red neuronal y la generación de un resultado (output). Específicamente, los chatbots como GPT (Generative Pre-trained Transformer) funcionan mediante el uso de modelos de lenguaje que han sido entrenados en un corpus extenso de texto (normalmente internet, con predominio del inglés como idioma). Estos modelos comprenden y generan lenguaje humano de manera coherente y contextual en múltiples idiomas⁴. Cuando se interactúa con un chatbot, el modelo procesa la entrada de texto, la compara con los patrones aprendidos y genera una respuesta probabilística basada en esta información. Los algoritmos de IA pueden analizar grandes volúmenes de literatura científica, identificando patrones y tendencias que serían imposibles de detectar manualmente. Esto les permite realizar una variedad de tareas, desde responder preguntas hasta generar contenido escrito completo, adaptándose a la naturaleza y al tono de la conversación en tiempo real.

Debido a las capacidades antes descritas, los chatbots sirven para optimizar varias etapas de los procesos de publicación, lo que abarca desde la revisión de literatura previa a la escritura del manuscrito, hasta la ayuda a la formulación de preguntas científicas, la recogida y análisis de datos, la escritura del texto y la difusión de resultados^5-8. La automatización de tareas rutinarias y que consumen gran cantidad de recursos y tiempo libera a los investigadores para la realización de otras tareas. Esto no solo mejora la productividad, sino que también fomenta la generación de investigación de mayor calidad. Por otro lado, los editores podrían utilizar la IA generativa para optimizar el proceso de revisión, por ejemplo, evaluando la novedad de un trabajo, identificando el plagio o seleccionando a los mejores evaluadores para un artículo, así como la edición de manuscritos, de manera que se agilice la publicación⁹.

A pesar de sus ventajas, la IA también presenta desafíos de gran impacto. La capacidad de las aplicaciones para generar contenido sintético, como artículos científicos falsos, plantea serias preocupaciones sobre la integridad y credibilidad de la investigación¹⁰. La proliferación de información falsa puede socavar la confianza en la ciencia y dificultar la toma de decisiones informadas.

El uso de datos sintéticos en la investigación también plantea cuestiones éticas y metodológicas. Si bien estos datos pueden ser útiles en determinadas circunstancias, su validez y representatividad deben evaluarse cuidadosamente para evitar sacar conclusiones incorrectas o sesgadas. Es fundamental establecer protocolos rigurosos de verificación y validación de los datos sintéticos utilizados en la investigación, garantizando así la fiabilidad de los resultados obtenidos. La privacidad y la seguridad de los datos son otras dos importantes preocupaciones. La IA a menudo requiere acceso a grandes cantidades de información personal y confidencial, lo que aumenta el riesgo de filtraciones y uso indebido. Es necesario establecer medidas de protección sólidas para salvaguardar la privacidad de las personas y garantizar la seguridad de los datos.

Para aprovechar al máximo el potencial de la IA en las publicaciones científicas, es fundamental abordar estos desafíos de forma proactiva y responsable, estableciendo estándares claros de transparencia y autenticidad para el contenido generado por IA, lo que permitirá a los lectores distinguir fácilmente entre el trabajo humano y el generado por máquinas^6,9-11.

En resumen, la IA generativa está transformando el panorama de la publicación científica, creando oportunidades sin precedentes para acelerar el descubrimiento y democratizar el acceso al conocimiento. Sin embargo, su adopción responsable requiere una atención cuidadosa a los desafíos éticos y de seguridad. Al establecer estándares claros, fomentar la colaboración y priorizar la protección de datos, podemos garantizar que la IA se convierta en una herramienta poderosa para el avance de la ciencia, en lugar de una amenaza para su integridad. El futuro de la investigación científica depende de nuestra capacidad para aprovechar el potencial de la IA de manera ética y responsable. Además, es crucial que se implementen mecanismos de transparencia y rendición de cuentas para garantizar que los algoritmos utilizados en la investigación científica sean justos e imparciales. Esto implica la necesidad de desarrollar marcos regulatorios sólidos que supervisen el uso de la IA generativa en la investigación científica y aseguren que se respeten los principios éticos fundamentales¹².

BIBLIOGRAFÍA

1. Kurian N, James D, Varghese V, Cherian JM, Varghese KG. Artificial intelligence in scientific publications. JADA. 2023;154:1041-3.

2. Vaswani A, Shazeer N, Parmar N, Uszkoreit J, Jones L, Gomez AN, Kaiser Ł, Polosukhin I. Attention is all you need. In: Proceedings of the 31st Conference on Neural Information Processing Systems (NIPS 2017); 2017; Long Beach, CA, USA.

3. Marquez BY, Alanis A, Magdaleno-Palencia JS, Quezada A. Artificial Neural Networks Applied to Natural Language Processing in Academic Texts. In: Guarda T, Portela F, Augusto MF, editors. Advanced Research in Technologies, Information, Innovation and Sustainability. ARTIIS 2022. Communications in Computer and Information Science, vol 1675. Cham: Springer; 2022.

4. Ji Y, Bosselut A, Wolf T, Celikyilmaz A. The Amazing World of Neural Language Generation. In Proceedings of the 2020 Conference on Empirical Methods in Natural Language Processing: Tutorial Abstracts, pages 37-42, Online. Association for Computational Linguistics; 2020. [consultado 6 Ago 2024]. Disponible en: https://doi.org/10.18653/V1/2020.EMNLP-TUTORIALS.7

5. Sabzalieva E, Valentini A. ChatGPT e inteligencia artificial en la educación superior: Guía de inicio rápido. Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO); 2023. [consultado 6 Ago 2024]. Disponible en: https://unesdoc.unesco.org/ark:/48223/pf0000385146_spa

6. Salvagno M, Taccone FS, Gerli AG. Can artificial intelligence help for scientific writing?. Crit Care. 2023;27(75).

7. Vishniac ET. Editorial: On the Use of Chatbots in Writing Scientific Manuscripts. BASS. 2023;55.

8. Thondebhavi Subbaramaiah M, Shanthanna H. ChatGPT in the field of scientific publication – Are we ready for it?. Indian Journal of Anaesthesia. 2023;67:407-8.

9. Gilat R, Cole BJ. How Will Artificial Intelligence Affect Scientific Writing, Reviewing and Editing? The Future is Here. Arthroscopy. 2023;39:1119-20.

10. Gu J, Wang X, Li C, Zhao J, Fu W, Liang G, Qiu J. AI-enabled image fraud in scientific publications. Patterns. 2022;3:1-4.

11. Elali F, Rachid LN. AI-generated research paper fabrication and plagiarism in the scientific community. Patterns. 2023;4:1-4.

12. Benrimoh D, Israel S, Perlman K, Fratila R, Krause M. Meticulous Transparency-An Evaluation Process for an Agile AI Regulatory Scheme. In: Mouhoub M, Sadaoui S, Ait Mohamed O, Ali M, editors. Recent Trends and Future Technology in Applied Intelligence. IEA/AIE 2018. Lecture Notes in Computer Science, vol 10868. Cham: Springer; 2018.

Este artículo se distribuye bajo una Licencia Creative Commons Atribución–NoComercial 4.0 Internacional.
https://creativecommons.org/licenses/by-nc/4.0/