El artículo que muestra a una rata con un falo gigantesco es falso: ni la comunidad científica se salva de las imágenes con IA
Para publicar un artículo científico, debes ser muy cuidadoso. Al menos en teoría porque Gizmodo encontró que no siempre sucede así y que todo puede salirse de control, pues un artículo que abordaba la relación entre las células madre y los testículos de rata no salió como se esperaba. Esta investigación destacó, pero no por sus resultados, sino por las imágenes que contenía.
Y es que el problema radica no solo en que las imágenes fueron generadas por inteligencia artificial, sino que son biológicamente inaceptables al mostrar un gigantesco pene de rata que supera los límites de la propia ilustración (e imaginación, quiero creer). Nosotros, como la pobre rata que carga ese miembro, nos quedamos asombrados de su enormidad.
Apenas al comienzo de la introducción, colocaron la imagen que pueden ver en portada, la cual fue generada por Midjourney (al menos los autores son transparentes en ese sentido) y que, como ya también pudieron apreciar, muestra un enorme falo con al menos cuatro testículos, destacando uno muy, muy grande.
El artículo fue mandado a revisión el pasado noviembre, fue aprobado en diciembre, publicado el 13 de febrero y retractado solo tres días después. La pregunta aquí es cómo los editores de la revista que lo publicó no se percataron de este craso error. Si bien es cierto que Frontiers es una publicadora de acceso abierto, suelen ser igual de cuidadosos para aceptar trabajos.
Un portavoz de Frontiers se puso en contacto con Gizmodo para dar algunas declaraciones, como que «[el artículo] incluía cifras y anotaciones deficientes generadas por un programa de inteligencia artificial, incluida la rata«. Además, aceptaron que este artículo en particular de alguna manera logró pasar los filtros que analizan si una imagen fue o no generada por inteligencia artificial.
Imagen de Guo Xinyu, Dong Liang, Hao Dingjun del artículo ‘Cellular functions of spermatogonial stem cells in relation to JAK/STAT signaling pathway’ (2024).
Dicha situación no solo trajo problemas a Frontiers, sino que uno de los árbitros responsables del artículo sintió la necesidad de hablar al respecto y, como recopila Vice, se deslindó de responsabilidad:
«Como investigador biomédico, solo reviso el artículo basándome en sus aspectos científicos. En cuanto a las figuras generadas por IA, dado que el autor citó Midjourney, es responsabilidad del editor tomar la decisión. Deberían ponerse en contacto con Frontiers sobre su política de figuras generadas por IA».
El problema de las imágenes generadas por inteligencia artificial
Sin duda, este incidente deja en evidencia no solo que hay huecos que llenar en los protocolos de revisión por parte de Frontiers, sino de la ciencia en general. Las imágenes generadas por inteligencia artificial pueden resultar difíciles de clasificar cuando no se está acostumbrado a detectarlas. Ya lo dijeron en una entrevista de Scientific American con Hany Farid, profesor de ciencias de la computación en la Universidad de California quién además es forense digital. Farid menciona que se está volviendo muy complicado detectar lo creado por IA.
«Cada vez es más difícil creer lo que leemos, vemos y oímos en Internet. Eso es preocupante, tanto porque va a haber personas víctimas de deepfakes como porque habrá gente que alegue falsamente la «defensa de la IA» para eludir responsabilidades. […] La detección [se está volviendo] más difícil porque es sutil; es complicada; el listón está cada vez más alto. Puedo contar con los dedos de una mano el número de laboratorios del mundo que pueden hacerlo de forma fiable. Es desconcertante».
Esta tarea resulta complicada incluso para los algoritmos entrenados en su detección, sí, pero en el caso del pene gigante de rata cualquiera podría haberla desacreditado al momento, aunque no sean detectores de imágenes generadas o biólogos acostumbrados a mirar las partes de ratas. Es decir, solo regresemos a la imagen. Se trata de un falo enorme que solo Midjourney sabe hasta dónde se extiende, cuenta con etiquetas extrañas e incluso la placa de Petri en la esquina inferior derecha parece un plato de cereal, solo que en lugar de Corn Flakes nos encontramos con células madre de rata.
Sea como fuere, el artículo lleva más de 24,000 descargas y se ha leído en más de 363,000 ocasiones. El tiempo dirá si formará parte de los artículos retractados más citados de la historia, pero eso es harina de otro costal. Mientras tanto, todos podremos echarnos unas risas en honor a la rata del pene gigante.
